Moderna bedrägerier – så används identitetsstöld och deepfakes

Nya utvecklingar inom maskininlärning och artificiell intelligens (AI) har lett till en mer komplex hotbild för internetanvändare.

Cyberkriminella utnyttjar verktyg som bygger på AI-teknologi för att utveckla mer effektiva attacker. Automatisering av bedrägerier, tillgång till mer avancerade tekniska resurser, och ett mer komplext digitalt landskap har försatt vanliga användare i en utsatt position.

Trots ökad användning av säkerhetsverktyg som antivirus, VPN och webbläsarskydd är hoten på nätet mer påtagliga än någonsin tidigare.

Förr i tiden var cyberkriminella tvungna att förlita sig på otympliga verktyg för att kunna genomföra sina bedrägerier. Dåliga översättningar, felaktigt språkbruk och en bristande teknisk kompetens innebar ofta att deras försök var enkla att upptäcka. Numera används mer sofistikerade metoder, däribland AI- och så kallad deepfake-teknologi som gör det möjligt att generera falska bilder, texter, samt ljud- och videoklipp.

Bedragare använder genererat innehåll för att framställa sig för att vara en pålitlig individ. Detta kan vara kändisar, entreprenörer, TV-värdar, internetprofiler eller anhöriga till offret. Den tekniska tröskeln för att generera denna typ av avancerade förfalskningar har sjunkit kraftigt och förekomsten samt effektiviteten av bedrägerier på nätet har som följd ökat avsevärt.

Kända profiler som ofrivilliga deltagare

Eftersom en allt större skara av vårt samhälles kändisar numera använder nätet frekvent –  eller blev kända via just nätet – är det mer trovärdigt för dem att interagera direkt med sina fans. Att bli kontaktad av en känd person är inte lika överraskande som det en gång var (detta varierar såklart beroende på hur känd personen är) och när en välkänd person initierar kontakt riskerar det sunda förnuftet att läggas åt sidan.

Vanligtvis rör det sig inte om en “storkändis”, utan bedragarna håller sig till medelstora profiler. Om bedragaren utger sig för att vara den semi-kända finansiella rådgivaren Per Åke med 25 000 Instagram-följare är offret mer benäget att godta kommunikationen som legitim.

Investeringsbedrägeri

Och det är faktiskt just finansprofiler som är vanligast när det kommer till identitetsstöld i bedrägerisyfte. Bedragarna påstår sig kunna erbjuda en lukrativ investering och skickar länkar till falska investeringsplattformar (som ofta efterliknar en legitim motsvarighet) där användaren dras in i en långvarig process. 

Först ombeds offret att sätta in ett mindre startkapital för att “testa” plattformen. Denna initiala investering manipuleras sedan för att snabbt och kraftigt öka i värde, vilket ger offret förtroende för att plattformen erbjuder en legitim metod för att tjäna pengar.

När offret sedan övertygats kommer de i de flesta fall att sätta in en större summa pengar. Beroende på hur mycket pengar offret har tillgång till (bedragarna bildar sig en uppfattning om detta i förväg) kommer de därefter att stänga plattformen och försvinna spårlöst.

Det finns många olika sorters investeringsbedrägerier. För att undvika att råka ut för dem bör du alltid verifiera allt du ser på nätet på egen hand. Hämta information från olika källor och jämför det du hittar. Om någon försöker hetsa dig bör du vara extra vaksam.

Verifiera användares identitet på egen hand

Som användare i det moderna digitala landskapet är det viktigt att komma ihåg att man inte kan verifiera någons identitet med enbart bilder eller videoklipp. I skrivande stund är deepfake-teknologi fortfarande inte fullt kapabel till att generera övertygande videoklipp som strömmas live (till exempel över videosamtal), men det finns ingen anledning att tro att denna teknologi inte snart är här. Dessutom kan man fortfarande luras om man inte är uppmärksam.

För att verifiera någons identitet, sök upp deras kontaktuppgifter och kontakta dem på eget initiativ. Sammanställ och jämför gärna flera källor och håll dig enbart till legitima hemsidor. 

Tyvärr går vi mot en värld där det enda “riktiga” sättet att verifiera någons identitet är att faktiskt träffa dem i verkligheten. Självklart kan man lära sig att känna igen deepfakes, men det kräver att man kontinuerligt håller sig uppdaterad gällande befintlig teknologi (som ju hela tiden utvecklas).

Ett skarpt öga är ett bra försvar, men det går fortfarande att luras, så se till att ta för vana att granska all information du ser på nätet – i synnerhet om någon kontaktar dig direkt.

Bakomliggande teknologi

Teknologin som ligger bakom moderna deepfake- och AI-metoder är maskininlärning. Maskininlärning är ett samlingsbegrepp som bland annat inkluderar neurala nätverk, vilket är datastrukturer som tränats med massiva mängder insamlad data.

Dessa nätverk kan användas för att skapa nya bilder, ljudfiler, videoklipp, osv, som efterliknar träningsmaterialet. En modell kan skapa övertygande innehåll utan större svårigheter genom enbart en enkelt användarprompt, vilket gör det till ett effektivt verktyg för kriminella trots att de kanske saknar teknisk kompetens.

Offentliga personers ansikten är enklare att återskapa genom dessa modeller eftersom de sannolikt förekommer oftare i träningsdatan. Detta ger algoritmerna bättre underlag till att skapa en övertygande liknelse. På liknande sätt kan en bedragare använda bilder publicerade på sociala medier av privata individer för att skapa inriktade angrepp där de utger sig för att vara en anhörig.

Saker att hålla utkik efter

Som tidigare nämnt så har genererat innehåll ofta specifika tekniska brister som gör det möjligt att upptäcka om någonting är en deepfake.

Är man tillräckligt kunnig, observant och har sett mycket genererat innehåll tidigare, är det enklare att känna igen. Mindre artefakter som osynkroniserade rörelser (tal är vanligtvis svårt för AI-systemen att få till) och små detaljer som suddiga konturer runt ansiktet och inkongruenta bildelement.

Det är också vanligt att ljus och skuggor inte matchar varandra, att ansikten är stelare än vanligt och att ljudet har en metallisk klang. Intuitivt finns det någonting som helt enkelt “känns fel” med AI-innehåll, men det är bra att känna igen mer objektiva mönster, speciellt i takt med att systemen blir bättre och mer ”intuitivt övertygande” (förutsatt att det överhuvudtaget är möjligt).