Google heeft een rechtszaak aangespannen tegen een groep Chinese fraudeurs die Gemini gebruikte om op grote schaal nepwebsites, phishingberichten en andere vormen van online oplichting te verspreiden.
AI maakt veel dingen makkelijker. Helaas geldt dat ook voor internetoplichters en cybercriminelen.
Google maakt bekend dat het deze week een rechtszaak heeft aangespannen tegen een Chinese organisatie die volgens het bedrijf zijn Gemini AI-model gebruikte om een omvangrijke fraudeoperatie op te zetten. Daarbij zouden duizenden nepwebsites zijn gemaakt die zich voordeden als onder meer Google, YouTube en Amerikaanse overheidsdiensten.
Miljoen misleidende url’s
Volgens Google gaat het om één van de grootste AI-gedreven fraudezaken die het bedrijf tot nu toe heeft onderzocht. De operatie zou honderdduizenden slachtoffers hebben geraakt en voor miljoenen dollars aan schade hebben gezorgd.
De cijfers zijn opvallend. Google spreekt over ruim 9.000 frauduleuze websites, meer dan een miljoen misleidende URL’s en miljoenen berichten die gebruikers naar die websites moesten lokken. In een periode van slechts twee weken zouden Android-gebruikers alleen al ruim 55.000 verdachte sms-berichten hebben gemeld.
Phising op grote schaal
Wat deze zaak interessant maakt, is dat het niet draait om een nieuw type fraude, maar om de schaal waarop die plaatsvindt. Oplichters maken al jaren nepwebsites en phishingberichten. Met generatieve AI wordt het alleen veel eenvoudiger om zulke campagnes sneller, overtuigender en in grotere aantallen op te zetten.
Google werkte tijdens het onderzoek samen met de FBI en telecomproviders als AT&T, T-Mobile en Verizon. Tegelijkertijd roept het bedrijf Amerikaanse politici op om nieuwe wetgeving in te voeren die beter aansluit op AI-gedreven fraude.
Volgens de FBI gebruiken criminelen AI steeds vaker om berichten geloofwaardiger te maken en slachtoffers moeilijker onderscheid te laten maken tussen echt en nep.
Discussie verschuift
Dat lijkt misschien een ver-van-ons-bed-show, maar dezelfde technieken duiken inmiddels ook buiten de Verenigde Staten op. Van neppe pakketmeldingen tot overtuigende phishingmails: AI verlaagt de drempel voor fraudeurs die grote groepen mensen tegelijk willen bereiken.
De technologie zelf staat daarbij niet terecht. Wel laat deze zaak zien hoe snel de discussie rond AI verschuift van wat er allemaal mogelijk is naar hoe we voorkomen dat die mogelijkheden worden misbruikt.
Foto: miss.cabul / Shutterstock.com
