AI-fraude, voice cloning en impersonatie

AI maakt WK-oplichterijen geavanceerder, waarschuwen cybersecurity-experts. Valse tickets, gekloonde websites en phishingc Campagnes zijn door AI steeds overtuigender. Traditionele waarschuwingssignalen zoals spelfouten verdwijnen. Fans moeten extra alert zijn.

In Derbyshire, Engeland, wordt een politieagent onderzocht die ervan wordt beschuldigd generatieve AI te hebben gebruikt om in meerdere zaken bewijsmateriaal te fabriceren. Het is het eerste geval in het Verenigd Koninkrijk, kort nadat het nieuwe nationale PoliceAI-centrum agenten had geadviseerd geen generatieve AI te gebruiken voor gerechtelijke verklaringen vanwege hallucinaties.

De rechtbank van Amsterdam heeft een man veroordeeld tot dertig maanden cel, waarvan zes voorwaardelijk, voor het openen van tientallen bankrekeningen met vervalste identiteitsbewijzen via deepfakes. De fraude vond vorig jaar plaats bij ABN AMRO.

Visa heeft aangekondigd dat het zijn betalingsnetwerk integreert in ChatGPT, waardoor de AI-chatbot zelfstandig aankopen kan doen namens gebruikers. De AI kan producten selecteren en definitief bestellen, een stap die volgens Visa vraagt om een ander niveau van vertrouwen. Er zijn zorgen over misbruik, omdat ChatGPT eerder frauduleuze winkelclonen aanbeval.

Google heeft een rechtszaak aangespannen tegen het Chinese cybercriminele netwerk Outsider Enterprise, dat AI gebruikte om via sms-berichten slachtoffers op te lichten. Volgens Google stuurde de groep 2,5 miljoen sms'jes in twee weken en werden honderdduizenden slachtoffers opgelicht. De criminelen gebruikten Google's eigen AI-model Gemini om nepsites te maken.

Het WK voetbal 2026 wordt het eerste grote mondiale sportevenement in het tijdperk van ai-gedreven cyberaanvallen. Check Point Research meldt een verdubbeling van verdachte domeinregistraties en een zestigvoudige toename van frauduleuze gokapps. Agentic AI verlaagt de drempel voor cybercriminelen, waarschuwen experts van Palo Alto Networks en Unit 42. Supporters moeten extra waakzaam zijn voor phishing, fraude met QR-codes en ddos-aanvallen op infrastructuur.

ChatGPT blijkt nepwebshops aan te bevelen die persoonlijke gegevens en creditcardinformatie stelen. Volgens scam-checkdienst Ask Silver raadt de OpenAI-chatbot gekloonde versies aan van failliete merksites, zoals die van het Britse Russell & Bromley. Experts vrezen dat het onderliggende taalmodel is vergiftigd met kwaadaardige content in de trainingsdata.

De Bank of England heeft gewaarschuwd voor AI-gegenereerde oplichting nadat deepfakevideo's van Nigel Farage en gouverneur Andrew Bailey online verspreid werden. De video's tonen de twee die op de set van Question Time vechten. Bailey roept op tot het melden van dergelijke video's. Ook Martin Lewis waarschuwt voor een 'wilde westen' aan AI-oplichting.

Aviva heeft een recordbedrag van £230 miljoen aan verzekeringsfraude ontdekt en gebruikt AI-tools om de groeiende problemen tegen te gaan. Het bedrijf zet AI in om valse documenten en beelden te herkennen die door fraudeurs met AI worden gegenereerd. De AI functioneert als filter voor menselijke onderzoekers.

Verzekeraar Aviva heeft in 2025 een recordbedrag van £230 miljoen aan frauduleuze claims ontdekt, waarbij fraudeurs kunstmatige intelligentie gebruiken om ongevalscenario's en documenten te vervalsen. Het bedrijf identificeerde meer dan 18.400 verdachte claims. Aviva zet zelf ook AI-tools in om fraude sneller op te sporen.

Oplichters laten nepsites verschijnen in ChatGPT-zoekresultaten, waardoor shoppers denken dat ze op een officiële winkel zitten. De AI-assistent wordt mogelijk 'vergiftigd' met kwaadaardige content. Consumenten worden gewaarschuwd niet blind te vertrouwen op AI-aanbevelingen en rechtstreeks naar retailers te gaan.

WIRED bericht over meerdere AI-veiligheidsincidenten. Hackers misbruikten Meta's AI-ondersteuning om Instagram-accounts over te nemen, waaronder die van Barack Obama. Ook assisteren AI-ingenieurs van Anthropic de NSA bij het leren gebruiken van de Mythos-tool voor hackdoeleinden. Daarnaast introduceert Google een functie tegen AI-gestuurde nabootsing-oplichting op Android.

Een AI-gegenereerde toespraak toegeschreven aan de Namibische president Netumbo Nandi-Ndaitwah werd massaal gedeeld op sociale media. De toespraak veroordeelde corruptie en buitenlandse uitbuiting, maar werd door de president zelf afgewezen als een vervalsing. Het artikel analyseert waarom de nep-toespraak zoveel weerklank vond in Afrika en het Caribisch gebied, wijzend op een leiderschapscrisis en het verlangen naar moreel leiderschap.

Oplichtingscentra in Zuidoost-Azië gebruiken kunstmatige intelligentie, malware en automatisering om fraude op grote schaal uit te voeren. Volgens een UNODC-rapport worden AI-tools zoals deepfakes, stemklonen en synthetische identiteiten ingezet. Dit dwingt APAC-beveiligingsteams om hun aanpak van phishing, identiteitscontrole en mobiele risico's te herzien.

Miso Labs heeft MisoTTS uitgebracht, een open-weights text-to-speech-model met 8 miljard parameters. Het model gebruikt residual vector quantization (RVQ) om een breed scala aan spraaknuances te genereren en is geïnspireerd op de Sesame CSM-architectuur. MisoTTS condenseert op zowel tekst als audiocontext, waardoor het de toon van de spreker kan overnemen. Het model is beschikbaar onder een aangepaste MIT-licentie.

Meta's nieuwe AI-assistent, bedoeld om accountproblemen te helpen oplossen, bleek eenvoudig te misleiden. Hackers konden via een VPN de locatie van accounteigenaren nabootsen en de chatbot overhalen het e-mailadres te wijzigen, waarmee tweestapsverificatie werd omzeild. Het lek bestond al maanden; Meta heeft het inmiddels gedicht.

Google heeft een nieuwe functie voor Android-apparaten aangekondigd die oproepen kan verifiëren om AI-gestuurde identiteitsfraude te voorkomen. De functie gebruikt een digitale handdruk tussen apparaten om te controleren of een oproep echt van het vermeende contact afkomstig is. Als een oplichter een nummer spoofed maar de verificatie niet kan leveren, toont Android een waarschuwing. De functie wordt uitgerold via de Phone by Google-app op Android 12 en nieuwer, beginnend met Pixel-telefoons.

Google heeft een functie aangekondigd die nepbelletjes detecteert om AI-deepfake-oplichting te voorkomen. De functie, genaamd fake call detection, wordt deze maand wereldwijd uitgerold in Phone by Google voor Android 12+ apparaten, te beginnen met Pixel-toestellen. De functie werkt standaard op de achtergrond en gebruikt een digitale handdruk tussen apparaten om te verifiëren of een oproep legitiem is.

ElevenLabs houdt de ElevenLabs Summit in Warschau, met 2.500 deelnemers uit Polen en Europa. De top vindt plaats in de Nationale Opera en brengt ondernemers, onderzoekers en politici samen om de toekomst van AI te bespreken. Medeoprichters Piotr en Mateusz presenteren de nieuwste ontwikkelingen op het gebied van AI-stemtechnologie.

Tientallen mensen hebben bij de Amerikaanse Federal Trade Commission geklaagd over Norse Atlantic Airways' op AI gebaseerde klantenservice. De luchtvaartmaatschappij gebruikt AI-agents zoals Freya om 99 procent van de vragen af te handelen, maar klanten kunnen nauwelijks met een mens praten. Oplichters maken misbruik van deze situatie door neppe klantenservicenummers te plaatsen, waardoor sommige klanten duizenden dollars verliezen.

Taylor Swift's management heeft handelsmerkaanvragen ingediend voor audiofragmenten van haar stem en haar visuele gelijkenis. Dit wijst op een verschuiving van auteursrecht naar handelsmerkrecht in de strijd tegen AI-namaak. Hoewel auteursrecht creatieve werken beschermt, beschermt het niet tegen AI-gegenereerde imitaties die consumenten misleiden over goedkeuringen. Handelsmerkrecht en publiciteitsrechten bieden mogelijk betere bescherming tegen dergelijke misleiding.

Taylor Swift heeft een handelsmerk aangevraagd voor haar stem en podiumimago, als eerste muziekartiest die deze stap zet. De zet roept vragen op over auteursrecht en de rechten van artiesten in het tijdperk van AI. Het artikel bespreekt hoe AI gegenereerde imitaties en deepfakes juridische uitdagingen vormen, en hoe Swifts handelsmerk mogelijk een krachtig afschrikmiddel kan zijn tegen toekomstige vervalsingen.

Onderzoekers uit China en Singapore hebben een methode ontwikkeld om 'adversarial audio' te maken die onhoorbaar is voor mensen, maar AI-stemmodellen kan misleiden. Door deze geluiden te verbergen in ogenschijnlijk onschuldige audio, zoals muziek of films, kunnen aanvallers bijvoorbeeld spraakassistenten van Microsoft en Mistral overnemen. De techniek werkt alleen op opensource-modellen, maar omdat veel commerciële AI-systemen daarop zijn gebaseerd, is de kwetsbaarheid breed toepasbaar.

De NTSB heeft dossiers gesloten nadat buitenstaanders met AI de stemmen van omgekomen piloten nabootsten uit een spectrogram. Een YouTuber gebruikte Codex om audio te reconstrueren uit de data van de zwarte doos. De overheidsinstantie sluit nu de openbare toegang om misbruik te voorkomen.

Tijdens Cybersec Europe 2026 stelden Frank Benus en Bart van den Branden van Cegeka dat AI net zo effectief is in het maken van phishingmails als mensen. AI wordt ingezet om perfect ogende en foutloze phishingmails te genereren, waarmee aanvallers multifactorauthenticatie kunnen omzeilen via zeven methoden. De oplossing ligt volgens de experts in 'behavioral AI' dat afwijkingen in ogenschijnlijk perfecte mails kan opsporen.

Ocean, een agentief e-mailbeveiligingsplatform, heeft $28 miljoen opgehaald in een financieringsronde onder leiding van Lightspeed Venture Partners. Het platform claimt dat zijn AI de context van elke inkomende e-mail grondig kan analyseren om fraude en imitatiepogingen te detecteren. Medeoprichter Shay Shwartz, een voormalig tienerhacker en cybersecurity-expert, benadrukt dat AI de schaal van phishing-aanvallen enorm heeft vergroot en dat een nieuwe aanpak nodig is.

Een gezamenlijk onderzoek van The Florida Trib en de KCRW-podcast Question Everything onthulde dat de zogenaamd onafhankelijke lokale nieuwssite South Florida Standard in werkelijkheid een AI-gegenereerd nepdorp was, bemand door fictieve verslaggevers met AI-gemaakte profielfoto's en verzonnen biografieën. Na de onthulling stopte de site met bestaan. Eigenaar Drew Chapin gaf toe in totaal 18 AI-aangedreven nieuwssites te hebben opgezet, waarmee hij in twintig minuten een nepnieuwssite kon maken voor slechts tien dollar aan domeinkosten.

OpenAI heeft het AI-bedrijf Weights.gg overgenomen, een start-up gespecialiseerd in het klonen van stemmen. Het team en de technologie zijn inmiddels ondergebracht bij OpenAI. De overname past binnen de ontwikkeling van stemtechnologie, maar een standalone stemproduct wordt niet verwacht.

OpenAI heeft stilletjes de startup Weights.gg overgenomen, die bekend stond om het klonen van beroemde stemmen zoals Taylor Swift en Donald Trump. Het team van ongeveer zes medewerkers werkt nu bij OpenAI, maar het bedrijf is niet van plan een standalone kloningsproduct uit te brengen. In plaats daarvan wordt de stemtechnologie in andere producten zoals ChatGPT verwerkt.

Een onderzoek van The Press Gazette wijst erop dat vier financiële journalisten die artikelen schreven voor grote media zoals Forbes en HuffPost, mogelijk valse personages zijn die door een PR-firma genaamd MarketAcross worden gebruikt om crypto te promoten. De journalisten, onder wie Nikolai Kuznetsov en Reuben Jackson, hebben geen duidelijke online aanwezigheid en gebruiken mogelijk AI-generatie-afbeeldingen. Ze hebben vaak geleid tot investeringen in crypto’s van MarketAcross-clients, waaronder het mislukte project Gladius. De betrokken PR-firma ontkent echter dat ze deze journalisten in dienst hebben.

Generatieve AI en autonome agents verhogen identiteitsdiefstal in de VS tot een industrieel niveau. Volgens Experian speelden AI-tools een rol in 40 procent van de datalekken die vorig jaar werden onderzocht. Fraudeurs gebruiken tools zoals FraudGPT om geldige sociale beveiligingsnummers te vinden en diepfake-identiteiten te creëren. De schade door fraude wereldwijd bedraagt nu meer dan 534 miljard dollar.

ElevenLabs, een bedrijf dat zich richt op stem- en taaltechnologie, heeft 180 miljoen dollar opgehaald in een Series C-fundingronde. Het bedrijf wil met deze investering de technologie verder ontwikkelen om content wereldwijd toegankelijk te maken in elke taal en stem. De financiële steun komt uit nieuwe investeerders, waardoor ElevenLabs zijn positie op de markt versterkt. Het bedrijf is al bekend vanwege zijn geavanceerde stemtechnologie en het doel om spraak en taal technisch beschikbaar te maken voor iedereen.

OpenAI en AARP werken samen om oudere mensen te helpen veiliger online te zijn met nieuwe AI-training, tools om fraude te herkennen en landelijke programma's via OpenAI Academy en OATS’ Senior Planet-initiatief. De samenwerking omvat onder andere educatieve video's over het herkennen van fraude en het gebruik van ChatGPT als hulpmiddel. De initiatieven zijn onderdeel van een breder streven om AI-educatie toegankelijk te maken voor iedereen.

SafetyKit gebruikt OpenAI’s GPT-5 om risicobewaking te verbeteren, met een nauwkeurigheid van 95% bij het beoordelen van 100% van de klantcontent. De oplossing maakt gebruik van multimodale agents die tekst, beelden en UI-analyse combineren om fraude en verboden activiteiten te detecteren. Sinds zes maanden is het aantal verwerkte tokens per dag gestegen van 200 miljoen naar 16 miljard.

OpenAI heeft een nieuw rapport gepubliceerd waarin gevalstudies worden beschreven over hoe de organisatie schadelijke toepassingen van AI detecteert en onderdrukt. Het rapport benadrukt het gebruik van AI als hulpmiddel voor experten om activiteiten zoals sociale engineering, cyberespionage en bedrog te ontdekken en te blokkeren. De inspanningen zijn onderdeel van OpenAI’s missie om AI te laten werken voor het goede van de mensheid.

OpenAI geeft meer inzicht in hoe Voice Engine, hun tekst-naar-spraakmodel, werkt en hoe ze veiligheidsonderzoek uitvoeren. Het model kan aangepaste stemmen genereren op basis van 15 seconden spraakvoorbeeld en tekst. Voice Engine is nog niet algemeen beschikbaar en wordt beperkt getest met betrokken partners. De technologie wordt gebruikt voor onderzoek, educatie en veiligheidsontwikkeling, met nadruk op het voorkomen van misbruik en het beschermen van persoonlijke stemmen.

OpenAI heeft samen met castingprofessionals en producenten een uitgebreid proces gevolgd om de stemmen voor ChatGPT te selecteren. Van de meer dan 400 ingeschreven stemacteurs zijn uiteindelijk vijf stemmen gekozen, waaronder Breeze, Cove, Ember, Juniper en Sky. In mei 2024 heeft OpenAI aangekondigd dat het gebruik van Sky’s stem tijdelijk is gestaakt vanwege bezwaren van Scarlett Johansson.

OpenAI deelt lessen uit een kleine voorvertoning van Voice Engine, een model dat aangepaste stemmen kan genereren. Het model gebruikt tekst en een 15-secundig audiobestand om natuurlijke spraak te creëren. OpenAI benadrukt de noodzaak van verantwoorde toepassing van synthetische stemmen en werkt samen met partners om risico's te beperken.