Deepfakes, watermarking en content provenance

Uit onderzoek van videoplatform Kapwing blijkt dat bijna 60 procent van de video's op een nieuw TikTok-account onder AI-slop valt. Vooral bij kindercontent is het probleem groot: onder hashtag #cartoonkids is 97 procent AI-gegenereerde rommel. Jonge kinderen kunnen het verschil tussen echte en nep-informatie vaak niet onderscheiden, wat schadelijk kan zijn.

AI-gegenereerde beelden kunnen wetenschappelijke tijdschriften misleiden en het vertrouwen in de wetenschap ondermijnen. Onderzoekers waarschuwen dat visueel bewijs aan geloofwaardigheid verliest omdat iedereen met AI overtuigende nepbeelden kan maken. Transparantie over de herkomst van beelden wordt cruciaal geacht.

Een onderzoek van The Guardian onthult dat merken steeds vaker AI-gegenereerde influencers inzetten op sociale media zonder dit te vermelden. De content lijkt op echte klantervaringen, maar bevat geen duidelijke indicatie dat de personen niet echt zijn. Consumentenorganisatie Which? roept op tot meer transparantie. De ASA heeft geen specifieke regels voor AI-labeling, maar de Europese AI-wet zal vanaf augustus verplichte labeling vereisen.

Handelsorganisatie Eurocommerce, met leden als Amazon, H&M en IKEA, wil dat AI-gegenereerde reclame wordt vrijgesteld van de transparantieregels van de EU AI Act. Zalando zegt dat 90 procent van de marketingcontent op het platform al AI-gegenereerd is. Volgens de organisatie is een AI-gegenereerde bankafbeelding geen deepfake.

Uit een rapport van videobewerkingsbedrijf Kapwing blijkt dat bijna 60 procent van de video's op de 'For You'-pagina van nieuwe TikTok-gebruikers uit AI-rommel bestaat. Vooral kindercontent wordt overspoeld: de hashtag #cartoonkids bevatte bijna alleen AI-gemaakte video's. TikTok kondigde in november aan dat gebruikers de hoeveelheid AI-content kunnen filteren, en YouTube werkt aan labeling van AI-video's.

In Derbyshire, Engeland, wordt een politieagent onderzocht die ervan wordt beschuldigd generatieve AI te hebben gebruikt om in meerdere zaken bewijsmateriaal te fabriceren. Het is het eerste geval in het Verenigd Koninkrijk, kort nadat het nieuwe nationale PoliceAI-centrum agenten had geadviseerd geen generatieve AI te gebruiken voor gerechtelijke verklaringen vanwege hallucinaties.

De rechtbank van Amsterdam heeft een man veroordeeld tot dertig maanden cel, waarvan zes voorwaardelijk, voor het openen van tientallen bankrekeningen met vervalste identiteitsbewijzen via deepfakes. De fraude vond vorig jaar plaats bij ABN AMRO.

De Europese Commissie heeft op 10 juni de definitieve gedragscode gepubliceerd voor het labelen van AI-inhoud, als onderdeel van de AI-verordening. Vanaf 2 augustus 2026 moeten deepfakes en AI-gegenereerde teksten over onderwerpen van openbaar belang worden gelabeld. Ook moeten gebruikers worden geïnformeerd wanneer ze met een AI-systeem communiceren. De gedragscode is vrijwillig, maar de verplichtingen uit artikel 50 zijn dat niet.

De PVV van Geert Wilders heeft een schadevergoeding betaald aan rechtbanktekenaar Petra Urban nadat een partijlid haar tekening zonder toestemming met AI had aangepast om de afgebeelde Syrische broers dreigender te laten lijken. Urban sprak van een 'zorgwekkende ontwikkeling' en benadrukte het belang van neutraliteit in journalistiek werk.

Apple introduceert in iOS 27 nieuwe AI-functies in de Foto's-app, zoals Extend en Spatial Reframe, die fake pixels toevoegen. Camera-chef Jon McCormack zegt dat Apple AI niet zomaar inzet, maar gericht problemen oplost. Ook komt er een onzichtbaar watermerk via Google DeepMind's SynthID.

Uit een WIRED-onderzoek blijken tientallen 'genudificeerde' deepfake-afbeeldingen en -video's op de website van Grok te staan, waaronder niet-consensuele afbeeldingen van beroemdheden en ten minste één Amerikaanse politica. xAI heeft ondanks eerdere beloften de productie van schadelijke deepfakes niet effectief kunnen voorkomen. Andere AI-systemen zoals OpenAI's ChatGPT, Meta AI en Anthropic's Claude hebben strengere veiligheidsmaatregelen.

Deezer lanceert een gratis online tool die playlists van verschillende streamingdiensten scant om AI-gegenereerde nummers te identificeren. De tool ondersteunt 27 talen en is compatibel met platforms zoals Spotify, Apple Music, SoundCloud en YouTube Music. Deezer positioneert zich zo als tegenstander van AI-muziek en verwijdert actief AI-nummers uit aanbevelingen. De aankondiging volgt op de onthulling dat 44% van alle nieuwe muziek op Deezer AI-gegenereerd is.

Deezer biedt een gratis AI-muziekdetector waarmee gebruikers op elke grote streamingdienst kunnen controleren of er AI-gegenereerde nummers in hun afspeellijsten zitten. Volgens CEO Alexis Lanternier heeft 43 procent van de gebruikers die overstappen van andere platforms naar Deezer al AI-tracks in hun afspeellijsten. De tool is beschikbaar in 27 talen en ondersteunt 20 platforms.

OpenAI ondersteunt de EU-gedragscode voor transparantie van AI-inhoud en bevordert herkomststandaarden en tools om AI-gegenereerde content herkenbaar te maken. Het bedrijf wil zo bijdragen aan een betrouwbaar AI-ecosysteem in Europa.

De regering-Trump onderhandelt met senatoren over een wetsvoorstel dat staten beperkt in AI-regulering in ruil voor federale censuurwetten. Het plan omvat de Kids Online Safety Act, de NO FAKES Act en een federale leeftijdsverificatie. Critici waarschuwen dat dit leidt tot een massaal censuurregime dat de democratie ondermijnt.

De Chinese activiste Apple Peiqing Ni kreeg van X te horen dat deepfakes die haar als promiscue drugsverslaafde afbeelden niet in strijd zijn met de regels van het platform. De deepfakes verschenen nadat Ni had gepost over een herdenking van het Tiananmenplein-masacre. Pas nadat The Guardian vragen stelde aan X, werd het account geschorst.

De Bank of England heeft gewaarschuwd voor AI-gegenereerde oplichting nadat deepfakevideo's van Nigel Farage en gouverneur Andrew Bailey online verspreid werden. De video's tonen de twee die op de set van Question Time vechten. Bailey roept op tot het melden van dergelijke video's. Ook Martin Lewis waarschuwt voor een 'wilde westen' aan AI-oplichting.

MIT Technology Review-redacteur Will Douglas Heaven deelt vijf actuele thema's in AI, gebaseerd op een talk op SXSW Londen. Hij bespreekt de impact van AI op banen, de reële gevaren zoals deepfakes en gevaarlijke chatbotrelaties, de groeiende AI-tegenstand, de belofte van AI voor wetenschap, en de alomtegenwoordigheid van AI.

Aviva heeft een recordbedrag van £230 miljoen aan verzekeringsfraude ontdekt en gebruikt AI-tools om de groeiende problemen tegen te gaan. Het bedrijf zet AI in om valse documenten en beelden te herkennen die door fraudeurs met AI worden gegenereerd. De AI functioneert als filter voor menselijke onderzoekers.

Alan Finkel betoogt in een opiniestuk dat het gebruik van AI bij het schrijven van opinieartikelen de kunst van het overtuigen ondermijnt. Hij verwijst naar een incident waarbij hoogleraar Cath Ellis een door AI geschreven stuk indiende bij de Sydney Morning Herald zonder dit te melden. Finkel pleit voor duidelijke normen (de minimis standards) en transparantie over AI-gebruik in publicaties.

Meta heeft een experimentele AI-nieuwsfeed in zijn app stopgezet nadat deze nepnieuws en onjuiste AI-gegenereerde beelden verspreidde. De feed produceerde artikelen zonder bronvermelding of journalistieke controle. Meta noemt het een test die is stopgezet.

Een AI-gegenereerde toespraak toegeschreven aan de Namibische president Netumbo Nandi-Ndaitwah werd massaal gedeeld op sociale media. De toespraak veroordeelde corruptie en buitenlandse uitbuiting, maar werd door de president zelf afgewezen als een vervalsing. Het artikel analyseert waarom de nep-toespraak zoveel weerklank vond in Afrika en het Caribisch gebied, wijzend op een leiderschapscrisis en het verlangen naar moreel leiderschap.

Tijdens de NBA Finals 2026 gebruikte ESPN een AI-gegenereerde gelijkenis van Spurs-legende Tony Parker in een commercieel filmpje. Fans en journalisten reageerden verontwaardigd op sociale media, wijzend op het onnodige gebruik van generatieve AI terwijl ESPN over voldoende echt beeldmateriaal beschikt.

Amazon heeft aangekondigd dat het AI-gegenereerde productafbeeldingen zal tonen in zijn winkelapp op basis van zoekopdrachten van gebruikers. Het bedrijf stelt dat dit klanten helpt producten te vinden, maar critici uiten zorgen over misleiding en het gebruik van fictieve afbeeldingen in plaats van echte productfoto's.

Uit onderzoek blijkt dat AI-labels in sociale media de manier waarop mensen informatie beoordelen veranderen, met zowel positieve als negatieve effecten. Vanwege de EU AI Act worden platforms verplicht AI-content te labelen, maar dit kan leiden tot een algemene daling in het onderscheidingsvermogen doordat content zonder label als authentiek wordt beschouwd.

Een boek over hoe AI de perceptie van de werkelijkheid beïnvloedt, bleek verzonnen citaten te bevatten die door AI waren gegenereerd. De auteur Steve Rosenbaum gaf toe AI-tools zoals ChatGPT en Claude te hebben gebruikt bij het schrijven. Een AI-detectietool gaf aan dat 53% van het boek AI-gegenereerd was. WIRED trok de publicatie van een excerpt terug na vragen over het gebruik van AI.

Een door de Thaise politie verspreide foto van agenten in feestelijke jurken bij een arrestatie blijkt door AI gegenereerd. De beheerder van het Facebookaccount van het politiebureau wilde een vriendelijker imago creëren. Nieuwsmedia zoals de Daily Star en The Sun publiceerden de foto, maar moesten later corrigeren.

Google heeft een overzicht gegeven van de 12 belangrijkste aankondigingen tijdens Google I/O 2026. Daaronder vallen de nieuwe modellen Gemini Omni en Gemini 3.5 Flash, evenals updates aan Zoeken met AI-aangedreven informatieagenten en de introductie van Gemini Spark als persoonlijke AI-assistent. Ook werd de uitbreiding van SynthID-watermerking naar meer producten en de komst van AI-ondersteunde brillen voor Android XR aangekondigd.

Taylor Swift's management heeft handelsmerkaanvragen ingediend voor audiofragmenten van haar stem en haar visuele gelijkenis. Dit wijst op een verschuiving van auteursrecht naar handelsmerkrecht in de strijd tegen AI-namaak. Hoewel auteursrecht creatieve werken beschermt, beschermt het niet tegen AI-gegenereerde imitaties die consumenten misleiden over goedkeuringen. Handelsmerkrecht en publiciteitsrechten bieden mogelijk betere bescherming tegen dergelijke misleiding.

YouTube gaat AI-gegenereerde content prominenter labelen en vanaf deze maand automatisch scannen op 'fotorealistisch' AI-gebruik. De labels verschijnen bij normale video's direct onder de videospeler en bij Shorts als overlay onderaan. Voorheen gebeurde labeling alleen op eigen aangifte van de uploader. YouTube gebruikt C2PA en SynthID voor detectie, maar niet alle AI-content krijgt een prominent label.

ElevenLabs heeft een deal gesloten met Stan Lee Universe om het uiterlijk en de stem van de overleden Marvel-schrijver met AI na te bootsen. Gebruikers kunnen via de Iconic Marketplace van ElevenLabs de AI-kloon van Stan Lee gebruiken voor audioboeken en AI-gegenereerde stripverhalen. De aankondiging leidt tot ethische discussies over het gebruik van AI om overleden publieke figuren te doen herleven.

YouTube verscherpt de regels voor AI-labels. Vanaf mei 2026 detecteert een automatisch systeem AI-gegenereerde content, zelfs als makers het niet vermelden. Labels komen op zichtbaardere plekken, zoals onder de videospeler en als overlay bij Shorts. Aanbevelingen en inkomsten worden niet beïnvloed.

YouTube plaatst vanaf nu automatisch een label bij video's die realistisch ogen en met AI zijn gemaakt. Het label komt op een prominentere plek te staan, bijvoorbeeld tussen de video en de beschrijving bij lange video's. Makers moeten nog steeds zelf aangeven of hun video met AI is gemaakt, maar YouTube doet een extra check.

YouTube gaat video's die gebruikmaken van aanzienlijke fotorealistische AI automatisch labelen, in plaats van alleen te vertrouwen op makers om AI-inhoud zelf te melden. De labels worden ook prominenter weergegeven, direct onder de videospeler. Dit volgt op de uitbreiding van AI-detectie en de lancering van Gemini Omni van Google.

Generatieve AI vormt ernstige risico's voor de herinnering aan de Holocaust door ontkenning, vervalsing en clickbait. Deskundigen waarschuwen dat AI-gefabriceerde beelden en video's twijfel kunnen zaaien over de Holocaust. AI-geletterde jongere generaties worden gezien als de beste tool om deze desinformatie te bestrijden.

OmniPulse is een systeem dat met wavelet-scattering fingerprints synthetische en menselijke audio identificeert en toewijst. De kern is geschreven in Rust en maakt gebruik van FFI-bruggen, SlicedWasserstein-afstandsberekeningen en een MCP-server om efficiënt om te gaan met grote audiobestanden. Het systeem leest audio via gedeeld geheugen en voert de verwerking uit zonder de grote datasets te serialiseren.

Taylor Swift heeft een handelsmerk aangevraagd voor haar stem en podiumimago, als eerste muziekartiest die deze stap zet. De zet roept vragen op over auteursrecht en de rechten van artiesten in het tijdperk van AI. Het artikel bespreekt hoe AI gegenereerde imitaties en deepfakes juridische uitdagingen vormen, en hoe Swifts handelsmerk mogelijk een krachtig afschrikmiddel kan zijn tegen toekomstige vervalsingen.

AI-gegenereerde content wordt steeds overtuigender. Factcheckers adviseren om niet alleen diep in de beelden te kijken, maar ook breed naar de context. Door verdachte details en bronnen te controleren blijf je online veiliger.

Twee mannen uit New Jersey en Texas zijn aangeklaagd voor het creëren en verspreiden van duizenden deepfake-afbeeldingen en -video's van seksuele aard, waaronder van bekende actrices, zangeressen en politieke figuren. De aanklacht valt onder de nieuwe 'Take It Down'-wet, die in april 2025 door president Trump werd ondertekend. De maximale straf voor de twee is twee jaar gevangenisstraf. Dit zijn de tweede en derde vervolgde daders onder deze wet.

Een Noors bedrijf gebruikte generatieve AI om foto's uit een erotisch tijdschrift uit 1976 te animeren. De films, getiteld 'Sh(AI)ved', leidden tot felle kritiek vanwege het ontbreken van toestemming van de geportretteerde modellen. Critici beschuldigen de makers van het creëren van niet-consensuele pornografie met AI.

De NTSB heeft dossiers gesloten nadat buitenstaanders met AI de stemmen van omgekomen piloten nabootsten uit een spectrogram. Een YouTuber gebruikte Codex om audio te reconstrueren uit de data van de zwarte doos. De overheidsinstantie sluit nu de openbare toegang om misbruik te voorkomen.

James Daunt, CEO van Barnes & Noble, zei in een interview dat de boekhandelketen openstaat voor de verkoop van AI-gegenereerde boeken, op voorwaarde dat ze duidelijk als zodanig worden gelabeld en geen plagiaat plegen. Zijn uitspraak heeft tot kritiek geleid van auteurs, die AI zien als een bedreiging voor hun beroep.

Mensen gebruikten AI op een spectrogramafbeelding van cockpitopnames om de stemmen van overleden piloten te reconstrueren. De NTSB moest tijdelijk de toegang tot haar docketsysteem blokkeren nadat de gereconstrueerde audio online verscheen. Het agentschap heeft de openbare toegang hersteld maar houdt 42 onderzoeken gesloten in afwachting van herziening.

De Commonwealth Short Story Prize is in opspraak geraakt nadat het winnende verhaal 'The Serpent in the Grove' beschuldigd werd van AI-generatie. Critici wijzen op AI-achtig taalgebruik, maar detectietools zijn onbetrouwbaar. Uitgever Sigrid Rausing raadpleegde Claude.ai, dat concludeerde dat het verhaal 'vrijwel zeker niet zonder menselijke hulp is geschreven'. De auteur heeft niet gereageerd op de beschuldigingen. De zaak roept vragen op over vertrouwen in literaire prijzen.

Een journalist gebruikte de Gemini-app van Google om een digitale kloon van zichzelf te maken. De tool, aangedreven door het Omni videomodel, genereert levensechte videoclips waarin de avatar in herkenbare omgevingen optreedt. Hoewel de resultaten indrukwekkend zijn, roept het ook vragen op over privacy en het gebruik van deepfakes.

LinkedIn pakt AI-gegenereerde inhoud aan die het 'AI slop' noemt. In vroege tests markeerde het platform generieke posts in 94% van de gevallen correct. Ironisch genoeg promoot moederbedrijf Microsoft zelf het gebruik van AI op LinkedIn.

Het gerenommeerde literaire tijdschrift Granta wordt ervan beschuldigd een AI-gegenereerd kort verhaal te hebben gepubliceerd. Het verhaal 'The Serpent in the Grove' won de Commonwealth Foundation Short Story Prize, maar lezers en AI-expert Ethan Mollick merkten verdachte kenmerken op. Granta's uitgever raadpleegde vervolgens Anthropic's chatbot Claude om te checken of het door AI was geschreven, wat tot verdere verwarring leidde.

Spotify introduceert verificatiebadges voor podcasts om luisteraars te beschermen tegen AI-slop. De groene vinkjes tonen aan dat makers echt zijn en neppe podcasts worden verwijderd. Spotify controleert het luistergedrag om bot-gedreven programma's te herkennen. Het kan maanden duren voordat alle zeven miljoen podcasts zijn gecontroleerd.

De Universiteit van New South Wales lanceerde een test om AI-gezichten van echte gezichten te onderscheiden. Guardian Australia's Carly Earl en Matilda Boseley nemen de test om te zien of het wetenschap of onderbuikgevoel is.

De winnaar van de Commonwealth short story prijs voor het Caribisch gebied wordt ervan beschuldigd het verhaal met AI te hebben geschreven. Een AI-detector gaf aan dat het werk AI-gegenereerd was, en critici wezen op taalkundige patronen die typisch zijn voor AI. De uitgever van Granta zegt dat de ware auteur wellicht nooit bekend zal worden.