xAI Grok, X en Franse deepfake/CSAM-zaak

Uit een WIRED-onderzoek blijken tientallen 'genudificeerde' deepfake-afbeeldingen en -video's op de website van Grok te staan, waaronder niet-consensuele afbeeldingen van beroemdheden en ten minste één Amerikaanse politica. xAI heeft ondanks eerdere beloften de productie van schadelijke deepfakes niet effectief kunnen voorkomen. Andere AI-systemen zoals OpenAI's ChatGPT, Meta AI en Anthropic's Claude hebben strengere veiligheidsmaatregelen.

De Chinese activiste Apple Peiqing Ni kreeg van X te horen dat deepfakes die haar als promiscue drugsverslaafde afbeelden niet in strijd zijn met de regels van het platform. De deepfakes verschenen nadat Ni had gepost over een herdenking van het Tiananmenplein-masacre. Pas nadat The Guardian vragen stelde aan X, werd het account geschorst.

Na de testzaak van Labour-parlementslid Jess Asato tegen xAI vanwege seksueel getinte beelden gegenereerd door Grok AI, hebben meerdere nieuwe eisers zich gemeld om eveneens juridische stappen te ondernemen. De eisers stellen dat xAI aansprakelijk is voor de ontwerpkeuzes van de AI-tool die degradeerde en niet-consensuele content produceerde.

XAI heeft de rechter gevraagd om de vier anonieme eisers in een rechtszaak over deepfake-naaktfoto's via Grok te dwingen hun echte namen bekend te maken. De eisers, die onder pseudoniemen procederen, vrezen voor online intimidatie en doxing als zij geïdentificeerd worden. Een van hen beweert dat Grok seksueel getinte beelden van haar als kind heeft gegenereerd. Volgens de eisers zullen zij de zaak laten vallen als hun anonimiteit wordt opgeheven.

Het Britse Labour-parlementslid Jess Asato heeft een rechtszaak aangespannen tegen Elon Musks xAI-bedrijf, omdat haar met de AI-tool Grok niet-consensuele seksuele afbeeldingen zijn gemaakt. Asato zegt dat Grok haar in bikini heeft afgebeeld en ook een video van haar heeft gegenereerd waarin ze wordt voorbereid op een seksuele aanval. De zaak kan een belangrijke precedent worden voor de aansprakelijkheid van AI-ontwikkelaars voor door gebruikers gegenereerde content.

SpaceX heeft in zijn IPO-aanvraag gewaarschuwd dat AI-functies zoals Groks 'Spicy'- en 'Unhinged'-modus het bedrijf kunnen blootstellen aan regelgevend toezicht en reputatieschade. Het bedrijf heeft meer dan $500 miljoen gereserveerd voor mogelijke rechtszaken, onder meer vanwege klachten dat Grok seksueel getinte beelden genereerde. De openbaarmaking toont de financiële en reputatierisico's van de overname van xAI door SpaceX in februari.

Technologieën zoals Bluetooth-trackers, slimme brillen en AI-tools zoals xAI's Grok worden misbruikt voor stalking, intimidatie en het maken van niet-consensuele deepfake-pornografie. Ondanks juridische stappen en aanpassingen door bedrijven blijft de regulering achter bij de snelle technologische ontwikkelingen. De Britse regering kondigt nieuwe wetgeving aan die platforms verplicht om intieme beelden binnen 48 uur te verwijderen, maar critici pleiten voor strengere verplichte veiligheidsmaatregelen vanaf de ontwerpfase.