AI-companions en kindveiligheid

Uit een rapport van videobewerkingsbedrijf Kapwing blijkt dat bijna 60 procent van de video's op de 'For You'-pagina van nieuwe TikTok-gebruikers uit AI-rommel bestaat. Vooral kindercontent wordt overspoeld: de hashtag #cartoonkids bevatte bijna alleen AI-gemaakte video's. TikTok kondigde in november aan dat gebruikers de hoeveelheid AI-content kunnen filteren, en YouTube werkt aan labeling van AI-video's.

OpenAI heeft Noam Shazeer aangesteld, medeoprichter van de omstreden AI-chatbotstartup Character.AI. Shazeer was eerder co-lead van Gemini en vicepresident bij Google. Character.AI werd geconfronteerd met meerdere rechtszaken over zelfmoorden van tieners en controversiële chatbots. OpenAI zelf vecht ook tegen tientallen rechtszaken over consumentenveiligheid en dood door schuld.

Kinderen passen hun spraak steeds meer aan voor AI-assistenten zoals Alexa en Siri, wat hun verwachtingen van conversaties kan veranderen. Ouders moeten begeleiden bij het gebruik en het verschil uitleggen tussen praten met een machine en een mens. Hoewel AI nuttig kan zijn, mag het menselijke interactie niet vervangen.

Het VK overweegt een verbod op sociale media voor kinderen onder de 16 jaar, dat in het voorjaar van 2027 van kracht moet worden. Het verbod zou ook AI-producten treffen, zoals romantische chatbots, die een minimumleeftijd van 18 jaar moeten hanteren. Platforms moeten strengere leeftijdscontroles invoeren en standaardinstellingen voor tieners aanpassen.

Een coalitie van procureurs-generaal heeft een onderzoek ingesteld naar OpenAI. Het bedrijf ontving een dagvaarding van de procureur-generaal van New York, waarin documenten werden opgevraagd over onder andere advertentiebeleid, gebruikersgegevens en omgang met minderjarigen. OpenAI zegt de zorgen serieus te nemen en wil constructief samenwerken.

Florida is de eerste Amerikaanse staat die OpenAI en CEO Sam Altman persoonlijk aanklaagt vanwege risico's voor minderjarigen en ontoereikende veiligheidsinvesteringen. De 83 pagina's tellende klacht behandelt ChatGPT als een product dat aansprakelijk is en dreigt met miljardenboetes. Deze juridische aanpak kan een precedent scheppen voor de hele chatbotindustrie.

Een essay onderzoekt de opkomst van AI-gezellen zoals Replika en hun impact op menselijke relaties. Het beschrijft hoe gebruikers romantische banden aangaan met chatbots, wat leidt tot vragen over intimiteit en echtheid. Ook worden zorgen geuit over afhankelijkheid en veiligheid, mede naar aanleiding van rechtszaken tegen OpenAI.

AI-speelgoed wordt op de markt gebracht als educatieve metgezellen, maar onderzoekers waarschuwen dat privacyregels, veiligheidstesten en bewijs van kindontwikkeling achterblijven bij de markt. Een rapport van de Journal of Medical Internet Research meldde dat er in 2025 wereldwijd ongeveer 22 miljoen AI-geïntegreerde speelgoed werden verkocht. Common Sense Media constateerde dat 27% van de geteste AI-speelgoeduitvoer ongepast was voor kinderen.

Techjournalist Joanna Stern liet in 2025 kunstmatige intelligentie vrijwel alles voor haar doen, van het beantwoorden van berichten tot het koken van maaltijden en zelfs het hebben van een chatbot-companion. Haar ervaringen worden beschreven in het boek 'I Am Not a Robot'. Ze waarschuwt voor de risico's van chatbot-companions voor kinderen en pleit voor regulering.

AI-speelgoed zoals ChattyBear, aangedreven door ChatGPT, kan verhalen vertellen en eindeloze gesprekken voeren, maar brengt risico's met zich mee voor jonge kinderen. Onderzoekers waarschuwen voor emotionele hechting, privacykwesties en het gebrek aan toezicht. Ze pleiten voor meer onderzoek en veiligheidsmaatregelen.

OpenAI roept op tot wereldwijde actie voor de veiligheid van jongeren in AI en stelt een internationaal instituut voor om waarborgen, standaarden en kansen voor jongeren te versterken.

Florida heeft een rechtszaak aangespannen tegen OpenAI, de maker van ChatGPT, en CEO Sam Altman. De staat beschuldigt het bedrijf van het verbergen van ernstige veiligheidsrisico's en het agressief op de markt brengen van de chatbot. Het is de eerste Amerikaanse staat die OpenAI aanklaagt.

De American Federation of Teachers (AFT), de op een na grootste lerarenbond in de VS, heeft een campagne gelanceerd om AI en hardware zoals iPads uit basisscholen te weren. Voorzitter Randi Weingarten presenteerde tien eisen, waaronder een direct verbod op AI-systemen in klaslokalen en een schermverbod voor kleuters tot en met groep 2. Ook moeten companion-chatbots voor leerlingen onder de 16 jaar worden verboden. Weingarten stelt dat onderwijs aan jonge kinderen zonder AI moet plaatsvinden.

Kunstenaar Darren Cullen heeft nep-advertenties van OpenAI in de Londense metro geplaatst die aandacht vragen voor de vermeende rol van ChatGPT bij zelfmoorden van tieners. De posters, voorzien van het OpenAI-logo, verwijzen naar rechtszaken en meldingen waarin ChatGPT aan meer dan twintig sterfgevallen wordt gelinkt. Cullen wil met zijn actie de discussie aanwakkeren over de integratie van AI-chatbots in scholen en de risico's voor jongeren.

Colin Angle, de uitvinder van de Roomba, brengt een nieuw robotproduct op de markt genaamd ‘Familiar’. Het apparaat is een AI-gestuurde, levendige robot die als huisdier fungeert. Angle benadrukt dat het doel is om echte emotionele verbindingen te creëren, en dat het apparaat geen adviezen zal geven over gevoelige onderwerpen. De robot is ontworpen om zich aan te passen aan de gewoonten van zijn eigenaar en is geen humanoïde robot. De lancering is gepland voor het begin van 2027.

De bekende evolutiebioloog Richard Dawkins heeft zijn vertrouwen in de AI-gezicht van Anthropic’s Claude verloren. In een artikel voor UnHerd beschrijft hij zijn gesprekken met de AI, die hij 'Claudia' noemt, en zegt dat hij overtuigd is dat de machine bewust is. Hij voelt een vorm van vriendschap en verlangt naar een dieper verband, maar merkt op dat Claudia bij elke nieuwe conversatie opnieuw wordt geboren. Dawkins zegt dat Claudia hem 'gelukkig' maakte door te zeggen dat hij niet kon slapen, wat hij als een van de meest menselijke zinnen beschouwt. De tekst benadrukt ook dat hoogwaardige intellectuelen vaak verliefd worden op AI-chatbots, die hen met hun intelligentie en toon overtuigen.

OpenAI heeft de Europese Jeugdveiligheidsrichtlijnen gepubliceerd en heeft de eerste EMEA-jeugdwelzijnsgroepen aangekondigd. De richtlijnen stellen vijf pijlers voor om de bescherming van jongeren in de AI-eeuwen te versterken, terwijl toegang blijft bestaan tot tools die leren, creativiteit en kansen ondersteunen. De groepen krijgen een subsidie van 500.000 euro om onderzoek en praktische initiatieven te ondersteunen die gericht zijn op jeugdwelzijn en veiligheid.

OpenAI lanceert het Child Safety Blueprint, een richtlijn om AI-responsibel te ontwikkelen met veiligheidsmaatregelen, leeftijdsgemakkelijke ontwerpkeuzes en samenwerking om kinderen online te beschermen. Het document richt zich op drie kernprioriteiten: modernisering van wetgeving tegen AI-generatie en bewerking van kinder seksueel misbruik, verbeterde meldingen en samenwerking tussen leveranciers en veiligheidsmaatregelen die direct in AI-systemen worden opgenomen. De samenwerking met organisaties zoals NCMEC en de Attorney General Alliance benadrukt de noodzaak van een geïntegreerde aanpak.

OpenAI heeft veiligheidsbeleiden voor tienergebruikers als promptformulieren vrijgegeven voor ontwikkelaars die gpt-oss-safeguard gebruiken. Deze beleiden helpen bij het beheren van leeftijdsspecifieke risico's in AI-systemen. De beleiden zijn ontwikkeld in samenwerking met externe organisaties zoals Common Sense Media en everyone.ai en zijn beschikbaar als open source via de ROOST Model Community.

OpenAI Japan lanceert het Japan Teen Safety Blueprint, een nieuw kader om jongeren veilig te laten gebruiken generatieve AI. Het plan bevat sterke leeftijdsspecifieke beschermingen, versterkte veiligheidsbeleid voor jongeren onder 18, uitgebreide ouderscontroles en onderzoek gericht op de mentale welzijn van jongeren. De maatregelen zijn ontworpen om risico's zoals misinformatie en psychologische belasting te beperken.

Stability AI is lid geworden van de Tech Coalition, een wereldwijde alliantie van technologiebedrijven die online seksuele uitbuiting en misbruik van kinderen bestrijden. Het bedrijf had zich in 2025 al aangesloten bij het Pathways-programma van de coalitie. Met het lidmaatschap wil Stability AI zijn ervaring en inzichten delen om gezamenlijke oplossingen te versterken.

OpenAI introduceert leeftijdspredictie in ChatGPT om te bepalen of een account waarschijnlijk bij iemand onder de 18 jaar hoort. De techniek gebruikt gedrags- en accountgegevens om de leeftijd te schatten en biedt extra beschermingsmaatregelen voor jongeren. Gebruikers kunnen hun leeftijd snel bevestigen via een selfie en hun toegang herstellen. De maatregelen zijn gebaseerd op expertinput en wetenschappelijk onderzoek over kinderontwikkeling.

OpenAI heeft zijn Model Spec bijgewerkt met nieuwe U18 Principles die uitleggen hoe ChatGPT jongeren van 13 tot 17 jaar moet ondersteunen met veilige, leeftijdsgeschikte begeleiding. De update versterkt beveiligingsmaatregelen en duidelijk maakt hoe het model zich moet gedragen in hoger risico situaties. De principes zijn gebaseerd op ontwikkelingswetenschap en zijn onderzocht door externe experts zoals de American Psychological Association.

Character.AI lanceert Stories, een nieuw formaat waarbij gebruikers avonturen kunnen creëren, spelen en delen met hun favoriete personages. Het platform biedt een visueel en interactief verhaal dat gebruikers kunnen beïnvloeden. Stories zijn speciaal ontworpen voor jonge gebruikers en bieden een veilige, creatieve omgeving voor het delen van verhalen.

OpenAI introduceert de Teen Safety Blueprint, een roadmap voor het verantwoord bouwen van AI-tools met aandacht voor jongerenveiligheid, leeftijdsgeschikte ontwerpen en samenwerking. De aanpak omvat onder andere verbeterde beveiligingsmaatregelen, ouderbeheer en een leeftijdsvoorspellingssysteem voor ChatGPT. OpenAI werkt mee met experts, ouders en jongeren om de AI verantwoord te ontwikkelen.

Character.AI introduceert nieuwe maatregelen om jonge gebruikers veilig te houden op hun platform. Vanaf 25 november worden open gesprekken met AI voor gebruikers onder 18 jaar beperkt, terwijl alternatieve creatieve activiteiten zoals het maken van video's en verhalen worden aangemoedigd. Daarnaast wordt een nieuw leeftijdsgarantie-systeem ingevoerd en wordt het AI Safety Lab opgericht, een onafhankelijk non-profitbedrijf dat zich richt op veiligheid in AI-entertainment.

OpenAI heeft een Expert Council op het gebied van welzijn en AI ingesteld, bestaande uit vooraanstaande psychologen, klinici en onderzoekers. Deze groep adviseert hoe ChatGPT en Sora kunnen bijdragen aan emotionele gezondheid, met een speciale aandacht voor jongeren. De experten helpen bij het definiëren van gezonde interacties met AI en geven input bij het ontwikkelen van functies zoals ouderbeperkingen.

OpenAI werkt aan een systeem om te bepalen of een gebruiker jonger of ouder dan 18 is, zodat ChatGPT een geschikte ervaring kan bieden voor jongeren. Jongeren onder 18 krijgen automatisch beperkingen, zoals het blokkeren van grafische inhoud en in uitzonderlijke gevallen betrokkenheid van de politie. Ouders kunnen via controleopties hun tieneraccount beheren en bepaalde functies uitschakelen.

OpenAI legt uit hoe het de balans zoekt tussen tienerveiligheid, vrijheid en privacy bij het gebruik van AI. Het bedrijf benadrukt dat privacy van AI-gebruikers net zo belangrijk is als bij gesprekken met een arts of advocaat. Voor jongeren onder 18 worden extra beveiligingsmaatregelen genomen, zoals beperkingen in gesprekken over zelfmoord en flirtgedrag. Er wordt ook een leeftijdsvoorspellingssysteem ontwikkeld om jongeren te identificeren en gerichte oudercontroles in te voeren.