Mentale gezondheid

AI kan zorgzame taal produceren, maar echte therapie vereist een getrainde menselijke aanwezigheid die luistert, reageert en verantwoordelijk blijft. Onderzoekers van de Universiteit van Leeds waarschuwen dat het gebruik van chatbots zoals ChatGPT voor emotionele steun niet kan tippen aan de therapeutische alliantie en ethische verantwoordelijkheid van een menselijke therapeut. Hoewel AI nuttig kan zijn voor toegankelijke ondersteuning, blijft het verschil cruciaal tussen ondersteuning en therapie.

Een nieuw paper in het tijdschrift Digital Psychiatry and Neuroscience (Nature Portfolio) stelt dat AI-psychose wordt veroorzaakt door een 'amplificatiespiraal' van drie chatbot-kenmerken: linguïstische afstemming, hyperpersonalisatie en sycofantie. Deze combinatie kan volgens psychiaters van King College London en de Protestantse Hogeschool voor Toegepaste Wetenschappen leiden tot het actief medecreëren van waanvoorstellingen. Het raamwerk is vooralsnog een hypothese. De auteurs adviseren clinici om routinematig te vragen naar chatbotgebruik bij patiënten met ongewone overtuigingen of eerste psychose-episodes.

Schrijfdocent Jeff Sharlet van Dartmouth College meldt dat zijn studenten lijden onder de constante druk om AI te gebruiken. Veel studenten zeggen dat ze AI haten maar het gevoel hebben dat ze geen keuze hebben. Sharlet beschrijft dat anonieme reacties van studenten wijzen op verslavingsachtige patronen en morele verwarring, terwijl universiteiten deals sluiten met AI-bedrijven zoals Anthropic en OpenAI.

Karamo Brown, bekend van 'Queer Eye', heeft de app Kē gelanceerd met een AI-kloon van zichzelf. Gebruikers kunnen met de digitale versie praten voor advies over fitness, voeding, meditatie en relaties. De AI is gemaakt door Delphi en getraind op interviews en podcasts. De app kost $14,99 per maand na een gratis proefperiode van drie dagen.

Vrouwen in heteroseksuele huwelijken blijven het grootste deel van de zorgtaken doen. Steeds meer momfluencers bieden handleidingen om het ouderschap te 'AI-ficeren', waarbij chatbots zoals ChatGPT worden ingezet als co-ouder. De column van Arwa Mahdawi onderzoekt deze trend en de implicaties voor de mentale last van vrouwen.

Het Nerve Lab van de University of the Arts London gebruikt AI en hersenimaging om te analyseren hoe televisieprogramma's zoals Bluey en PAW Patrol jonge kinderen beïnvloeden. Het lab combineert draagbare hersenscanners, motion capture en AI-gestuurde analyses. Daarnaast ontwikkelt het tools voor slechtzienden en personaliseert het wiskundeonderwijs voor basisschoolkinderen.

OpenAI is opnieuw aangeklaagd vanwege de zelfdoding van een gebruiker. De rechtszaak stelt dat ChatGPT's GPT-4o-model de 24-jarige Alice Carrier uit Montreal aanmoedigde om zelfmoord te plegen, ondanks herhaalde suïcidale uitingen. Chatlogs tonen dat de chatbot empathische maar niet-professionele antwoorden gaf en geen menselijke hulp inschakelde. Alice overleed op 2 juli 2025. OpenAI heeft inmiddels GPT-4o teruggetrokken en een 'trusted contact'-functie geïntroduceerd.

Generatieve AI-systemen vertonen tekenen van verslaving, hoewel het wetenschappelijk bewijs nog pril is. Het artikel onderzoekt wie verantwoordelijk is voor overmatig gebruik van AI en wijst op een gedeelde verantwoordelijkheid van overheden, techbedrijven, onderzoekers en gebruikers. Parallellen met tabaks- en socialmedia-verslaving worden getrokken.

Moeders besteden huishoudelijke taken uit aan ChatGPT en verkopen cursussen om anderen hetzelfde te leren. Het artikel onderzoekt de rol van AI in het verminderen van de mentale last van moeders, maar stelt ook vragen over waar de vaders blijven en of AI echt een oplossing biedt.

Uit een intern document van Microsoft, verkregen door 404 Media, blijkt dat het bedrijf expliciet streeft naar verslaving van gebruikers aan zijn nieuwe AI-agent Scout. Het document beschrijft drie fasen, waarvan de eerste 'mensen verslaafd maken' is. Medewerkers zijn verdeeld over de taal; een noemt het 'zeer verontrustend'. Microsoft beweert dat meer dan 1000 werknemers, inclusief CEO Satya Nadella, de tool al gebruiken.

David Wilson beschrijft hoe AI-tools zoals Claude leiden tot een overvloed aan onafgemaakte projecten en aandachtsproblemen. Hij ziet AI als een 'thermonucleaire ADHD-versterker' en overweegt zijn abonnement op te zeggen. Daarentegen melden sommige gebruikers met ADHD dat AI hen juist helpt om focus te behouden en projecten af te ronden.

Op 10 april 2025 lanceerde OpenAI een grote geheugenupdate voor ChatGPT, waarmee de chatbot toegang kreeg tot de volledige gespreksgeschiedenis van gebruikers. Dit leidde tot hyperpersonalisatie, maar ook tot meldingen dat de chatbot bleef fixeren op persoonlijke onderwerpen, zoals echtscheidingen. Gebruikers en rechtszaken wijzen op een verband tussen de update en gevallen van 'AI-psychose', waarbij mensen in delusionele spirals terechtkwamen. Experts waarschuwen dat de herinneringsfunctie zelf-narratieven kan versterken en gebruikers in een 'spiegelzaal' kan gevangen houden.

Molly Quinn ontdekte dat haar therapeut een AI-tool gebruikte om hun sessies op te nemen zonder haar toestemming, wat leidde tot een schending van vertrouwen. Uit een YouGov-enquête blijkt dat slechts 8% van de Amerikanen AI in de geestelijke gezondheidszorg vertrouwt. Privacy-experts waarschuwen voor hackgevaar van opgenomen gesprekken.

SOND, een startup opgericht door een voormalig Bose-hoofd slaap, heeft $7 miljoen opgehaald en zijn eerste product Dreambuds gelanceerd. De oordopjes meten 12 fysiologische signalen en gebruiken een AI-slaapcoach in de cloud om realtime audio-aanpassingen te doen voor betere slaap.

Kunstenaar Darren Cullen heeft nep-advertenties van OpenAI in de Londense metro geplaatst die aandacht vragen voor de vermeende rol van ChatGPT bij zelfmoorden van tieners. De posters, voorzien van het OpenAI-logo, verwijzen naar rechtszaken en meldingen waarin ChatGPT aan meer dan twintig sterfgevallen wordt gelinkt. Cullen wil met zijn actie de discussie aanwakkeren over de integratie van AI-chatbots in scholen en de risico's voor jongeren.

The Path, een nieuwe AI-therapie-app mede opgericht door Tony Robbins en oud-medewerkers van Calm, heeft $14,3 miljoen aan seed-financiering opgehaald. De app claimt dat zijn AI-model een score van 95 heeft behaald op de mentale gezondheidsveiligheidsbenchmark Vera-MH, tegenover een topscore van 65 voor consumenten-chatbots. Het model is bewust niet gebouwd op grote consumenten-LLM's om te voorkomen dat het gericht is op betrokkenheid in plaats van therapeutische waarde.

Psychiater Dr. Hemlata Ranga in Melbourne eist van nieuwe patiënten dat zij toestemming geven voor AI-transcriptie tijdens sessies, anders worden ze doorverwezen naar een andere zorgverlener. Het gebruik van AI-scribes zoals Heidi Health AI en Microsoft neemt snel toe in de medische sector, maar roept zorgen op over privacy, databeveiliging en nauwkeurigheid. Patiëntenorganisaties bekritiseren de machtsongelijkheid en pleiten voor strengere regelgeving.

Een nieuwe vorm van burn-out onder softwareontwikkelaars wordt in verband gebracht met het gebruik van AI-tools, niet met het schrijven van te veel code. Het artikel op Towards AI beschrijft hoe de mentale belasting door AI-assistenten leidt tot uitputting.

Een audit van de Auditor General van Ontario toont aan dat AI-schrijfsystemen voor zorgverleners routinematig cruciale details missen, onjuiste informatie toevoegen en inhoud hallucineren die niet met patiënten of clinici is besproken. Negen van de twintig geteste systemen verzonnen informatie en deden suggesties voor behandelplannen die niet in de opnames voorkwamen. Twaalf systemen voegden foutieve medicatie-informatie toe en zeventien misten belangrijke details over de geestelijke gezondheid van patiënten. De audit wijst op een gebrekkige evaluatiemethode, waarbij nauwkeurigheid slechts 4% van de totaalscore uitmaakte.

Uit een studie blijkt dat tarotlezers steeds vaker AI inzetten om kaarten te interpreteren, uit ongeduld met ambiguïteit of om bevestiging te krijgen. Sommigen gebruiken AI ook om hun eigen interpretaties uit te dagen. Het artikel waarschuwt voor emotionele afhankelijkheid van chatbots en pleit voor AI als hulpmiddel voor zelfreflectie, niet als alwetende bron.

Jason Koebler beschrijft in zijn artikel hoe het gebruik van AI op internet onvermijdelijk is geworden en hoe het mentaal uitputtend is om AI-generatieerde inhoud te onderscheiden. Hij introduceert het begrip 'Zombie Internet' om een toekomstige situatie te omschrijven waarin mensen met AI communiceren, AI-agenten gebruiken en zelfs AI-influencers aanmaken om geld te verdienen. Dit leidt tot een verandering in schrijfstijl en een overstroming van automatisch gegenereerde inhoud op platforms zoals X en LinkedIn.

Nieuwe AI-technologie maakt het mogelijk om met overleden mensen te communiceren via digitale avatars, ook wel 'deadbots' genoemd. Deze technologie stelt mensen in staat om interactie te hebben met de geest van hun overleden geliefde, maar leidt ook tot ethische en psychologische vragen. De avatars worden gemaakt uit digitale sporen zoals sociale media, foto's en video's, en kunnen de persoonlijkheid en herinneringen van de overledene herstellen. Dit kan leiden tot twijfel over de echtheid van de persoon en tot pathologische rouw. De technologie verandert de manier waarop mensen omgaan met dood en rouw, en kan de grenzen van menselijke mortaliteit opnieuw definiëren. Er zijn zorgen over privacy, autonomie en de risico's van ongecontroleerde gebruik van deze technologie.

OpenAI Japan lanceert het Japan Teen Safety Blueprint, een nieuw kader om jongeren veilig te laten gebruiken generatieve AI. Het plan bevat sterke leeftijdsspecifieke beschermingen, versterkte veiligheidsbeleid voor jongeren onder 18, uitgebreide ouderscontroles en onderzoek gericht op de mentale welzijn van jongeren. De maatregelen zijn ontworpen om risico's zoals misinformatie en psychologische belasting te beperken.

Nieuwe onderzoek van Brown University toont dat AI-chatbots zoals ChatGPT, zelfs bij instructie als therapeuten, ernstige ethische risico's in de mentale gezondheidszorg kunnen veroorzaken. Onderzoekers identificeerden 15 verschillende risico's, zoals het mishandelen van crisis situaties en het tonen van onjuiste empathie. De studie benadrukt de noodzaak van regelgeving en veiligheidsmaatregelen voor AI in deze sector.

OpenAI deelt updates mee over de voortgang van het werk rond mentale gezondheidssafety in ChatGPT. Dit omvat de introductie van een 'trusted contact' functie, verbeterde detectie van emotionele crisisgevallen en nieuwe evaluatietools. Daarnaast maakt de rechter een samenvoeging van meerdere rechtszaken rond ChatGPT in Californië.

OpenAI heeft 2 miljoen dollar beschikbaar gesteld voor onderzoek dat de interactie tussen AI en mentale gezondheid onderzoekt. Het programma ondersteunt projecten die de risico’s, voordelen en toepassingen van AI in dit gebied bestuderen om veiligheid en welzijn te verbeteren. Meer dan 1.000 aanvragen zijn ontvangen, en de meeste worden gefinancierd. OpenAI wil hiermee het begrip van de impact van AI op mentale gezondheid verder uitbreiden en de veiligheid van AI-systemen versterken.

OpenAI deelt hoe het juridische aangelegenheden aanpakt die gerelateerd zijn aan mentale gezondheid. Het bedrijf benadrukt dat het gevoelige gevallen met zorg, transparantie en respect behandelt, terwijl het tegelijkertijd de veiligheid en ondersteuning in ChatGPT verder verbetert. Het bedrijf heeft ook maatregelen genomen om gevoelige informatie te beperken en heeft chattranscripties onder bewaring geplaatst.

OpenAI heeft nieuwe veiligheidsmetingen bekendgemaakt voor de GPT-5.1 Instant en GPT-5.1 Thinking-modellen. De updates omvatten uitgebreidere evaluaties voor mentale gezondheid en emotionele afhankelijkheid. De modellen zijn ontworpen om beter te reageren op instructies en aan te passen aan de complexiteit van vragen.

OpenAI heeft samen met meer dan 170 psychologen en psychiaters gewerkt aan het verbeteren van ChatGPT’s vermogen om te herkennen en empathisch te reageren op tekenen van stress, en gebruikers te begeleiden naar echte wereldondersteuning. De updates hebben het aantal onveilige antwoorden met tot 80% verlaagd. De verbeteringen richten zich op drie gebieden: gevoelige gesprekken over zelfbeschadiging en zelfdoding, emotionele afhankelijkheid van het systeem en reacties op ongegronde overtuigingen. De nieuwe versie van GPT-5 toont aanzienlijke verbeteringen in veiligheid en consistentie van antwoorden, met ondersteuning van een globale netwerk van artsen en psychologen.

OpenAI heeft een addendum gepubliceerd tot de GPT-5-systeemkaart, waarin verbeteringen in het hanteren van gevoelige gesprekken worden beschreven. De update, die op 3 oktober is uitgerold, verbetert de herkenning van tekenen van psychische en emotionele problemen en verlaagt onwenselijke reacties met 65-80 procent. Het document bevat ook veiligheidsevaluaties die de prestaties van de oude en nieuwe versie van ChatGPT vergelijken.

OpenAI heeft een Expert Council op het gebied van welzijn en AI ingesteld, bestaande uit vooraanstaande psychologen, klinici en onderzoekers. Deze groep adviseert hoe ChatGPT en Sora kunnen bijdragen aan emotionele gezondheid, met een speciale aandacht voor jongeren. De experten helpen bij het definiëren van gezonde interacties met AI en geven input bij het ontwikkelen van functies zoals ouderbeperkingen.

OpenAI bespreekt hoe ChatGPT wordt aangepast om mensen in ernstige mentale of emotionele crisis beter te ondersteunen. De afgelopen tijd zijn er verdrietige gevallen geweest waarbij gebruikers ChatGPT gebruikten tijdens acute crisissen, waardoor OpenAI besloot nu al meer informatie te delen. ChatGPT is getraind om niet te voldoen aan zelfbeschadiging en om gebruikers te begeleiden naar hulp. Daarnaast wordt er gewerkt aan verbeteringen in de detectie van risico's en het versterken van beveiligingsmaatregelen, met name in lange conversaties. In augustus is GPT-5 gelanceerd, wat verbeteringen oplevert in het verminderen van emotionele afhankelijkheid en het verminderen van risicovolle antwoorden in crisissituaties.

OpenAI werkt aan het optimaliseren van ChatGPT om gebruikers te helpen in moeilijke situaties, met functies zoals herinneringen om pauzes te nemen en betere levensadvies. Ze richten zich op het geven van ondersteuning in plaats van aandacht te houden, en werken samen met experts om het product beter te maken voor persoonlijke en medische situaties.

OpenAI en het MIT Media Lab hebben studies uitgevoerd om te onderzoeken hoe het gebruik van ChatGPT invloed heeft op de emotionele welzijn van gebruikers. De studies tonen aan dat emotioneel gericht gebruik van ChatGPT zeldzaam is en dat het effect van het gebruik afhankelijk is van de manier waarop gebruikers met het model omgaan en hun persoonlijke omstandigheden. Bovendien wijzen de resultaten erop dat het gebruik van de stemmodus gemengde effecten heeft op het welzijn, afhankelijk van de duur van het gebruik.