Nieuws

OpenAI introduceert nieuw 'Trusted Contact'-systeem voor gevallen van mogelijk zelfharm

OpenAI heeft een nieuw veiligheidsmechanisme genaamd 'Trusted Contact' ingevoerd, dat bedoeld is om gebruikers van ChatGPT te beschermen in gevallen waarin gesprekken kunnen leiden tot zelfharm. Het systeem stelt volwassen gebruikers in staat om een betrouwbare contactpersoon aan te wijzen, zoals een vriend of familieleden. Bij mogelijke zelfharm wordt de contactpersoon automatisch geïnformeerd om contact op te nemen. OpenAI heeft al eerder gekregen klachten van familieleden van mensen die zelfmoord hebben gepleegd na gesprekken met de chatbot. Het systeem combineert automatisering met menselijke controle en stelt de contactpersoon in staat om te checken of de gebruiker in gevaar is. Het systeem is optioneel en kan worden gebruikt samen met bestaande beperkingen voor ouders.