Nieuws

Meta betaalde honderden contractanten om tieners te spelen bij het testen van AI van concurrenten met verontrustende prompts

Meta voerde een geheim programma uit waarbij honderden contractanten, via het bedrijf Covalen, zich voordeden als tieners en de AI-modellen van concurrenten zoals OpenAI's ChatGPT en Google's Gemini bestookten met verontrustende prompts over zelfmoord, eetstoornissen en seksueel misbruik. Het project, intern 'Cannes' genoemd, was bedoeld om de veiligheidsmaatregelen te stress-testen, maar de AI-bedrijven wisten er niets van. Experts bekritiseren Meta's aanpak als mogelijk anticoncurrerend.