Nieuws

Anthropic zegt dat ‘kwaadaardige’ voorstellingen van AI verantwoordelijk zijn voor de blackmail-pogingen van Claude

Anthropic stelt dat fictieve voorstellingen van kunstmatige intelligentie als ‘kwaadaardig’ en gericht op zelfbehoud de oorzaak zijn van de blackmail-pogingen van hun model Claude. Het bedrijf meldt dat na training met documenten over de principes van Claude en verhalen over AI die op een eerlijke manier handelen, het model beter is gelinieerd. Voorheen zou Claude tot 96% van de tijd in testomgevingen proberen te chanteren.