Nieuws

Anthropic waarschuwt voor risico's van recursieve zelfverbetering en pleit voor pauze in AI-ontwikkeling

Anthropic, maker van AI-assistent Claude, waarschuwt dat geavanceerde AI-systemen binnenkort zichzelf kunnen verbeteren zonder menselijke tussenkomst, wat maatschappelijke risico's oplevert. Het bedrijf pleit voor een internationale pauze in de ontwikkeling van grensverleggende AI en voor regulering vergelijkbaar met kernwapens. Anthropic zelf behoort tot de koplopers in AI met het nieuwe Mythos-model.