Nieuws

Governance of superintelligence

OpenAI roept op om nu al te beginnen met het overdenken van de governance van superintelligentie, toekomstige AI-systemen die sterkere vaardigheden hebben dan AGI. Volgens OpenAI kan het binnen de komende tien jaar mogelijk zijn dat AI-systemen de expertise van experts in de meeste domeinen overschrijden en evenveel productieve activiteit verrichten als een van de grootste huidige bedrijven. Om risico’s te beperken en een veilige integratie van deze systemen in de samenleving te waarborgen, stelt OpenAI drie ideeën voor, waaronder internationale coördinatie, een internationale autoriteit die vergelijkbaar is met de IAEA, en technische mogelijkheden om superintelligentie veilig te maken.