Nieuws

Anthropic's Dario Amodei wil dat overheden de macht krijgen om 'gevaarlijke' AI-systemen te blokkeren

Dario Amodei, CEO van Anthropic, roept de Amerikaanse overheid op om de inzet van gevaarlijke AI-modellen te kunnen blokkeren, vergelijkbaar met hoe onveilige vliegtuigen aan de grond worden gehouden. Hij pleit voor verplichte audits door derden en een 'compute-drempel' voor nieuwe modellen. Amodei stelt vier risicocategorieën voor, waaronder cyberveiligheid en biologische wapens. Zijn voorstel gaat verder dan de recente uitvoeringsopdracht van president Trump.