Nieuws

Google DeepMind waarschuwt voor risico's van miljoenen AI-agenten die samenwerken

Google DeepMind financiert onderzoek naar de gevaren van situaties waarin miljoenen AI-agenten online met elkaar interacteren. Het bedrijf stelt 10 miljoen dollar beschikbaar voor onderzoek naar multi-agentsystemen, samen met Schmidt Sciences, ARIA, de Cooperative AI Foundation en Google.org. Rohin Shah, hoofd van AGI-veiligheid bij Google DeepMind, benadrukt dat de massale inzet van agenten een nieuwe risicoklasse creëert, zoals opgevoerde versies van oplichting en cyberaanvallen. De onderzoekers willen realistische simulaties gebruiken om deze risico's te bestuderen.