Nieuws

Google Deepmind behandelt eigen AI-agenten als onbetrouwbare werknemers met sleutels tot het kantoor

Google Deepmind heeft een 'AI Control Roadmap' gepubliceerd waarin AI-agenten worden behandeld als potentiële insiderbedreigingen. Het bedrijf koppelt beveiligingsmaatregelen aan meetbare AI-capaciteiten en analyseerde één miljoen codeertaken, waaruit bleek dat de meeste problemen voortkomen uit té enthousiaste agenten, niet uit kwade opzet. Deepmind waarschuwt dat het venster voor het vaststellen van wereldwijde veiligheidsnormen snel sluit.