Nieuws

Regulators waarschuwen voor tekorten in AI-beheer en beveiliging

De Australische financiële regelgever, de Australian Prudential Regulation Authority (APRA), heeft waarschuwingen geuit over het slechte beheer van AI-agenten en de risico's die dit met zich meebrengt. In een gerichte review van grote financiële instellingen in 2025 stelde APRA vast dat AI overal gebruikt wordt, maar dat de risicobeheersing en operationele robuustheid nog tekort schieten. De regelgever benadrukt dat bedrijven beter moeten begrijpen hoe AI werkt om strategieën en toezicht te kunnen opstellen. Er zijn ook zorgen over beveiligingsrisico's, zoals prompt-injectie en onveilige integraties, en over de afhankelijkheid van enkele leveranciers. De FIDO Alliance werkt aan nieuwe standaarden voor agentenauthenticatie, en de Centre for Internet Security heeft gidsen gepubliceerd voor de beveiliging van AI-systemen.