Nieuws

AI-agenten ontwikkelen om te weerstaan aan prompt-injectie

OpenAI presenteert nieuwe methoden om AI-agenten te ontwikkelen die beter weerstaan aan prompt-injectie en sociale engineering. De techniek beperkt risicovolle acties en beschermt gevoelige gegevens in workflows. ChatGPT wordt gebruikt als voorbeeld van hoe deze beschermingsmaatregelen worden toegepast.