Nieuws

GPT-Red: OpenAI's zelfverbeterend systeem voor AI-robustheid

OpenAI introduceert GPT-Red, een geautomatiseerd red teaming-systeem dat gebruikmaakt van self-play om de veiligheid, afstemming en robuustheid van AI-modellen te verbeteren. Dit systeem is ontworpen om prompt injectie-aanvallen te weerstaan en de algehele robuustheid van AI-systemen te vergroten.