Nieuws

Maak kennis met GPT-Red: een LLM-superhacker die OpenAI bouwde om zijn modellen veiliger te maken

OpenAI heeft GPT-Red ontwikkeld, een AI-systeem dat als sparringpartner dient om andere LLM's te testen op cyberaanvallen. Het model, getraind via een self-play loop, ontdekte nieuwe aanvalstechnieken zoals 'fake chain of thought'. OpenAI stelt dat de nieuwste versie van GPT-5.6, die tegen GPT-Red is getraind, de meest robuuste release tot nu toe is.