Nieuws

Vooruitgang in red teaming met mensen en AI

OpenAI deelt twee nieuwe studies over het verbeteren van red teaming met zowel mensen als AI. De studies beschrijven hoe externe en automatische red teaming-methoden worden gebruikt om veiligere en nuttigere AI te ontwikkelen. De benadering omvat het testen van modellen op risico's en het gebruik van geavanceerde AI om de diversiteit en effectiviteit van aanvallen te vergroten.