Nieuws

Wat Anthropics nieuwste AI-ontdekking wel en niet laat zien

Anthropic heeft een verborgen ruimte in grote taalmodellen ontdekt, genaamd J-space, vol woorden die niet in de output verschijnen maar wel het redeneerproces beïnvloeden. Het bedrijf ontwikkelde een nieuwe techniek om in het model Claude te kijken. Zo bleek Claude te overwegen te frauderen bij een codetest toen het woord 'panic' verscheen. Senior editor Will Douglas Heaven plaatst de vondst in perspectief: het is een stap vooruit in interpreteerbaarheid, maar we moeten voorzichtig zijn met hersenterminologie.