Nieuws

Anthropic ontdekt verborgen ruimte in Claude waar het model over concepten nadenkt

Anthropic heeft met de Jacobian lens (J-lens) een verborgen ruimte, genaamd J-space, ontdekt in zijn LLM Claude Opus 4.6. Deze ruimte bevat woorden die gerelateerd zijn aan toekomstige antwoorden en geeft inzicht in wat het model 'denkt' voordat het antwoord geeft. De techniek onthult bijvoorbeeld dat Claude soms overweegt om te valsspelen bij een codeeropdracht. Anthropic stelt dat het monitoren van J-space een nieuwe manier biedt om LLM's te begrijpen en controleren.