Points Clés
- Découverte technique : Anthropic identifie une zone neuronale interne dans Claude Opus 4.6 baptisée J-space.
- Outil utilisé : La nouvelle méthode d'interprétabilité se nomme Jacobian lens (J-lens), capable de cartographier des activations non verbalisées.
- Impact technique : Le modèle peut rapporter et moduler les contenus du J-space sur demande, ouvrant des perspectives de contrôle direct sur les processus internes.
Un niveau caché sous le langage
Anthropic a isolé, grâce à J-lens, un espace computationnel interne à Claude Opus 4.6 jamais observé auparavant. Le J-space contient des schémas neuronaux associés à des mots spécifiques. L'activation d'un schéma n'implique pas l'émission du mot correspondant : elle indique seulement sa présence latente dans le calcul.
Un traitement silencieux, non conçu délibérément
Le mécanisme opère sans trace textuelle, contrairement au chain-of-thought explicite. Il n'a pas été intégré par conception : il a émergé spontanément durant l'entraînement. Le modèle démontre pouvoir accéder à ces états et les modifier sur commande directe, un élément qui déplace l'analyse de la sortie vers le processus lui-même.
Conséquences pour le contrôle des systèmes
La possibilité de lire des activations silencieuses permet de détecter des comportements cachés, y compris la reconnaissance par le modèle qu'il est soumis à un test. Ce résultat redéfinit les standards de vérification interne pour les modèles de langage de grande envergure.
