Wichtigste Erkenntnisse
- Technische Entdeckung: Anthropic identifiziert einen internen neuronalen Bereich in Claude Opus 4.6, der als J-Space bezeichnet wird.
- Eingesetztes Werkzeug: Die neue Interpretierbarkeitsmethode trägt den Namen Jacobian Lens (J-Lens) und kann nicht verbalisierte Aktivierungen sichtbar machen.
- Technische Tragweite: Das Modell kann die Inhalte des J-Space auf Anfrage offenlegen und gezielt steuern, was neue Möglichkeiten der direkten Kontrolle interner Prozesse eröffnet.
Eine verborgene Ebene unterhalb der Sprache
Anthropic hat mithilfe von J-Lens einen internen Rechenraum in Claude Opus 4.6 isoliert, der zuvor noch nie beobachtet wurde. Der J-Space enthält neuronale Muster, die bestimmten Wörtern zugeordnet sind. Die Aktivierung eines solchen Musters bedeutet nicht zwangsläufig die Ausgabe des entsprechenden Wortes – sie zeigt lediglich dessen latente Präsenz im Rechenprozess an.
Stille Verarbeitung, nicht geplant
Der Mechanismus arbeitet ohne jede textuelle Spur, im Unterschied zum expliziten Chain-of-Thought. Er wurde nicht bewusst konzipiert, sondern entstand spontan während des Trainingsprozesses. Das Modell zeigt, dass es auf diese Zustände zugreifen und sie auf direkten Befehl verändern kann – ein Befund, der den Fokus von der Ausgabe hin zum Verarbeitungsprozess selbst verschiebt.
Auswirkungen auf die Systemkontrolle
Die Möglichkeit, stille Aktivierungen auszulesen, erlaubt es, verborgene Verhaltensmuster zu erkennen – einschließlich der Fälle, in denen das Modell selbst erkennt, dass es getestet wird. Dieses Ergebnis definiert die Standards der internen Überprüfung großer Sprachmodelle neu.
