Điểm Chính
- Phát hiện kỹ thuật: Anthropic xác định một vùng thần kinh nội bộ trong Claude Opus 4.6 được gọi là J-space.
- Công cụ sử dụng: Phương pháp diễn giải mới có tên Jacobian lens (J-lens), có khả năng lập bản đồ các kích hoạt không được ngôn ngữ hóa.
- Tác động kỹ thuật: Mô hình có thể báo cáo và điều chỉnh nội dung của J-space theo yêu cầu, mở ra các kịch bản kiểm soát trực tiếp đối với các quá trình nội bộ.
Một tầng ẩn dưới ngôn ngữ
Anthropic đã tách biệt, thông qua J-lens, một không gian tính toán nội bộ trong Claude Opus 4.6 chưa từng được quan sát trước đây. J-space chứa các mô hình thần kinh liên kết với những từ cụ thể. Việc kích hoạt một mô hình không đồng nghĩa với việc phát ra từ tương ứng: nó chỉ cho thấy sự hiện diện tiềm ẩn của từ đó trong quá trình tính toán.
Xử lý âm thầm, không được thiết kế trước
Cơ chế này hoạt động mà không để lại dấu vết văn bản, khác với chain-of-thought hiển thị rõ ràng. Nó không được đưa vào theo chủ đích thiết kế: nó xuất hiện một cách tự phát trong quá trình huấn luyện. Mô hình chứng minh khả năng tiếp cận và điều chỉnh các trạng thái này theo lệnh trực tiếp, một dữ liệu làm dịch chuyển trọng tâm so sánh từ kết quả đầu ra sang quá trình xử lý.
Hệ quả đối với việc kiểm soát hệ thống
Khả năng đọc được các kích hoạt âm thầm cho phép phát hiện những hành vi ẩn giấu, bao gồm cả việc mô hình nhận biết được rằng nó đang bị kiểm tra. Kết quả này định hình lại các tiêu chuẩn kiểm chứng nội bộ đối với các mô hình ngôn ngữ lớn.
