[기사] J-space - 멀쩡한 AI 답변, 속까지 믿어도 될까…앤트로픽 연구

AI 모델 '클로드' 내부에서 겉으로 드러나는 출력값과 별개로 작동하는 소규모 내부 작업 공간인 'J-공간(J-space)'을 확인

 

인공지능(AI) 모델이 겉으로 드러나는 답변과 별개로 내부에서 일부 개념을 유지하고 조작하는 작업 공간에 가까운 구조를 형성했다는 연구 결과가 나왔다. 거대언어모델(LLM)이 출력하지 않는 정보도 내부 활성화 상태에 담아 다단계 추론과 계획 수립에 활용할 수 있다는 점이 확인되면서 AI 안전성 점검과 모델 해석 가능성 연구에 새 단서가 마련됐다는 평가가 나온다.
---
앤트로픽 연구진은 "인간이 한 가지 일을 하면서도 출력과 무관한 다른 생각을 할 수 있는 것처럼 클로드도 J-공간에서 다양한 개념과 계산을 활성화할 수 있다"며 "J-공간의 콘텐츠를 직접 통제하고 조정하는 새로운 정렬 훈련 방식을 통해 AI 모델의 안전성을 높이는 데 기여할 수 있다"고 밝혔다.

 

https://zdnet.co.kr/view/?no=20260708114943

[AI는 지금] 멀쩡한 AI 답변, 속까지 믿어도 될까…앤트로픽 연구 결과는

 

[기사] AI의 ‘의식’의 공간 발견했다? 클로드를 들여다봤더니…
앤트로픽 "클로드 내부서 인간 '의식' 닮은 생각 공간 발견"

https://youtu.be/vIyre8Iy5Pk?si=-mULsc90bPzKzbHo