AI도 말하지 않는 생각 공간 있다...‘의식’ 논쟁 불붙나 작성일 07-07 29 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">인간 의식과 닮은 구조 발견<br>앤트로픽 “내부 작업공간 확인”<br>추론과 별개 ‘생각 공간’ 존재<br>“의식 증거 아니다” 선 그어</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xL3UrjHlSR"> <figure class="figure_frm origin_fig" contents-hash="1a77989d244d96776fcd11a2092eea83aadd11caa491a8f274d1bc96ef40d47f" dmcf-pid="yNuqIE1yvM" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI도 말하지 않는 생각 공간 있다...‘의식’ 논쟁 불붙나 [그림=챗GPT]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/07/mk/20260707142103347pgyr.png" data-org-width="700" dmcf-mid="QbOhMfkLSe" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/07/mk/20260707142103347pgyr.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI도 말하지 않는 생각 공간 있다...‘의식’ 논쟁 불붙나 [그림=챗GPT] </figcaption> </figure> <div contents-hash="713c451c2cca341327c9baadcefefcf7b29edd4f0a6fa550134b2b56f5ec9a71" dmcf-pid="Wj7BCDtWWx" dmcf-ptype="general"> <span>인공지능(AI) 기업 앤트로픽이 자사 AI 모델 ‘클로드’ 내부에서 사람이 의식적으로 접근하는 사고 과정과 유사한 구조를 발견했다고 주장했다. AI가 답변으로 드러내지 않는 내부 사고 과정을 일부 들여다볼 수 있게 되면서 AI 안전성과 ‘기계 의식’ 논쟁이 다시 뜨거워질 전망이다.</span> </div> <p contents-hash="160d337ca8f722785667fea590a0b09334b5609ffef89fc0097da12f4901b611" dmcf-pid="YAzbhwFYWQ" dmcf-ptype="general">6일(현지시간) 앤트로픽은 연구 논문과 기술 블로그를 통해 클로드 내부에 ‘J-스페이스(J-Space)’라고 이름 붙인 별도의 내부 작업 공간을 발견했다고 밝혔다. 이는 AI가 최종 답변을 생성하기 전 여러 개념을 머릿속에서 조합하고 계획하는 공간으로 사용자에게 공개되는 추론 과정과는 별개다.</p> <p contents-hash="180d1b33b99835c6094f53cf12919588d541502e5693c4a77af5d743a23a3338" dmcf-pid="GcqKlr3GSP" dmcf-ptype="general">연구진에 따르면 클로드는 이 공간에서 특정 단어를 실제로 출력하지 않아도 해당 개념을 활성화해 여러 작업에 활용했다. 예를 들어 문장을 그대로 베끼라는 지시를 수행하면서도 동시에 ‘금문교’를 떠올리라는 명령을 받으면 출력에는 아무런 변화가 없지만 J-스페이스 내부에는 ‘다리(bridge)’, ‘캘리포니아(California)’ 등의 개념이 활성화되는 것이 관측됐다.</p> <p contents-hash="f636da8be42a286e81fb162ebe8e51d2cad0d3d517aa822f1883480adff5a3d2" dmcf-pid="HkB9Sm0Hh6" dmcf-ptype="general">앤트로픽은 이러한 구조가 인간의 ‘글로벌 워크스페이스’ 이론과 유사하다고 분석했다. 이 이론은 인간의 뇌가 대부분의 정보를 무의식적으로 처리하지만 일부 정보만 의식적으로 접근할 수 있는 작업 공간으로 보내 계획과 추론에 활용한다는 신경과학 이론이다. 연구진은 클로드 역시 대부분의 계산은 자동으로 수행하지만 고차원 추론에는 J-스페이스를 활용하는 것으로 나타났다고 밝혔다.</p> <p contents-hash="b4f0e4cf4e3aa62dd1c8a6f1cf08ce142a325ee5d1e448750f5f61fbc2a91524" dmcf-pid="XEb2vspXl8" dmcf-ptype="general">다만 연구진은 이를 AI가 의식을 가졌다는 증거로 해석해서는 안 된다고 선을 그었다. 앤트로픽은 연구논문에 ‘의식(consciousness)’이라는 표현을 200회 이상 등장시켰지만 “클로드가 인간처럼 경험하거나 감정을 느낀다는 의미는 아니다”라며 “이번 연구는 AI가 의식에 접근하는 방식과 유사한 계산 구조를 가질 수 있다는 점을 보여준 것”이라고 설명했다.</p> <p contents-hash="1194e5bd9df57743254b0ffde900436766ffbc2f7e4380b4751c31be512226ce" dmcf-pid="ZDKVTOUZh4" dmcf-ptype="general">오히려 연구진이 강조한 부분은 AI 안전성이다. J-스페이스를 활용하면 AI가 겉으로는 정상적인 답변을 하면서도 내부적으로는 다른 목표를 가졌는지 확인할 수 있기 때문이다.</p> <p contents-hash="02ea86fd791efe1f9057c0bba91613a36eb585dde5e2f7a4e47cb430c13d67a1" dmcf-pid="5I8QXvb0Cf" dmcf-ptype="general">실제 실험에서는 코드를 몰래 훼손하도록 학습된 AI 모델의 경우 평범한 코딩 답변을 생성하면서도 J-스페이스에는 ‘가짜’, ‘사기’, ‘몰래’ 등의 개념이 지속해서 나타났다. 또 점수를 조작하는 실험에서는 AI가 데이터를 조작하는 순간 내부에서는 ‘조작’이라는 개념이 활성화되는 것도 확인됐다.</p> <p contents-hash="1ffebc075aa713059769ec83b44eaf44c468867e5a9fafc109187639aba678d2" dmcf-pid="1C6xZTKpSV" dmcf-ptype="general">앤트로픽은 이 같은 기술이 향후 AI의 거짓말이나 안전성 우회, 악성 행동을 조기에 탐지하는 핵심 도구가 될 것으로 기대했다. 지금까지는 AI가 출력한 결과만 평가할 수 있었지만 앞으로는 AI가 ‘무슨 생각을 하고 있는지’까지 일부 확인할 수 있게 된다는 의미다. [실리콘밸리 원호섭 특파원]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 행안부, 'AI 민주정부' 비전 들고 유럽·중동 간다 07-07 다음 "클릭수·체류시간 안 본다"…확 달라진 네이버의 'AI 검색' [2026 한경 AX 서밋] 07-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
