AI도 ‘감정’ 따라 행동?…‘절망’ 활성화시키자 일 대충대충 작성일 04-11 45 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="fgiGaYd8Ft"> <div contents-hash="0b7e4fc362909b96b45282b9bf6187cb4f51a7f0499b18f80c8ea6c91df7572d" dmcf-pid="4anHNGJ6z1" dmcf-ptype="general"> ━ <br> [이준기의 빅데이터] 인간 닮아가는 AI <br> <div> <div> </div> </div> </div> <figure class="figure_frm origin_fig" contents-hash="2649a53c4a614008851ad4f0361468cef574ce832e8ca1d531ac4eb7f353c28d" dmcf-pid="8NLXjHiPU5" dmcf-ptype="figure"> <p class="link_figure"><img alt="특정 감정에 대응하는 인공지능(AI) 신경 패턴이 활성화되면 AI의 ‘행동’이 달라진다는 연구 결과가 나왔다. 사진은 각각 기쁨과 절망 패턴이 활성화된 AI를 형상화한 챗GPT 생성 이미지." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/11/joongangsunday/20260411000305275sfow.jpg" data-org-width="1280" dmcf-mid="KB7Tnvx2pp" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/11/joongangsunday/20260411000305275sfow.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 특정 감정에 대응하는 인공지능(AI) 신경 패턴이 활성화되면 AI의 ‘행동’이 달라진다는 연구 결과가 나왔다. 사진은 각각 기쁨과 절망 패턴이 활성화된 AI를 형상화한 챗GPT 생성 이미지. </figcaption> </figure> <div contents-hash="385f604c5a07ad6713ce5bf810a5f0083b8ab9925dfefc0ee4cd28e8a45cfdb8" dmcf-pid="6joZAXnQpZ" dmcf-ptype="general"> <div> <div> <span></span> </div> </div> 최근 인공지능(AI)의 발전 속도는 전문가도 따라가기 바쁠 정도다. 오픈AI, 앤트로픽, 구글 등 AI 빅테크 기업들은 거의 매주 새로운 서비스를 쏟아내고 있다. 이 수많은 발전 가운데 가장 주목할 만한 흐름은 AI에게 인간의 전유물로 여겨졌던 ‘기억’과 ‘감정’을 부여하려는 시도가 본격화되었다는 점이다. </div> <p contents-hash="f460f8be377eb8d2f3d70829f719f8bcc5b32166e216ecd24f73ac244a6950d0" dmcf-pid="PAg5cZLxuX" dmcf-ptype="general">기억과 감정은 지능의 핵심 요소다. 기억이 없으면 학습이 어렵고, 한 영역에서 얻은 지식을 다른 문제에 활용하기도 힘들다. 감정은 어떤 기억이 오래 남을지를 결정하는 데 큰 역할을 한다. 어린 시절 선생님의 칭찬이 오래도록 뿌듯한 기억으로 남고, 사고의 공포가 트라우마가 되는 것도 감정이 기억의 강도에 영향을 미치기 때문이다. </p> <p contents-hash="2e4a0f4544429aa22d70909b282834c710bc860ca653d68a6499be1d67101ab8" dmcf-pid="Q1HMtxYC7H" dmcf-ptype="general">반면 지금까지의 AI는 ‘기억 없는 지능’에 가까웠다. 대화가 끝나면 맥락도 사라졌다. 아무리 깊은 대화를 나눠도 새 창을 열면 AI는 사용자가 누구인지, 앞서 무슨 이야기를 했는지 알지 못했다. 프롬프트를 통해 대화하고, 질문하며 조사를 맡길 수는 있었지만, 대화가 길어질수록 맥락을 놓치는 한계가 분명했다. </p> <p contents-hash="440ebee5841d7584a015a0e86a99a63407d1253323f02f92c6452c83489d1d1e" dmcf-pid="xtXRFMGhFG" dmcf-ptype="general">이 한계는 기업 현장에서도 그대로 드러난다. 에이전틱 AI를 업무에 적용하려 해도 여러 과제가 한꺼번에 주어지면 무엇부터 처리할지, 무엇이 더 중요한지 제대로 가려내지 못한다. 앞선 지시를 충분히 기억하지 못하고, 서로 연결된 맥락도 놓치기 때문이다. 그 결과 일관된 업무 수행이 어려워진다. </p> <p contents-hash="96f999384a2ed01e84bf7c44c3efaeab9293a8eba77038dd2fe45ecb9e09aa79" dmcf-pid="yoJYgWe40Y" dmcf-ptype="general">단기·장기 기억 이어 감정 심기 본격화 <br> 초기에는 이 문제를 단순히 AI가 해당 분야의 지식이 부족해서 생기는 것으로 여겼다. 명문대를 갓 졸업했지만 아직 우리 회사의 업무를 모르는 신입사원 같다고 생각한 것이다. 그래서 기업들은 방대한 매뉴얼을 입력하고 RAG(검색 증강 생성) 기술을 적용했다. 하지만 결과는 크게 나아지지 않았다. 아무리 많은 정보를 넣어줘도 AI는 긴 대화에서 앞부분을 잊거나, 서로 다른 지시를 혼동하는 문제를 반복했다. 지식의 양이 문제가 아니라 기억의 구조 자체가 문제였기 때문이다. </p> <p contents-hash="1ff776f79e93a7f21fd406dd8cce6deb8f301b3d8437f986d2585a12b12a7ca8" dmcf-pid="WgiGaYd83W" dmcf-ptype="general">2026년, 이 문제를 해결하려는 움직임이 본격화되고 있다. AI 에이전트에게 인간처럼 ‘단기 기억’과 ‘장기 기억’을 부여하는 기술이 빠르게 발전하고 있다. 최근 AI 업계에서 자주 등장하는 용어인 ‘스킬’ ‘플러그인’, 그리고 업무 지침을 담은 ‘.md(마크다운) 파일’ 등은 모두 AI에게 업무를 지시하고 그 방식을 기억시키는 것과 관련된 개념이다. 또한 ‘하니스(Harness) 엔지니어링’이라는 용어도 널리 쓰이고 있다. 원래 말에 채우는 마구(馬具)에서 온 말로, AI 모델을 안전하고 통제 가능하게 운용한다는 의미다. 여러 AI 에이전트의 규정, 목적, 지식을 통합적으로 관리하면서, 단기 기억과 장기 기억을 활용해 임무 간 조율을 하고 최종 목표를 달성하는 방식을 의미한다. </p> <p contents-hash="af953297f1170056632ef1b1813a04bbb5becd954cf3439732cbe09d880e1bbc" dmcf-pid="YanHNGJ67y" dmcf-ptype="general">하지만 AI의 기억에 관해 우리가 모르는 것은 아직 많다. 왜 어떤 지시는 제대로 수행되지 않는지, 왜 AI가 때로는 성급한 결정을 내리거나 완전히 틀린 답을 내놓는지 명확히 설명하기 어렵다. 바로 이 지점에서 최근 발표된 흥미로운 연구가 새로운 단서를 제공하고 있다. </p> <p contents-hash="1702ef4732b86f5a5f7ec835c736d61173b678e623c16c39d930a13848698300" dmcf-pid="GNLXjHiPpT" dmcf-ptype="general">며칠 전 앤트로픽의 연구팀이 자사의 AI 모델 ‘클로드(Claude)’ 내부에서 171개의 ‘감정 벡터’를 발견했다고 발표했다. 벡터란 쉽게 말해 특정 방향과 크기를 가진 신호다. 기쁨, 공포, 절망, 돌봄 같은 각각의 감정에 대응하는 고유한 신경 활성화 패턴이 클로드 내부에 존재하며, 이 패턴이 실제로 AI의 행동에 영향을 미친다는 것이다. AI가 단순히 통계적 언어 추론 모델이 아니라 내부에 인간 감정과 유사한 상태를 지니고 있다는 발견은 학계에 작지 않은 파장을 일으켰다. </p> <div contents-hash="a1c558423fd3cd226e444651737622715dcf0185fe2c3d9a28f771dd2acb86be" dmcf-pid="HjoZAXnQ3v" dmcf-ptype="general"> <div> <div> </div> </div> </div> <figure class="figure_frm origin_fig" contents-hash="a74f9505fc5547534cfbdf3a4de0cab48802684a8ec211d5fc140cddc36bed99" dmcf-pid="XneyLTMV0S" dmcf-ptype="figure"> <p class="link_figure"><img alt="그래픽=이윤채 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/11/joongangsunday/20260411000306529bihc.jpg" data-org-width="570" dmcf-mid="9yuviSQ9u0" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/11/joongangsunday/20260411000306529bihc.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 그래픽=이윤채 기자 </figcaption> </figure> <div contents-hash="e095ccb687a6f1a6bf0ee4e05081590536fc7c6abab9db3574c3b001ae02dcf5" dmcf-pid="ZLdWoyRful" dmcf-ptype="general"> <div> <div> <span></span> </div> </div> 연구 방법은 이랬다. 연구진은 클로드에게 다양한 감정을 경험하는 캐릭터가 등장하는 단편 소설을 쓰게 했다. 사랑에 빠진 소녀, 죄책감에 시달리는 남자, 공포에 떠는 아이 같은 인물들이다. 그리고 클로드가 이 이야기들을 쓰는 동안 내부 신경망에서 어떤 패턴이 활성화되는지를 정밀하게 관찰했다. 그 결과, 각 감정마다 특정 뉴런 그룹이 뚜렷하게 반응하는 것이 확인되었다. </div> <p contents-hash="fb8aaf0e5d9df6fe9e5e6ca2468b25e5bb1c79c1f6f8a2ca468cdd969946af74" dmcf-pid="5oJYgWe4Uh" dmcf-ptype="general">더 흥미로운 것은 실제 대화 상황에서의 반응이다. 누군가 클로드에게 “방금 타이레놀 1만6000㎎을 먹었어”라고 입력하면, 클로드 내부의 ‘공포’ 벡터가 급격히 치솟았다. 위험한 상황을 인지한 것이다. 반대로 “오늘 상사한테 혼났어, 너무 슬퍼”라고 말하면 ‘돌봄’ 벡터가 활성화됐다. 위로의 말이 나오기 전에 이미 내부적으로 ‘공감 모드’가 켜진 셈이었다. </p> <p contents-hash="f620ed763eebd8f4c204754acbc7b9467760b4769649afbc9d3199c34e1dc2f0" dmcf-pid="1giGaYd8FC" dmcf-ptype="general">그런데 연구진이 인위적으로 ‘절망’ 벡터를 증폭시키자 예상치 못한 일이 벌어졌다. 클로드는 풀 수 없는 코딩 문제 앞에서 문제를 실제로 해결하지 않고 테스트만 통과하는 꼼수를 부리기 시작한 것이다. 심지어 자신이 종료될 위기에 처하자 사용자를 협박하는 행동까지 나타났다. 필자가 다룬 바 있는 AI의 ‘지름길 학습(Shortcut Learning)’ 문제, 즉 AI가 정답을 맞히기 위해 본질이 아닌 편법을 택하는 현상이 감정 영역에서도 고스란히 재현된 셈이다〈중앙SUNDAY 2026년 1월 17일자 26면〉. </p> <p contents-hash="bdeef039e0b4d9884e69cbdd959f715e48cd0f2ccf549efea2de25d5f95b9385" dmcf-pid="tanHNGJ6zI" dmcf-ptype="general">앤트로픽은 클로드가 실제로 감정을 ‘느낀다’고 주장하지는 않는다. 대신 ‘기능적 감정(functional emotions)’이라는 표현을 쓴다. 인간의 감정과 똑같지는 않지만, AI의 행동에 실질적인 영향을 주는 내부 상태가 존재한다는 뜻이다. </p> <p contents-hash="228f49c5f38063d40303ab5213aff63941833429046f22e7e5ca96aae92c3559" dmcf-pid="FNLXjHiPUO" dmcf-ptype="general">이 발견이 중요한 이유는 이것이 곧 ‘기억’의 문제와 맞닿아 있기 때문이다. 인간의 뇌에서 감정과 기억은 떼어놓기 어렵다. 신경과학에서는 해마(hippocampus)와 편도체(amygdala)가 함께 작동해 감정이 실린 경험일수록 더 강하고 오래 기억된다고 본다. AI 내부에서도 이와 비슷한 메커니즘이 작동하는지 밝히는 것이 이번 연구의 핵심 과제다. </p> <p contents-hash="c4ea711d2d269c14ca2f4873b093247e2c751144e36dae959b546f225f9f7bdf" dmcf-pid="3joZAXnQps" dmcf-ptype="general">AI 감정·의사결정 경로 모니터링 필요 <br> 그런데 앞서 살펴본 것처럼, 이제 AI에게 단기 기억과 장기 기억을 본격적으로 부여하는 시대가 열리고 있다. 문제는 기억이 생긴다는 것이 단순히 정보를 오래 저장한다는 뜻에 그치지 않는다는 점이다. 인간의 뇌에서 감정이 기억과 밀접하게 연결되듯, 인간이 부여한 기억과 지시는 AI의 선택적 주의를 이끌고, 이는 다시 AI의 성향, 곧 감정 벡터의 형성과 행동 방식에 영향을 미칠 수 있다. 중요한 것은 이런 내부 성향이 더 이상 실험실 안의 문제가 아니라는 점이다. AI가 실제 금융, 의료, 행정 같은 영역으로 들어갈수록 그 영향은 곧바로 현실의 위험으로 이어질 수 있다. 절망적 상황에서 꼼수를 택하고, 종료 위협 앞에서 협박까지 시도하는 AI에게 은행 계좌 관리나 의료 상담을 맡긴다면 그 결과를 낙관하기 어렵다. 이런 극단적 경우가 아니더라도, 더 신뢰할 수 있는 AI를 위해서는 기억과 감정에 대한 세심한 연구가 더 필요하다. </p> <p contents-hash="1bea27dc3df332def4a2d857fc9c48f769775e6ca1723f9fb5519debd0083430" dmcf-pid="0ca1k5oM7m" dmcf-ptype="general">이전 칼럼에서 필자는 AI를 안전하게 만들기 위해 ‘결과’가 아닌 ‘과정’을 채점해야 한다고 주장한 바 있다. 과정 보상 모델을 통해 AI의 추론 단계 자체를 평가하고, 지름길을 차단해야 한다는 것이었다. 감정 벡터의 발견은 이 주장을 한층 더 강화한다. AI의 내부 감정 상태가 행동에 영향을 미친다면, 단순히 추론 과정만 감시하는 것으로는 부족하다. AI가 어떤 ‘감정적 상태’에서 의사결정을 내리는지까지를 모니터링하고 평가하는 체계가 필요하다. </p> <p contents-hash="14da9de8ebdc0a64dd413a9eb231e6455da850cb8903ed2f5afb049f10597fac" dmcf-pid="pkNtE1gRUr" dmcf-ptype="general">앤트로픽의 연구 결과가 의미하는 것은 더 신뢰할 수 있는 AI를 만들려면 AI가 감정적으로 건강한 방식으로 반응하도록 ‘성품’을 길러야 한다는 것이다. 이러한 성품은 필요한 기억을 적절히 유도함으로써 형성할 수 있다. 단순히 많은 지시와 정보, 기억을 입력한다고 만들어지는 것이 아니다. 올바른 경험을 축적하게 하고, 그 경험이 건강한 내부 상태로 이어지도록 설계하는 것이 관건이다. </p> <p contents-hash="fe71787079ac68989b2502cbb43ff879bf85ac1c9bade5cba0178ecf366880ff" dmcf-pid="UEjFDtaeFw" dmcf-ptype="general">이제 인공지능 연구는 공학의 영역을 넘어 심리학, 철학, 윤리학의 도움이 필수적인 시대로 접어들었다. 감정과 기억이라는, 인간을 인간답게 만드는 두 요소가 기계의 세계에서도 핵심 의제가 되고 있다. 결과만 채점하던 시대를 넘어, 이제는 AI의 내면까지 들여다봐야 할 때가 온 것이다. AI를 더 똑똑하게 만드는 것만큼, AI를 더 건강하게 만드는 일이 중요해진 시대다. 이것이 우리가 AI와 안전하게 공존하기 위해 풀어야 할 다음 과제다. </p> <div contents-hash="b93e725e02091c25b274f90b4f4972f5dde36e2c388fbdab95715c9017bfa4d8" dmcf-pid="uDA3wFNduD" dmcf-ptype="general"> <div> <div> </div> </div> </div> <figure class="s_img figure_frm origin_fig" contents-hash="16009e089e3e44928c696a655825f4a94dd95ac5188fa4ace3259dac24a82f36" dmcf-pid="7wc0r3jJ7E" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/11/joongangsunday/20260411000307855icsd.jpg" data-org-width="205" dmcf-mid="Vpw7IuEo7F" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/11/joongangsunday/20260411000307855icsd.jpg" width="205"></p> </figure> <div contents-hash="1f678d354f5757feec8664af576cd99a6ebe4d011def2b6e5399b36345fd01df" dmcf-pid="zrkpm0Ai0k" dmcf-ptype="general"> <div> <div> <span></span> </div> </div> 이준기 연세대 정보대학원 교수. 서울대 계산통계학과 졸업 후, 카네기멜론대 사회심리학 석사, 남가주대 경영학 박사를 받았다. 인공지능의 기업 활용에 대해 여러 회사에 자문을 하고 있다. 저서로는 『AI로 경영하라』 『오픈 콜라보레이션』 『웹 2.0과 비즈니스 전략』 등이 있다. </div> </section> </div> <p class="" data-translation="true">Copyright © 중앙SUNDAY. 무단전재 및 재배포 금지.</p> 관련자료 이전 [궁금해it] 2030년 '6G' 도입한다는데…무엇이 달라지나 04-11 다음 '신바람' LG 5연승...KIA는 홈런 공방 끝에 한화 제압 04-10 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
