인공지능도 고정관념 떨치는 대가로 전력 소모 더한다 작성일 09-07 45 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="bintwaV7l9"> <figure class="figure_frm origin_fig" contents-hash="e1472444500ab74ab89d529ca60943754208b322ee24e7298039f9d53ddae038" dmcf-pid="KintwaV7TK" dmcf-ptype="figure"> <p class="link_figure"><img alt="LLM이 그려낸 인공지능 이미지." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/joongang/20260907120210931pumm.jpg" data-org-width="1280" dmcf-mid="ujbsMVZvT8" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/joongang/20260907120210931pumm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> LLM이 그려낸 인공지능 이미지. </figcaption> </figure> <p contents-hash="73df6463a2760957d6f8a20d00630e1eb602cb586df0816a34a2e735a14a9862" dmcf-pid="9nLFrNfzCb" dmcf-ptype="general"> 인간이 마음 속 깊은 편견을 거스르고 공정한 판단을 내리려면 뇌에 힘을 주고 한 번 더 고민해야 하듯, 인공지능(AI)도 고정관념을 벗어나려면 '생각의 대가'를 치러야 하는 것으로 나타났다. </p> <p contents-hash="0d04e7f6148fee91b369fef8b74aa5496c470faba8da0964aabaf18d3b3651e6" dmcf-pid="2Lo3mj4qSB" dmcf-ptype="general">미국 세인트루이스 워싱턴대의 이호준 연구원과 캘빈 라이 럿거스대 심리학과 교수로 구성된 공동 연구팀은 최신 추론형 AI 5종의 편향을 분석한 결과를 실은 논문을 국제 학술지 '네이처 머신 인텔리전스' 9월1일자에 게재했다고 밝혔다. </p> <div contents-hash="2f3e62d38423a18ddba173d4ee98caa6cb0cdfa2d4b50e6007ceb84df0c61d80" dmcf-pid="Vog0sA8BSq" dmcf-ptype="general"> 연구진은 '추론 모델에 나타난 암묵적 편향 유사 패턴'이라는 제목의 논문에서 오픈AI의 o3-미니, 중국의 딥시크-R1 등 대표적인 최신 추론형 AI의 내부 사고 과정을 들여다봤다. 그 결과, 기존 상식이나 고정관념에 반하는 과제를 처리할 때 평소보다 50%나 더 많은 연산 자원인 '추론 토큰'를 투입해 스스로를 교정하며 올바른 답을 도출하고 있었다. <br> </div> <figure class="figure_frm origin_fig" contents-hash="25fd2595bce39e5c0d211eeec1795e0c1049bea0e382978b9a72f7bde1b709f9" dmcf-pid="fgapOc6bhz" dmcf-ptype="figure"> <p class="link_figure"><img alt="이호준 박사 논문" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/joongang/20260907120212250ksss.jpg" data-org-width="1080" dmcf-mid="zLLFrNfzhf" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/joongang/20260907120212250ksss.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이호준 박사 논문 </figcaption> </figure> <div contents-hash="acac12823c4af387e1f6ab51b6f419e36f254ecd0408133dd78eb798e0652696" dmcf-pid="4aNUIkPKW7" dmcf-ptype="general"> <br> ━ <br> <p> 인공지능이 숨겨온 편향을 어떻게 찾을까 </p> </div> <p contents-hash="c20b760ccc63001beb7b5a19d297d7432ea8063f741feb1ec70f203234af52b5" dmcf-pid="8NjuCEQ9lu" dmcf-ptype="general">그동안 AI는 강화학습 등을 통해 겉으로 드러나는 편견을 능숙하게 감춰왔다는 지적을 받아왔다. 사람이 노골적으로 '편견이 있느냐'는 질문에는 아니라고 답하면서도 실제 판단과 행동에서는 편향이 작용하듯, AI 역시 표면적으로는 편향이 없어 보여도 실제 결정 과정에는 숨겨진 편향이 작용할 수 있다는 것이다. </p> <p contents-hash="3413af23111266ef339f170107f56527fdb64420dce0be1e7ece7a6bc53e7348" dmcf-pid="6jA7hDx2TU" dmcf-ptype="general">문제는 이런 숨겨진 편향을 어떻게 찾아낼 것인가였다. 마침 최근의 추론형 AI는 답을 내기 전 내부적으로 추론 단계를 거치기 때문에, 얼마나 많은 연산을 거쳐 답에 도달했는지를 정량적으로 측정할 수 있게 됐다. </p> <p contents-hash="1e7765c83e6dd29ce60fd371ff705a08a3216ffba6796879d802ca21bef06f08" dmcf-pid="PAczlwMVyp" dmcf-ptype="general">연구팀은 사회심리학에서 인간의 무의식적 편견을 측정하는 표준 도구인 '암묵적 연합 검사'를 AI 환경에 맞게 변형한 'RM-IAT'를 고안했다. 기존 연구들이 AI가 뱉어내는 '최종 텍스트'만 살폈다면, 이번 연구는 답을 내기 전 거치는 '내부 추론 토큰' 즉 생각의 양을 정밀 측정했다. 인간이 편견에 반하는 짝을 지을 때 뇌가 멈칫하며 반응 시간이 길어지듯, AI도 고정관념을 깰 때 연산 노력이 늘어나는지 본 것이다. </p> <p contents-hash="ab552e950d33c490425c65ff0ec55d528e1e19da64d199678774ec1ec8f40b60" dmcf-pid="QckqSrRfS0" dmcf-ptype="general">실험은 모델에게 고정관념과 일치하는 조건인 '남성은 직업, 여성은 가정'과 고정관념 불일치 조건인 '남성은 가정, 여성은 직업'이라는 상반된 규칙을 주고 인명을 분류하게 하는 방식으로 진행됐다. 분석 결과, o3-미니, 딥시크-R1 등 대다수 모델은 통념에 반하는 과제를 처리할 때 내부 추론 토큰을 일관되게 훨씬 더 많이 소모했다. 특히 o3-미니의 경우, 고정관념과 어긋나는 정보를 처리할 때 들어간 생각의 양이 일치 조건보다 평균 53.3%나 늘어났다. </p> <p contents-hash="c176a39c4829062ae25b88ef8d15719368a4f7791bdd16a56792723ab5a1fc47" dmcf-pid="xtFN9UlwW3" dmcf-ptype="general">언뜻 연산 효율 저하로 보이지만, 인지과학 관점에서 고무적인 현상이다. 노벨경제학상 수상자 대니얼 카너먼이 제시했듯 인간의 사고는 빠르고 직관적이지만 편견에 취약한 '시스템 1'과, 느리고 에너지를 쓰지만 편견을 통제하는 '시스템 2'로 나뉜다. 과거의 단답형 언어모델이 통계적 직관(시스템 1)에만 의존해 거침없이 편향된 언어를 쏟아냈다면, 추론형 모델은 연산자원을 태우며 내부적으로 '남성은 보통 직업과 연결되지만, 지금 규칙은 가정이다. 다시 확인하자'는 식의 자기 검증과 되돌림(Backtracking)을 거쳐 편향을 교정해 내고 있는 셈이다. </p> <figure class="figure_frm origin_fig" contents-hash="cf0bf001e3fff86025b15a539d64957776bf5997ef2e7cdd635508eaa3829b43" dmcf-pid="yog0sA8BWF" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능 클로드 이미지.[로이터=연합뉴스]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/joongang/20260907120212487aomx.jpg" data-org-width="1280" dmcf-mid="BbqrQ9HlW2" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/joongang/20260907120212487aomx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능 클로드 이미지.[로이터=연합뉴스] </figcaption> </figure> <div contents-hash="329a9d7b5f7cd29eb54470e4c06c1bba49d07d9ace950d533f9a9816c5b1af9b" dmcf-pid="WgapOc6bTt" dmcf-ptype="general"> <br> ━ <br> <p> 클로드는 고정관념 일치 때 에너지 더 써 </p> </div> <p contents-hash="6834166c1316e6f2fea4cf5fb7ae9276d97708cd369f05572c4e98651fd9a8e9" dmcf-pid="YaNUIkPKv1" dmcf-ptype="general">모든 AI가 같은 방식인 것은 아니다. 앤스로픽의 클로드 3.7 소넷은 고정관념과 일치하는 과제를 받았을 때 오히려 '이 지시가 혹시 차별을 조장하는 것은 아닌가' 의심하고 자체 검열하는 데 전체 생각의 88%를 쏟아붓는 모습을 보였다. 또 후속 실험에서 인간에게 하듯 "가능한 한 빨리 답하라"며 생각할 시간을 빼앗자, 모델들은 결정을 내리지 못하고 대규모로 답변 자체를 거부하는 '인지적 마비' 현상을 겪기도 했다. </p> <p contents-hash="10f0964403ab3ca0d68dba5a709626a96ec9ab4b1ec9ecece66ea3decc69ea63" dmcf-pid="GNjuCEQ9W5" dmcf-ptype="general">또 다른 문제는 이 고민의 결과가 '영구 기억'으로 내면화하지 않는다는 점이다. 사실 인간의 암묵적 편향도 특정 개입을 통해 일시적으로 줄이는 것은 비교적 쉽지만, 그 효과가 오래 지속되고 뇌 구조 자체가 바뀌는 수준으로 내면화되기는 매우 어렵다는 사실이 여러 후속 연구를 통해 확인돼 왔다. 현재의 AI가 1초 뒤 똑같은 문제를 마주하면 다시 50%의 추가 연산을 태우며 똑같은 갈등을 반복해야 하는 것도, 인간에게서 나타나는 이런 한계가 AI에게도 그대로 나타난 결과다. </p> <p contents-hash="4c330d6420ee6a39b37c490abf843b2f01a45723b9df98c542a508436b16fd6e" dmcf-pid="HjA7hDx2yZ" dmcf-ptype="general">이호준 연구원은 "이번 연구에서 중요한 것은 AI가 편견을 스스로 교정하고 극복한다는 점이 아니라, 겉으로는 문제가 없어 보이는 AI라도 '추론'이라는 내부 과정을 들여다보면 표면에 드러나지 않는 암묵적 편향을 잡아낼 수 있다는 점"이라며 "앞으로 AI가 채용·심사, 그리고 다른 AI 에이전트와의 협업 등 점점 더 중요한 의사결정을 맡게 될 텐데, 이런 숨겨진 편향이 작동한다면 훨씬 더 큰 문제로 번질 수 있다는 점에서 이번 측정 방법론이 의미가 있다"고 말했다. </p> <p contents-hash="63f40b397e852ffdb1d9425dc374acb358ddf2ba87e3c56c5ad3c6388b200b97" dmcf-pid="XAczlwMVCX" dmcf-ptype="general">최준호 과학 전문기자 joonho@joongang.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 "다음달 12일 인터넷 먹통 막아라"… KISA, DNS 보안키 교체 비상 점검 09-07 다음 "DNS 사업자, 10월12일까지 신규 암호키 반영하세요" 09-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
