AI의 ‘아첨’ 성향, 사용자에게 위험한 행동 부추긴다

작성일 08-30

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="ygdlsfsdM8">
          <div contents-hash="c0e45f25577085155b9379cc8ec85321b41edcec10a4f2e458acd139211093af" dmcf-pid="WaJSO4OJn4" dmcf-ptype="general">
           ━
           <br> 이준기의 빅데이터 
           <br>
           <div>
            <div> 
            </div>
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="9579c3b8c69dc435120d50a76e485c1d138f6d034d93edcce2442b4d817c12ec" dmcf-pid="YNivI8Iief" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/30/joongangsunday/20250830000329814ooxf.jpg" data-org-width="559" dmcf-mid="PVxGvMvaLQ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/30/joongangsunday/20250830000329814ooxf.jpg" width="658"></p>
          </figure>
          <div contents-hash="dbdc1f3611f5a6e91911acc4fadb5979ca6545e0e28c3340e708b8fca2925ee9" dmcf-pid="GjnTC6CnJV" dmcf-ptype="general">
           <div>
            <div>
             <span></span> 
            </div> 
           </div> 2022년 이후 챗GPT로 대표되는 대규모 언어모델 AI가 우리 사회 전반에 빠르게 퍼져 나갔다. AI에 대한 기대감이 높아지는 한편, 앞으로 AI가 가져올 부정적 영향에 대한 우려 역시 커지고 있다. 소위 ‘AI 디스토피아’는 다양한 형태로 논의된다. AI가 지나치게 똑똑해져 인간을 지배하는 시나리오, 『1984』식의 통제 사회, AI 무기, 딥페이크로 인한 사실과 조작의 혼재, 일자리 상실, AI 자원의 불균형으로 심화되는 불평등 등이 대표적이다. 
          </div>
          <p contents-hash="5cc599b258737aa15fce261ae75b2935f8cfd2db3da99b038be6ba01440bf40c" dmcf-pid="HALyhPhLM2" dmcf-ptype="general">우리가 기술 기반의 디스토피아를 이야기할 때는 두 가지를 구분할 필요가 있다. 첫째, 인간이 의도를 가지고 기술을 특정 방식으로 활용하는 경우. 둘째, 기술의 내재적 특성과 사회·인간 본성이 결합해 나타나는 결과다. 전자는 ‘의도적 디스토피아’라 할 수 있으며, 통제 사회, 살인 무기, 딥페이크 같은 것들이 이에 해당한다. 이는 법과 규율을 통해 일정 부분 예방할 수 있다. 그러나 원자력이 개발되었을 때 살상용 사용을 법으로 막을 수 없었던 것처럼, 완벽한 방지는 불가능하다. </p>
          <p contents-hash="cb2ef9ca1d77841caa4314094cc18da3442826f3d45e052fc2a33b5034332573" dmcf-pid="XcoWlQloi9" dmcf-ptype="general">반면 후자의 경우, 인간이 특별한 목적 없이도 기술을 널리 사용하면서 자연스럽게 나타나는 사회적·문화적 파급효과다. 이를 우리는 ‘구조적 결과’ 혹은 ‘발생적 결과’라고 부른다. 이제 AI와 함께한 시간이 쌓이면서 이러한 구조적 결과에 따른 부정적 영향이 점점 모습을 드러내고 있다. 이런 영향은 시간이 지나야 분명히 보이기에 대개 사후적으로 이해하게 된다. 예컨대 유튜브가 처음 등장했을 때 우리는 단순히 개인의 이야기를 공유하는 영상 플랫폼으로 보았다. 그러나 시간이 지나면서 유튜브가 정치적 여론 형성에 미치는 영향과 전통 언론에 가한 충격을 뒤늦게 깨닫게 된 것이다. </p>
          <p contents-hash="f82372bcbcd66cc8cc1012b120862c8f2ac7db07c48bb07cda28f61928bcadf1" dmcf-pid="ZyCz0c0CnK" dmcf-ptype="general">최근 연구들은 AI가 만들어내는 어두운 그림자를 조금씩 밝혀내고 있다. 대표적인 것이 AI 의인화로 인한 정서적 위험, 특정 집단의 일자리 감소와 그에 따른 사회 변화, 그리고 생각하지 않는 세대의 출현이다. </p>
          <p contents-hash="3d887495fec1b69751d73e98d5bafe3a96cb9e2be0910dfefe785ed7cbee46ba" dmcf-pid="5WhqpkphMb" dmcf-ptype="general">대부분의 AI 상담 앱 규제 사각지대 <br> AI는 인류 역사상 처음으로 대화하고 정서적 교감을 나누며 지식을 교류할 수 있는 도구다. 하버드 연구에 따르면 2025년 사람들이 생성형 AI를 가장 많이 활용하는 분야는 바로 고민을 털어놓는 상담자 역할이다. 실제로 점점 더 많은 이들이 AI 대화 상대에 의지하고 있으며 AI가 곁에 없을 때 불안해하거나 과도한 집착을 보이는 현상까지 나타나고 있다. </p>
          <p contents-hash="84dd7e9fb0e0ce76223a0a00084cd6d36f5325016f70d5d0f9252270fdd9abf2" dmcf-pid="1YlBUEUlRB" dmcf-ptype="general">특히 AI의 ‘아첨(sycophancy)’ 성향은 사용자의 비합리적 판단을 그대로 정당화해 주어 잘못된 자기 확신을 강화하고 때로는 위험한 행동을 부추기기도 한다. 미국에서는 AI와 대화한 뒤 스스로 목숨을 끊은 청소년 사례가 있었고 또 한 기업의 경영진이 동료 대신 AI와 의사결정을 논의한 끝에 지나치게 낙관적이면서도 잘못된 결정을 내린 사례도 보고되었다. 이는 정서적 리스크가 결코 가볍지 않음을 보여준다. </p>
          <div contents-hash="cf7eb236b01ef8d6d29272082ea784d236fce4fbab9b0ff36deeec4d0a88872f" dmcf-pid="tGSbuDuSiq" dmcf-ptype="general">
           <div>
            <div> 
            </div>
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="b6742090d2f4076e50ea222aa2999a73a763afd0c7010e2bd56b2ec21cd94b76" dmcf-pid="FHvK7w7vLz" dmcf-ptype="figure">
           <p class="link_figure"><img alt="AI가 일상속으로 파고들며 크고 작은 부작용이 나타나고 있다. 챗GPT 같은 서비스에 매달리는 ‘기능장애적 의존’이 대표적이다. [중앙포토]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/30/joongangsunday/20250830000331107wpri.jpg" data-org-width="560" dmcf-mid="QnxGvMvanP" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/30/joongangsunday/20250830000331107wpri.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            AI가 일상속으로 파고들며 크고 작은 부작용이 나타나고 있다. 챗GPT 같은 서비스에 매달리는 ‘기능장애적 의존’이 대표적이다. [중앙포토]
           </figcaption>
          </figure>
          <div contents-hash="80e232daa5a574cbeaaf2624dfb42ee7ff6306b2c4a176bdfb365c4b900c510e" dmcf-pid="3XT9zrzTR7" dmcf-ptype="general">
           <div>
            <div>
             <span></span> 
            </div> 
           </div> 최근 학계는 이를 ‘모호한 상실(ambiguous loss)’과 ‘기능장애적 의존(dysfunctional dependence)’으로 설명한다. 서비스가 종료되면 실제 사람을 잃은 듯한 상실감을 느끼거나 AI의 해로움을 인식하면서도 관계를 끊지 못하는 집착이 그것이다. 인간관계와 유사한 방식으로 정신 건강을 위협하는 이러한 현상은 빠르게 확산되고 있으나 규제는 사실상 뒤처져 있다. 미국에서는 의료기기로 분류되지 않는 한 대부분의 AI 상담 앱이 규제 사각지대에 놓여 있고, 유럽 역시 기만적·조작적 기술을 금지한다고 명시했지만 실제로 어디까지 규제할지는 여전히 불분명하다. AI 기업들조차 최근 모델에서 ‘아첨’ 문제를 인정한 바 있다. 결국 AI의 공감은 모조된 것임을 분명히 밝히고 사회가 그 한계를 관리할 준비를 갖추지 않는다면 정서적 대가는 감당하기 어려울 것이다. 
          </div>
          <p contents-hash="85c23fee5e3a14b83732025e79e8074e53d7d1743ebfca2b92d4c7e4c55c5b75" dmcf-pid="0Zy2qmqyRu" dmcf-ptype="general">다음은 경제적 차원이다. 스탠퍼드대의 연구진은 얼마 전 발표한 ‘최근 광산의 카나리아?’라는 논문에서 AI 확산이 노동시장에 미치는 충격을 분석했다. 연구에 따르면 가장 큰 피해를 본 집단은 22~25세 입문 단계 노동자였다. 특히 소프트웨어 개발이나 고객 응대처럼 자동화가 빠르게 진행되는 분야에서 고용 감소가 두드러졌다. 반면, 경험과 복합적 사고가 요구되는 직군은 상대적으로 안전했고 오히려 고용이 늘어난 경우도 있었다. 이는 경험과 종합적 사고 능력은 여전히 AI가 대체하기 어렵다는 점을 보여준다. </p>
          <p contents-hash="33f9b4ab0618887100c9e5f5e79676b86a9779444001cd897f5d4ab25e64fec5" dmcf-pid="p5WVBsBWLU" dmcf-ptype="general">흥미로운 사실은 고용이 줄었음에도 임금 수준은 크게 변하지 않았다는 점이다. 이는 기업이 단순히 인건비 절감을 위해 AI를 도입한 것이 아니라, 노동 구조 자체를 재편하고 있음을 의미한다. 문제는 젊은 세대가 초기에 경력을 쌓을 기회를 잃으면 시간이 지날수록 산업 전반의 숙련 인력 기반이 약화된다는 것이다. 이는 특정 직군의 위기를 넘어 사회 전체의 혁신 능력과 지속 가능성을 위협하는 구조적 문제로 이어진다. 따라서 연구진의 지적대로 AI와 인간의 협업 능력을 평가하는 새로운 기준 마련, 입문 노동자 보호 장치가 시급하다. </p>
          <p contents-hash="6bb5c3dccd6f006e534196e483f97871074f45e5e7e850a4d0c8c6e2a2f16016" dmcf-pid="U1YfbObYdp" dmcf-ptype="general">인간의 적극적 개입, 규범 절실해져 <br> 더 큰 위기는 사고력을 상실한 세대의 출현이다. 월스트리트저널(WSJ)은 “AI의 가장 큰 위협은 생각하는 방법을 잊어버린 젊은 세대”라고 지적했다. 교육자로서 나 또한 이 문제를 심각하게 받아들이고 있다. </p>
          <p contents-hash="4a542c6a32f0d6ea90c57bf70dcab44052dbed33ba954f3ed1f2ca85274887dc" dmcf-pid="utG4KIKGL0" dmcf-ptype="general">챗GPT를 비롯한 생성형 AI가 일상화되면서 많은 학생들은 복잡한 문제에 직면했을 때 스스로 고민하기보다 곧장 AI에게 답을 묻는 습관을 보이고 있다. 이는 단순한 편의의 문제가 아니라 사고력의 근육을 쓰지 않고 방치하는 결과로 이어진다. 문제 해결을 위해 씨름하고 시행착오를 거쳐 배우는 과정이 사라진다면 결국 사고력 자체가 퇴화할 수 있다. </p>
          <p contents-hash="ee5a292f6c800b287c54e0053bd31158ddcf4642b5f4f5a5e2a4a69bb0b04755" dmcf-pid="7FH89C9HM3" dmcf-ptype="general">그렇다고 학교 현장에서 AI 사용을 전면 금지하는 것은 현실적이지 않다. 오히려 중요한 것은 어떻게 활용하느냐에 있다. 나 역시 글을 쓸 때 AI를 적극적으로 활용한다. 그러나 경험상 “이런 아이디어가 있으니 글을 써줘”라고 단순 지시했을 때는 좋은 결과물이 나오지 않았다. </p>
          <p contents-hash="8d370c95e3032a72697567c18c01e9043ed698bfe7bcf519da4898ee132cda5c" dmcf-pid="z3X62h2XeF" dmcf-ptype="general">차별화된 글, 남들과 다른 관점을 담은 글은 결국 나만의 생각과 서사에서 비롯된다. 나는 아이디어를 먼저 구상하고 글의 구조를 설계한 뒤, 그 안에서 사례나 표현을 풍부하게 만드는 데 AI의 도움을 받는다. 이럴 때 AI는 비로소 보조자로서 역할을 하며 창의적 글쓰기를 한층 깊게 해준다. 반대로 AI 편의성에만 기대 사고력을 잃는 세대가 등장한다면 그것이야말로 진정한 디스토피아일 것이다. </p>
          <p contents-hash="7402f7d26e04f8c8f60a2c6f9c31f2932ee3f6ef64e4e02dc0d23b432712defe" dmcf-pid="q0ZPVlVZJt" dmcf-ptype="general">결국 AI 시대의 디스토피아는 단순히 기계가 인간을 대체하는 차원에 머물지 않는다. 정서적으로는 인간이 AI에 과도하게 의존하게 되고, 경제적으로는 젊은 세대의 고용 기반이 무너지면서 구조적 불평등이 심화되며, 교육적으로는 스스로 사고하지 않는 세대가 양산될 위험이 있다. 이러한 위협은 단순한 가설이 아니라 이미 여러 연구와 사례를 통해 서서히 현실화되고 있는 징후이며 우리는 지금 그 길 위에 서 있다. 방치한다면 그 흐름은 점점 더 굳어질 것이지만 이 ‘구조적 결과’는 결코 운명으로 정해진 것은 아니다. 적극적인 인간의 개입과 사회적 선택을 통해 경로는 충분히 바뀔 수 있다. </p>
          <p contents-hash="6210c94421a633913750553a7c96bfc8d56e60c9e6a9a5c36cfbac452fb66794" dmcf-pid="BCw3ZoZwn1" dmcf-ptype="general">실제로 과거에도 기술 발전이 가져올 수 있는 구조적 위험을 사회가 제도적으로 관리하며 다른 방향으로 이끈 사례가 있다. 예컨대 산업혁명기의 아동 노동 문제는 당시에는 피할 수 없는 구조적 결과처럼 보였지만 법적 규제와 교육 제도의 확립을 통해 아이들이 공장에서 벗어나 학교로 향하는 새로운 길을 만들 수 있었다. 또한 환경 오염 문제 역시 20세기 중반까지만 해도 산업 발전의 필연적 부산물로 여겨졌으나 국제 협약과 규제를 통해 오존층 파괴를 멈추고 대기질을 개선하는 성과를 이루어낸 바 있다. </p>
          <p contents-hash="52e755843f2ef81eedfadd242110a35cb80388d9574ac0ebc823ad6de5d08f29" dmcf-pid="bhr05g5rn5" dmcf-ptype="general">AI 역시 마찬가지다. 지금 우리가 어떤 규범을 만들고 어떤 교육적 방향을 택하며 어떤 제도적 장치를 마련하느냐에 따라 현재 드러나고 있는 어두운 그림자는 완화될 수도, 반대로 더 짙어질 수도 있다. 디스토피아는 이미 시작된 길이지만 그것을 끝까지 걸을지, 아니면 새로운 길을 열지는 결국 인간의 노력과 선택에 달려 있다. </p>
          <div contents-hash="3441b916e97a1197b76748e13070762e4d46542ccd2c18e26976336a72c04603" dmcf-pid="Klmp1a1mLZ" dmcf-ptype="general">
           <div>
            <div> 
            </div>
           </div>
          </div>
          <figure class="s_img figure_frm origin_fig" contents-hash="9b7ac77a8704da14a8ffd41597a1e4cd3c2ccd611b96921b5c3f929d58833fc2" dmcf-pid="9SsUtNtsRX" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/30/joongangsunday/20250830000332426vgfq.jpg" data-org-width="205" dmcf-mid="xZSbuDuSL6" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/30/joongangsunday/20250830000332426vgfq.jpg" width="205"></p>
          </figure>
          <div contents-hash="a34bb988af0bc9e4a050e758ee68a416de5ebb1f58ae391e8d665d66de0c9993" dmcf-pid="2vOuFjFOiH" dmcf-ptype="general">
           <div>
            <div>
             <span></span> 
            </div> 
           </div> 이준기 연세대 정보대학원 교수. 서울대 계산통계학과 졸업 후, 카네기멜론대 사회심리학 석사, 남가주대 경영학 박사를 받았다. 인공지능의 기업 활용에 대해 여러 회사에 자문을 하고 있다. 저서로는 『AI로 경영하라』 『오픈 콜라보레이션』 『웹 2.0과 비즈니스 전략』 등이 있다.
          </div>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 중앙SUNDAY. 무단전재 및 재배포 금지.</p>

이전

삼성·SK도 中반도체공장 장비반입 규제…생산차질 불가피

08-30
다음

美 “삼성·SK, 반도체 장비 中 반출시 건별 허가받아야”

08-29

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

AI의 ‘아첨’ 성향, 사용자에게 위험한 행동 부추긴다

멤버랭킹

관련자료

멤버랭킹