[테크톡노트] 그럴듯한 거짓말…AI는 왜 '환각'할까 작성일 02-14 58 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">통계적 예측이 낳는 오류…사용자 확인이 안전성 담보</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1ltHK3vm5j"> <figure class="figure_frm origin_fig" contents-hash="768f9820326d521bf86eb2d3b97191dbd25d7b46607ed9c9fd3be80e232c39b8" dmcf-pid="tSFX90TsHN" dmcf-ptype="figure"> <p class="link_figure"><img alt="[연합뉴스 자료사진]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/14/yonhap/20260214071440814jzzf.jpg" data-org-width="500" dmcf-mid="56qpQb5TGA" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/14/yonhap/20260214071440814jzzf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [연합뉴스 자료사진] </figcaption> </figure> <p contents-hash="a4b504a261bded6db9c64dc62fbb6b792314a9e73b47b936fe226c63c6985a30" dmcf-pid="FViMDL4qZa" dmcf-ptype="general">(서울=연합뉴스) 박형빈 기자 = 인공지능(AI)과 대화를 나누다 보면 실재하지 않는 사건이나 논문·판례를 그럴듯하게 설명하는 답변을 접할 때가 있다.</p> <p contents-hash="b49b77bd5a3eb5350d2383876bad87edfb5193db09742ec037d0e6083ff4dc88" dmcf-pid="3fnRwo8B5g" dmcf-ptype="general">이른바 '세종대왕의 맥북 던짐 사건'처럼 존재하지 않던 일을 실제 있던 사건처럼 풀어내거나, 논의된 바 없는 연구를 구체적 출처까지 덧붙여 제시하는 사례가 대표적이다.</p> <p contents-hash="1b367ed6c4eaf898b15add53cdebdacba0feeadd3ac016296708553936e5f784" dmcf-pid="04Lerg6bto" dmcf-ptype="general">전문가들은 이런 현상을 'AI 환각'이라고 부른다. 문장은 매끄럽지만 내용은 사실과 다른 생성형 AI 고유의 오류다.</p> <p contents-hash="6567b694e92c26c71e4419b07e126e4f27ec0b6641f5edecd6f225c36044a6cc" dmcf-pid="p8odmaPK1L" dmcf-ptype="general">AI 환각은 단순한 오타나 계산 착오와는 다르다. 특히 법률 자문, 의료 상담처럼 정확성이 핵심인 영역에서는 심각한 위험 요인이 된다.</p> <p contents-hash="1f45a131ae1f833eb790d99473e82520212caf0d6b0020945f784b1a3a945667" dmcf-pid="U6gJsNQ95n" dmcf-ptype="general">문제의 출발점은 대규모 언어모델(LLM)의 작동 원리에 있다.</p> <p contents-hash="573afcb8a5f225fba6f8a22f20816cd5d9bfb21dad8cfa0307c4f7df81f6c6b3" dmcf-pid="uPaiOjx2Yi" dmcf-ptype="general">생성형 AI는 질문의 의미를 인간처럼 이해해 진위를 판별하는 구조가 아니라, 방대한 학습 데이터를 토대로 다음에 올 단어를 확률적으로 예측해 문장을 완성한다. 내부에 독립적인 사실 검증 장치가 있는 것이 아닌 통계적으로 가장 자연스러운 표현을 산출하는 체계다.</p> <p contents-hash="f2e266a9132090602e12c74174f5345c26a8acb0d11ca3f6c96e960a6bd2fe94" dmcf-pid="7QNnIAMVGJ" dmcf-ptype="general">이 때문에 학습 데이터에 충분한 정보가 없거나 생소한 질문을 주면 모델은 답을 멈추기보다 기존 지식을 조합해 빈칸을 메우려는 경향을 보인다.</p> <p contents-hash="7990a5a9ac2d16391bf26e349535acaee9acf741590f07d264fecb2de78a9936" dmcf-pid="zxjLCcRfZd" dmcf-ptype="general">"모르겠다"고 답하기보다는 불완전한 정보라도 구성해 제시하는 쪽이 학습 과정에서 더 높은 평가를 받아왔기 때문이다.</p> <p contents-hash="980cefb56059a707437a71cc3863542830d2447274d76936da6adbad6f2cf0a1" dmcf-pid="qKePcJ2u5e" dmcf-ptype="general">업계에서는 이를 '과신' 문제로 지적한다. 결과적으로 문법적으로 완결되고 논리적으로 정연해 보이지만 사실과 어긋난 답변이 생성되는 것이다.</p> <p contents-hash="871271e44afa172b7bf2bd0dcbe184cb99a517a061956a43fbc652e9f3a4f50b" dmcf-pid="B9dQkiV7GR" dmcf-ptype="general">학습 데이터의 한계도 환각을 부추긴다. AI는 인터넷과 각종 문서 등 과거에 수집된 텍스트를 학습한다. 이 과정에서 오류 정보나 편향된 주장, 풍자·소설 같은 허구까지 함께 흡수될 수 있다. 특정 주제에 대한 데이터가 부족하면 기존 패턴을 과도하게 일반화하는 현상도 나타난다.</p> <p contents-hash="3fa1429e9805b99d1b00dbb888e8cd8005bfb5a1b8d92c3d127f1493c413b93f" dmcf-pid="b2JxEnfzXM" dmcf-ptype="general">또 학습 시점 이후의 최신 사건이나 정책 변화는 즉각 반영되지 않아 과거 정보를 토대로 현재를 추정하다가 부정확한 결론에 도달하기도 한다.</p> <p contents-hash="7f51a132e9068ac637f50d5cad69b4f82b113b8349077a16031d7f1f2aacc88b" dmcf-pid="KViMDL4q5x" dmcf-ptype="general">최근 빅테크와 AI 업계가 모델 규모를 키우고 있지만 환각이 완전히 사라지지는 않는다. 모델이 커질수록 전반적인 정확도는 개선될 수 있으나 '확률 기반 생성'이라는 구조적 특성 자체는 유지되기 때문이다.</p> <p contents-hash="4efc91b16a947341197e6d525f9a420db7567a11f5cb0838323e759477c59c62" dmcf-pid="9fnRwo8BZQ" dmcf-ptype="general">이를 줄이기 위한 기술적 보완도 병행되고 있다. 대표적인 방식이 '검색 증강 생성'(RAG)이다. 모델이 내부 지식만으로 답변하지 않고 외부 데이터베이스나 실시간 검색 결과를 참고해 근거 기반으로 응답하도록 하는 구조다.</p> <p contents-hash="956eda3dfaa247c54e43890adf98bbf504b5d95599f935cdfa9c06b3177fb10a" dmcf-pid="24Lerg6bZP" dmcf-ptype="general">인간 피드백 기반 강화학습(RLHF)을 통해 부정확한 답변에는 낮은 보상을 주고 신중한 응답을 장려하는 방식도 활용된다.</p> <p contents-hash="bace523abe45b8f174ae14c708a77e87e58ba84ff2970d47ede6b39fd28e8827" dmcf-pid="V8odmaPKZ6" dmcf-ptype="general">역설적으로 환각은 AI의 창의성과도 맞닿아 있다. 기존 데이터를 재조합해 새로운 문장과 아이디어를 만들어내는 능력은 창작과 기획 영역에서 강점으로 작용하기도 한다.</p> <p contents-hash="0890b443b1f33a649c13661487ca39cef3de03ba2e05050b56d07878026285bf" dmcf-pid="f6gJsNQ918" dmcf-ptype="general">한 업계 전문가는 "생성형 AI는 '사실 판단 기계'가 아닌 판단을 돕는 도구"라며 "기술의 진화와 함께 인간의 교차 검증과 비판적 수용 능력이 필수적이다"라고 했다.</p> <p contents-hash="688e1cff4cdc596cc497219f19fd6200885b48c1f4b33c6bd312dec73077ca78" dmcf-pid="4PaiOjx2Z4" dmcf-ptype="general">binzz@yna.co.kr</p> <p contents-hash="ad4c38e718c3b208eddcedb4c19b3ef5c2aeb143b278b6b5d4e5b302c8d86b01" dmcf-pid="6QNnIAMVZV" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 "결혼할 인연 따로있나"..김유지, 정준과 결별 2년만에 '5월 새신부'로 02-14 다음 '점프 실수' 차준환, 피겨 최종 4위...0.98점 차로 메달 불발 02-14 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
