“그건 모릅니다” 솔직해진 AI, 어떻게 ‘환각’ 없앴나

작성일 08-18

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="11pJiwRusk">
 메타인지 장착한 GPT5 오픈AI, 최신 모델 GPT5 추론과 검증 기능 강화로 인간 고유 ‘메타인지’ 구현 인간은 타고난 데 반해 AI는 엔지니어링으로 구현 AI 기술적 특성 활용해 인간 인지 능력 고양 가능 
 <figure class="figure_frm origin_fig" contents-hash="23f2323798544e285f10a9376d7e3ace5c98bbe15119015d5431e47856598607" dmcf-pid="FK4DwWc6sA" dmcf-ptype="figure">
 <img alt="샘 올트먼 오픈AI 최고경영자(CEO)는 지난 7일 대화형 인공지능 챗GPT의 최신모델 ‘GPT5’를 출시하고, 이튿날 소셜미디어 레딧에서 이용자들과 문답을 했다. / 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/18/hani/20250818060614795sgzb.jpg" data-org-width="970" dmcf-mid="ZGG48o2XOD" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/18/hani/20250818060614795sgzb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 샘 올트먼 오픈AI 최고경영자(CEO)는 지난 7일 대화형 인공지능 챗GPT의 최신모델 ‘GPT5’를 출시하고, 이튿날 소셜미디어 레딧에서 이용자들과 문답을 했다. / 연합뉴스
 </figcaption>
 </figure>
 인공지능이 사람의 인지적 특성으로 여겨진 메타인지와 추론 능력에 한발 접근하고 있다. 오픈에이아이(OpenAI)가 기존 챗봇형 인공지능 모델을 업그레이드해 지난 7일 출시한 지피티5(GPT5)는 기존 모델의 최대 약점으로 지목된 ‘환각’ 현상을 크게 줄이고, 알지 못하는 질문에 대해 “모른다”고 인정하는 기능이 적용됐다. 기계가 모방하기 어려울 것 같았던 사람 고유의 인지능력을 위협하는 상황이다. 인공지능 기술 발달에 맞서 인간의 인지적 우위가 유지될 수 있을지에 대한 의문이 생겨난다. ■ GPT5의 초기 혼란과 불만 오픈에이아이는 지피티5가 일반(비추론형) 모델, 추론형 모델의 장점을 결합한 통합형 모델로, 기존보다 훨씬 긴 대화와 문서 맥락을 유지해 신뢰성과 정확성을 크게 높였다고 밝히며 적극적 홍보에 나섰다. 샘 올트먼 오픈에이아이 최고경영자는 “지피티3는 고등학생과 대화하는 것 같아 질문을 던지면 정답을 얻을 수도 있고, 엉뚱한 답변을 얻을 수도 있었다. 지피티4가 대학생이라면 지피티5는 박사급 전문가와 대화하는 것 같은 느낌을 처음으로 제공한다”고 말했다. 이전 모델에 견줘 ‘환각’ 현상을 크게 줄이고, 모르는 내용을 “모른다”고 인정하는 ‘메타인지’ 기능은 인공지능의 결정적 약점을 해결한 것이라 눈길을 끌었다. 오픈에이아이는 획기적으로 개선된 지피티5 평가점수를 공개하며 홍보했지만, 출시 직후 이용자들의 불만이 쏟아졌다. 질문에 따라 일반모델, 추론모델을 자동으로 선택해 답변하는 기능(자동라우팅)이 제대로 작동하지 않았고, 단순한 질문에도 답변 시간이 오래 걸리고, 이전 모델(지피티4o)의 친근한 답변과 달리 ‘차갑고 사무적’으로 응대했다는 불만이었다. 상당수 이용자는 “강제 전환 이전으로 되돌려달라”고 요구해, 오픈에이아이는 지난 9일부터 유료 이용자들의 ‘이전 모델 복귀’를 허용하기로 했다. ■ 사람 인지능력과 차이 이용자 반발 및 서비스 초기 혼란과 별개로, 지피티5는 인공지능 인지 기능의 괄목할 개선으로 간주된다. 무엇보다 황당한 질문에 대해서 천연덕스럽게 거짓 사실을 지어내던 ‘환각’ 현상을 크게 줄이고, 스스로 무지를 인정하는 ‘메타인지’ 기능으로 신뢰성과 정확성이 획기적으로 개선됐다. 빌 게이츠는 지난해 6월 팟캐스트 대담에서 “인공지능이 데이터와 컴퓨팅 능력의 규모를 키우는 방식(스케일업)으로는 도약을 이룰 수 없다”며 “메타인지가 인공지능의 다음 개척지다”라고 말한 바 있다. 결론’ 구조를 따라 단계적으로 진행되는 논리구조다. 검증 단계에서 데이터를 검색해 결과마다 신뢰도를 측정하고, 점수가 일정 수준 이하이면 “정확히 알 수 없다” “모른다”라고 답변한다. 신뢰도가 높으면 답변이 생성된다. 추론 기능은 답변 제공에 앞서 계획, 검증, 반복을 되풀이하며 많은 컴퓨팅 자원을 사용하기 때문에 속도가 느리다. 미국의 정보기술 전문지 ‘인포메이션’은 이달초 지피티5에 적용된 이러한 ‘범용 검증기’가 지피티5의 성능 향상을 가져온 핵심기능이라고 보도했다. ■ AI 메타인지 활용법 인공지능이 추론과 메타인지 능력까지 장착하게 된 상황에서, 인간 인지 기능의 고유성은 유지될 수 있을까? 이상완 한국과학기술원 신경과학·인공지능 융합연구센터장은 추론 방식의 인공지능의 미래에 대해 긍정적으로 내다봤다. 이 센터장은 “사람의 메타인지는 타고나는 생물학적 속성인데 인공지능은 엔지니어링으로 구현한 것이라는 점에서 근본적으로 다르다”라며 “현재 인공지능 기술은 다양한 엔지니어링 방법을 결합하고 추론에 집중하고 있는데 그 한계를 단정하기 어렵다”고 말했다. 인공지능이 메타인지 능력을 구현하게 됨에 따라, 어떻게 활용해야 할지에 대해서도 관심이 커지고 있다. “그것에 대해 잘 알지 못한다”라는 메타인지는 인간의 경우 감정과 직관, 경험이 반영된 의식 현상으로 체화된 인지인 데 비해, 인공지능은 데이터와 알고리즘에 따른 확률 기반의 엔지니어링이라는 게 특징이다. 자기인식을 포함한 종합적 의식현상으로서의 인간 메타인지와 달리 인공지능은 복잡한 연산을 하는 엔지니어링으로 추론 기반 메타인지를 구현하는 셈이다. 이러한 인공지능의 기술적 특징을 활용한다면, 인간의 인지 능력은 더욱 강력해질 수 있다. 구본권 선임기자 starry9@hani.co.kr 
 <figure class="figure_frm origin_fig" contents-hash="1287928ce6df836881ff21e3e8c923c2f7182c48056a1be89ca5c08043ddf36f" dmcf-pid="026rmGEQEN" dmcf-ptype="figure">
 <img alt="지피티5의 추론·검증 기능 흐름. 이를통해 환각현상이 크게 줄고, 인간 인지에 근접하고 있다. 사람과디지털연구소제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/18/hani/20250818060616043nkgd.jpg" data-org-width="703" dmcf-mid="5sy2VibYDE" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/18/hani/20250818060616043nkgd.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 지피티5의 추론·검증 기능 흐름. 이를통해 환각현상이 크게 줄고, 인간 인지에 근접하고 있다. 사람과디지털연구소제공
 </figcaption>
 </figure>
 </section> 
 </div> 
 Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지

이전

브로드컴은 쓰는데… 삼성전자, 엔비디아 ‘HBM 공급’ 지지부진한 이유

08-18
다음

인공지능이 사람을 닮아간다고?

08-18

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

“그건 모릅니다” 솔직해진 AI, 어떻게 ‘환각’ 없앴나

멤버랭킹

관련자료

멤버랭킹