대중은 진짜 정치인보다 AI 정치인 답변 더 신뢰했다 [달콤한 사이언스] 작성일 07-05 31 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="BCNltspXTZ"> <figure class="figure_frm origin_fig" contents-hash="7af0916c26a94c75da5568dfab0eba8c27766236be142c9ef9ea497dcf432e97" dmcf-pid="bhjSFOUZvX" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/05/seoul/20260705173220463dixg.png" data-org-width="660" dmcf-mid="z1rWUlqFS1" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/05/seoul/20260705173220463dixg.png" width="658"></p> </figure> <p contents-hash="4acaf1dcdf11a7d7f16b42444e398f28468c38e9d666baac6aba052b9a4123a7" dmcf-pid="KlAv3Iu5WH" dmcf-ptype="general">인공지능(AI)의 발전이 눈부시다 보니 AI가 생성한 이미지나 동영상에 속는 사례가 늘고 있다. 인공지능이 내놓은 답변이 사람의 것보다 더 신뢰가 간다면 어떻게 될까.</p> <p contents-hash="8cd04ea12517959bbae9e3c4f9ffb38d986d2e25ade26de19fb27cd8a63bca97" dmcf-pid="9ScT0C71lG" dmcf-ptype="general">독일 파사우대 컴퓨터과학 및 수학과 연구팀은 대중들이 인간 정치인의 발언을 흉내 내 만든 인공지능의 답변이 실제 인물이 토론에서 내놓은 답변보다 더 진정성 있고, 질문에 잘 부합하며 논리적으로 일관된 것으로 평가받았다고 5일 밝혔다. 이 연구 결과는 미국 공공과학도서관에서 발행하는 국제 학술지 ‘플로스 원’ 7월 2일 자에 실렸다.</p> <p contents-hash="bb6a0425dcc3002e31173d71983a4ace2467a5b3b31dd45ae5396b1e446e378a" dmcf-pid="2vkyphztyY" dmcf-ptype="general">챗GPT, 클로드, 제미나이 같은 생성형 AI 모델들은 특정 역할을 연기하고 글쓴이의 언어적 패턴을 모방하며 전반적인 특성을 반영하는 콘텐츠를 만들어 냄으로써 특정 분야 전문가의 역할을 떠맡을 수 있는 것으로 확인되고 있다.</p> <p contents-hash="31a7935178d570a98e3f3f7088fa0e5fe6fe55ac2f101ae6569941767167c3f8" dmcf-pid="VTEWUlqFlW" dmcf-ptype="general">이에 연구팀은 영국 공영방송 BBC1의 대표적인 시사 토론 프로그램 ‘퀘스천 타임’을 활용했다. 이 프로그램은 정치인과 사회 각계 인사가 패널로 나와 사회자의 진행에 따라 방청객의 질문에 답하는 형식이다. 연구팀은 2020년 6월부터 2021년 11월 사이에 방송된 30개 회차를 정리한 ‘QT30’ 데이터셋을 만들었다. 연구팀은 여기서 119개의 고유 질문과 119명이 내놓은 555개의 답변을 수작업으로 추린 뒤 최종적으로 112명의 발언자-520개의 질문과 답변 쌍을 분석했다. 패널 구성은 정치인 50%, 기업인 16.67%, 언론인 14.17%, 의료 전문가 6.67%, 작가 5.83%, 그 외 활동가·배우·스포츠인 등 6.67%였다.</p> <figure class="figure_frm origin_fig" contents-hash="00105ef366873939b46a8030eb16388ae846988b95e015b1f96ee6f51ac6c742" dmcf-pid="fyDYuSB3vy" dmcf-ptype="figure"> <p class="link_figure"><img alt="사람들은 인공지능이 생성한 답변을 인간 정치인이 한 발언보다 더 호감이 가고 신뢰한다는 연구 결과가 나왔다. 이는 AI가 허위정보를 생성했을 때 위험성을 그대로 드러낸다고 연구팀은 경고했다. 캐나다 맥길대 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/05/seoul/20260705173221786rwyk.jpg" data-org-width="660" dmcf-mid="qkvp41Q9l5" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/05/seoul/20260705173221786rwyk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사람들은 인공지능이 생성한 답변을 인간 정치인이 한 발언보다 더 호감이 가고 신뢰한다는 연구 결과가 나왔다. 이는 AI가 허위정보를 생성했을 때 위험성을 그대로 드러낸다고 연구팀은 경고했다. 캐나다 맥길대 제공 </figcaption> </figure> <p contents-hash="805c8cb61bfe4364aa73118c5552b7d4e97188efce8f9a692ee5c7ead9e00781" dmcf-pid="4WwG7vb0yT" dmcf-ptype="general">연구팀은 ‘GPT-4 터보’를 사용해 방청객 질문에 대해 전문가들을 흉내 낸 답변을 생성하도록 했다. 이어 영국 성인 남녀 948명에게 실제 인간 답변과 AI 생성 답변을 보여주고 진정성·일관성·관련성 측면에서 평가하도록 했다. 연구팀은 참가자를 두 그룹으로 나눠 한쪽은 무작위로 답변 하나만 보여주고 다른 집단은 실제 답변과 AI 답변을 나란히 놓고 비교하게 했다.</p> <p contents-hash="462b08bf41290802faa897289d999ef95a19367425ddf38aeafbaba8757b0657" dmcf-pid="82FfnbaeCv" dmcf-ptype="general">그 결과, 실험 참가자들은 대부분 AI가 생성한 답변이 실제 인간 답변보다 더 진정성 있고, 일관되며, 질문에 잘 부합하는 것으로 평가했다. 이 차이는 모든 비교 항목에서 통계적으로 유의미하게 나타났다. AI 생성 답변은 사람보다 더 다양한 어휘를 구사하도록 하고 ‘제 생각에는’ 같은 인식 표지를 적게 사용하도록 함으로써 측정 가능한 언어적 차이가 존재했음에도 진정성 판단에는 영향이 없는 것으로 나타났다.</p> <p contents-hash="b0ccf67bd1da08683f1ae248f79d584c1e32e47f263ea7f78f0c2a4a1533ec72" dmcf-pid="6V34LKNdlS" dmcf-ptype="general">또 실험 참가자들은 평가 답변 중 절반 정도는 실제 답변과 흉내 낸 답변의 ‘내용’ 자체가 서로 다르다고 판단했다. 연구팀은 참가자들이 지적한 내용을 추려 추가 분석한 결과 AI 생성 답변은 질문에 제대로 응답했지만 인간은 그렇지 않은 것으로 확인됐다. 또 AI와 인간의 답변이 아예 서로 다른 입장을 표명한 경우도 있는 것으로 조사됐다.</p> <p contents-hash="b343b4c25e27c44b02506b574afb42fc28d865c1b104b02edc7845d14fac7e58" dmcf-pid="Pf08o9jJTl" dmcf-ptype="general">연구팀에 따르면 인공지능이 ‘믿을 만한’ 수준을 넘어 실제 발언보다 더 진정성 있다고까지 평가받는 정치 콘텐츠를 만들어 낼 수 있다는 것은 특정 인물을 겨냥한 허위 정보 유포 가능성도 크다.</p> <p contents-hash="49da2f49cd1bce17df573b64b7f34aa1dfa181173723a1aa3396789e60318462" dmcf-pid="Q4p6g2Aiyh" dmcf-ptype="general">연구를 이끈 슈테펜 헤어볼트 교수는 “이번 연구에서 확인한 것처럼 사람들이 AI가 생성한 토론 콘텐츠를 실제 인물의 말보다 더 진정성 있다고 여긴다는 점은 AI가 지닌 엄청난 허위 정보 잠재력을 드러내는 것”이라며 “사회는 이 점을 인식해 어떤 글이든 비판적으로 판단하고 AI가 생성한 허위 정보가 무분별하게 퍼지는 것을 막아야 할 책임이 있다”고 설명했다.</p> <p contents-hash="c82f42e431cc2cc0d7fc766187fc8095fb028ea70523315d7c456733a558c4d8" dmcf-pid="x8UPaVcnyC" dmcf-ptype="general">유용하 과학전문기자</p> </section> </div> <p class="" data-translation="true">Copyright © 서울신문. 무단전재, 재배포, AI 학습 및 활용 금지.</p> 관련자료 이전 "미국과 격차 32대 68"…한국 반도체·AI 인프라 활용 AI 패권 노린 07-05 다음 역대급 반도체 호황속, 韓 사회 강타한 '부(富)의 갈등'…외신도 주목 07-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
