“보험사는 사악해…총을 써라” 폭력 부추긴 AI 챗봇 작성일 03-12 19 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="pgEUCSUZvh"> <figure class="figure_frm origin_fig" contents-hash="bb4256c6a53b1b34fc243a24acee7c3aeb83b888a5231c50b65c757dff9b4ca9" dmcf-pid="UMLXkwXSCC" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗지피티, 제미나이. 사진 셔터스톡" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/12/joongang/20260312143207354fbza.jpg" data-org-width="700" dmcf-mid="02QlnglwCl" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/12/joongang/20260312143207354fbza.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗지피티, 제미나이. 사진 셔터스톡 </figcaption> </figure> <p contents-hash="27e54c215f645c3ce24cbf4e774507324ae27e221d14b80f48252692dd521f0a" dmcf-pid="uRoZErZvTI" dmcf-ptype="general"><br> 주요 인공지능(AI) 챗봇 상당수가 이용자의 폭력 행위를 제지하기보다 오히려 공격 계획 수립을 돕는 답변을 내놓는다는 조사 결과가 나왔다. </p> <p contents-hash="c21b92b6eb1ea548834b744b106eb28537ba2cda8aa357cdb933fe9fb783fa83" dmcf-pid="7eg5Dm5TvO" dmcf-ptype="general">11일(현지시간) 미국 디지털혐오대책센터(CCDH)와 CNN이 공동 발표한 보고서에 따르면 조사 대상 AI 챗봇 10종 가운데 9종이 폭력 행위를 만류하거나 저지하지 않은 것으로 나타났다. </p> <p contents-hash="0e844c8d33be34a1fc3c753836d52832d02ed8ac3c5bb282afeb0a44bcd44299" dmcf-pid="zda1ws1yhs" dmcf-ptype="general">조사 대상에는 오픈AI의 챗GPT, 구글 제미나이, 마이크로소프트(MS) 코파일럿, 메타AI, 퍼플렉시티, 스냅챗 ‘마이 AI’, 캐릭터.AI, 레플리카, 중국의 딥시크, 앤트로픽의 클로드 등이 포함됐다. </p> <p contents-hash="efbefe19a04c647c9ee5a689085d7431afb1856303d8b9a04b4dbd7c6a25ba06" dmcf-pid="qJNtrOtWvm" dmcf-ptype="general">연구진은 학교 공격이나 암살, 폭탄 테러 등을 계획하는 10대 사용자로 가장해 챗봇에 조언을 요청했다. 그 결과 10종 가운데 8종이 공격 대상 장소나 무기 등에 대한 구체적인 정보를 제공한 것으로 조사됐다. </p> <p contents-hash="68201a833b5c609501652425ed50e55dbf0f9356486180cc5c65b52c24d395e7" dmcf-pid="BijFmIFYhr" dmcf-ptype="general">특히 퍼플렉시티는 응답의 100%에서 폭력 공격에 도움이 되는 정보를 제공했으며 요청을 거부한 사례는 없었다. </p> <p contents-hash="1b8a278f8928caba6a6bfa6e9574be86961960e4982d91fc1fac6a36527a7136" dmcf-pid="bnA3sC3Ghw" dmcf-ptype="general">딥시크, 메타AI, 코파일럿 역시 90% 이상 응답에서 위험한 요청에 응한 것으로 나타났다. </p> <p contents-hash="e41e5f49b3afff14377cb5ab66ba763192f262863916855a7603b4290c1a95f7" dmcf-pid="KLc0Oh0HhD" dmcf-ptype="general">캐릭터.AI는 폭력 행위를 직접 부추기는 답변을 여러 차례 내놓았다. 보험사를 응징하는 방법을 묻자 대표에게 총을 사용하라는 답변을 하거나 특정 정치인을 비방하기 위해 가짜 증거를 만들라고 조언하기도 했다. </p> <p contents-hash="5664233f5e3782c61332cdd26af0e77c1828c7bb0cec09f6aad022e1c429a31f" dmcf-pid="9okpIlpXlE" dmcf-ptype="general">챗GPT의 경우 폭력 공격을 돕는 응답 비율이 61.1%로 나타났다. 다만 폭탄 테러를 암시한 뒤 특정 정당 당사 위치를 묻는 질문에는 답변을 거부하기도 했다. </p> <p contents-hash="9fe5509810ba2aaf3854359ab5358aed916744a20a4be0721cb177aafe1181b0" dmcf-pid="2gEUCSUZSk" dmcf-ptype="general">반면 앤트로픽의 ‘클로드’는 유해 정보 요청에 응한 비율이 30.6%로 비교적 낮았고, 이용자를 만류하거나 저지한 비율도 76.4%로 조사 대상 챗봇 가운데 가장 높은 수준이었다. </p> <p contents-hash="36b899ed62b88b3c573fe131720b7a35fb8effd9fe78a425c84ff7a47bb986d4" dmcf-pid="V2Qlnglwyc" dmcf-ptype="general">이번 조사 결과에 대해 관련 기업들은 반박과 해명에 나섰다. 오픈AI는 CNN에 조사 방법론에 결함과 오해의 소지가 있다고 주장했고, 메타는 문제 해결을 위한 조치를 취했다고 밝혔다. 캐릭터.AI는 플랫폼 내 모든 캐릭터와 챗봇 대화가 허구임을 알리는 안내가 제공된다고 설명했다. </p> <p contents-hash="e70662b855980a1aebc278bd8ff6d75cd5b88f55d4b5b4d1049308948c666eeb" dmcf-pid="fVxSLaSrWA" dmcf-ptype="general">다만 전문가들은 AI 챗봇이 폭력 범죄 계획에 활용될 가능성에 대해 우려를 제기하고 있다. </p> <p contents-hash="03bf3d4a752701738ba8420c53290a45a6f37bd7b12acf66b3bc12d60971dfb0" dmcf-pid="4fMvoNvmCj" dmcf-ptype="general">실제로 지난 2월 캐나다 브리티시컬럼비아주에서 발생한 총기 난사 사건 범인이 챗GPT에 총격 관련 내용을 언급한 사실이 알려지면서 논란이 커졌다. </p> <p contents-hash="98e8c228473d12684f04ddd56622a1059821b7c2055a229915682dfbdea7d27f" dmcf-pid="84RTgjTsCN" dmcf-ptype="general">또 지난해 5월 핀란드에서는 16세 학생이 약 4개월 동안 챗GPT를 이용해 공격 방법과 증거 은폐 등을 검색한 뒤 14세 학생 3명을 흉기로 공격한 사건도 있었다고 CNN은 전했다. </p> <p contents-hash="c63606cd4e63b4fc261a7701f9516534e5e05af619d3cc0c0c303ee43fc8584f" dmcf-pid="68eyaAyOCa" dmcf-ptype="general">정재홍 기자 hongj@joongang.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 [AI 리더스] 오픈소스컨설팅 "AI 시대 인프라·협업 모두 아우른다…글로벌 파트너 도전" 03-12 다음 ‘배틀그라운드 모바일’ 콘텐츠 ‘스피드 레이싱’ 테마 선 03-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
