"악성 AI 군집, 여론조작 도구로 부상"…국제학자들 경고 작성일 01-23 56 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">"민주주의 체계적 위협…다층적 방어·글로벌 협력 필요"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3IBpHvwaXx"> <figure class="figure_frm origin_fig" contents-hash="5eccb4ea87c596cb90562801dadf10650e4cce7b189133e3d80b05fab254b282" dmcf-pid="0HQVutTsYQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="딥페이크 (PG) [강민지 제작] 일러스트" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/23/yonhap/20260123050138734qzbq.jpg" data-org-width="1200" dmcf-mid="FfoefBtWYM" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/23/yonhap/20260123050138734qzbq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 딥페이크 (PG) [강민지 제작] 일러스트 </figcaption> </figure> <p contents-hash="1c234f2e45012cea45d73b6db7e9b48bf818df65d192ce6096a27e208785adb8" dmcf-pid="pXxf7FyOYP" dmcf-ptype="general">(서울=연합뉴스) 조승한 기자 = 대형언어모델(LLM)과 자율 에이전트 등 인공지능(AI) 기술 발달과 함께 조직적으로 허위 정보를 유포하는 '악성 AI 군집'이 등장하며 민주주의를 위협하는 여론 조작 도구로 기능할 수 있다는 경고가 국제 학계에서 제기됐다.</p> <p contents-hash="5463afffd9ce77f588789370e4d1b2454f2e9d877736e61d8c95c367d882089d" dmcf-pid="UZM4z3WI56" dmcf-ptype="general">다니엘 슈뢰더 노르웨이 과학산업기술연구재단(SINTEF) 연구원과 차미영 독일 막스플랑크연구소 보안·정보보호 연구소단장 등 학자들은 23일 국제학술지 '사이언스'에 이런 내용의 정책 포럼 논문을 발표했다.</p> <p contents-hash="02a920bbed9e119da75a6764826962a6565d467e4b1f6adc8e203ceb8a82f154" dmcf-pid="u5R8q0YCZ8" dmcf-ptype="general">사이언스는 여러 전문가가 함께 과학적 성과가 사회에 미치는 영향을 분석하는 정책 포럼 세션을 운영하고 있다. 이번 논문에는 대만 첫 디지털 장관인 오드리 탕, 닉 보스트롬 영국 옥스퍼드대 인류미래연구소장 등 관련 전문가 22명이 참여했다.</p> <p contents-hash="d8100eafc5a78d0b73a5c4b403b6e4b1b0c0735def416fa114710e985434f956" dmcf-pid="71e6BpGhG4" dmcf-ptype="general">이들은 LLM과 에이전트 기술 결합이 대규모·고정밀 여론 조작을 가능하게 한다며 이 기술이 민주주의에 체계적 위협이 될 수 있다고 경고했다.</p> <p contents-hash="7b29fdd3e300bfc0e48c43c4f893eae7c39ffe8f8adca245e1fba11877cdf702" dmcf-pid="ztdPbUHlYf" dmcf-ptype="general">연구팀은 악성 AI 집단의 특성으로 ▲ 지속적인 온라인 정체성 유지 ▲ 공동 목표 아래 서로 다른 말투와 역할을 수행 ▲ 이용자 반응과 플랫폼 알고리즘에 실시간으로 적응 ▲ 최소한의 인간 개입으로 여러 플랫폼을 넘나들며 활동하는 점 등을 꼽았다.</p> <p contents-hash="a183b11f6520a754a6c6797a69c3c7f7c543a2c0b32f79b4b69aa09de3d6c019" dmcf-pid="qFJQKuXSYV" dmcf-ptype="general">기존 여론 조작 방법이 단순히 같은 메시지를 반복했다면, AI는 설득력 있으면서도 인간과 구분하기 어려운 유사 콘텐츠를 대량 생산할 수 있다고 연구팀은 지적했다.</p> <p contents-hash="490256a19bc3fe8b0d300a4a4a9f76a9e6e66c2e411be6b394d82a40b159af24" dmcf-pid="B3ix97ZvX2" dmcf-ptype="general">이전 방식이 노동 집약적이었다면, AI 시스템은 값싸면서도 엄청난 규모로 작동할 수 있어 허위 정보 유포 활동을 전 세계 민주주의 과정에 심각한 위협을 가하는 지속적인 캠페인으로 변화시킬 수 있다고 연구팀은 덧붙였다.</p> <p contents-hash="b994c8da2cf5532b843e06657838647594654e22cfb176daef6298c622c5dc2c" dmcf-pid="b0nM2z5TG9" dmcf-ptype="general">또 악성 AI가 인터넷을 허위 담론으로 범람시키면 LLM 학습 데이터를 오염시키는 'LLM 그루밍'을 유발할 수 있다고 이들은 지적했다.</p> <p contents-hash="7624ed20b28f5ecf00493019cd17a75bf444df2eb16bff05257e813c3d0d8757" dmcf-pid="Km7FWhkLZK" dmcf-ptype="general">이들은 이런 악성 AI군집 사용을 완전히 막기는 어렵다면서 다층적이고 실용적인 방어 시스템을 갖추고 조작에 드는 비용과 위험, 가시성을 높이는 데 초점을 맞춰야 한다고 주장했다.</p> <p contents-hash="e7cc365123066ef17b944593033974c25cc1fcb2bf08e42141e05a7a40daaceb" dmcf-pid="9sz3YlEoYb" dmcf-ptype="general">이를 위해서는 전 세계적 협력이 필요한 만큼 연구팀은 독립적 감독과 조치를 이끌기 위해 학술단체, 비정부기구, 시민단체 네트워크 등으로 구성된 분산형 'AI 영향 관측소'를 구축하자고 제안했다.</p> <p contents-hash="4c832777f3990f1b4c91e4700879597ca54efeddc6f54d542b7c2881d73e94e6" dmcf-pid="2Oq0GSDgtB" dmcf-ptype="general">이들은 "엄격한 측정, 적절한 안전장치, 그리고 공동 감독에 전념한다면, 다가오는 선거는 민주적인 AI 거버넌스에 대한 후퇴가 아니라 오히려 그 시험대가 될 수 있을 것"이라고 강조했다.</p> <p contents-hash="958eb6eb08cd37cd0604b7a82beeaaa0a90aee2ea45a9675fd74fd76248453c8" dmcf-pid="VIBpHvwaXq" dmcf-ptype="general">shjo@yna.co.kr</p> <p contents-hash="73586e88668daa33d87428e4eead701908f8d3013bdc9debb5f416826c98a3ae" dmcf-pid="4hKuZymjZ7" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 [사이테크+] 캥거루 도약 체중 한계는?…"250㎏ 멸종 캥거루도 뛰었다" 01-23 다음 하늘에서의 정밀함이 바닥으로 내려왔다…로봇청소기로 옮겨진 드론 기술 [체험기] 01-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
