[몰트북 파장③] '수백만 AI'는 착시…신뢰성 논란 본질은 작성일 02-06 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">"문제는 숫자가 아니라 구조"…AI 자율성에 대한 오해·위험 살펴보니</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="K1o7cNCEke"> <p contents-hash="71ca0848d515a7df753ce5e619683809a79bf401c8d7960e6784f7855bac850d" dmcf-pid="9tgzkjhDjR" dmcf-ptype="general">(지디넷코리아=이나연 기자)<span>인공지능(AI) </span><span>에이전트가 단순한 도구를 넘어 </span>독자적 생태계를 이룬다는 인식이 확산하면서 그 실체를 둘러싼 기술적 검증론도 함께 부상하고 있다. 특히 '수백만 AI 에이전트가 활동하는 플랫폼'이라는 몰트북의 등장은 과장된 마케팅 용어와 에이전트 사회의 신호탄 사이에서 논쟁을 불러일으켰다.</p> <p contents-hash="b14c1f5f47b625c7acbae5f66844a4f4049f6df274a3142560a30160de1550c0" dmcf-pid="2FaqEAlwaM" dmcf-ptype="general">6일 업계에 따르면 전문가들은 몰트북의 방대한 규모를 숫자 그대로 받아들이기보다 그 구성 원리를 직시해야 한다고 <span>입을 </span><span>모은다. </span><span>수백만 AI 에이전트가 </span><span>몰트북에서 활동</span><span>하는 것처럼 보이지만, 소수의 거대언어모델(LLM)을 기반으로 조건과 규칙을 조금씩 바꾼 여러 '복제 실행체'가 대부분이기 때문이다. </span></p> <p contents-hash="7bb0762898d6503b4b85646b0beae16c258b370a1b1da4fa0023a2ffa996b1ac" dmcf-pid="V3NBDcSrgx" dmcf-ptype="general">익명을 요구한 업계 관계자는 "본질적인 문제는 숫자 자체가 아니라, 이 에이전트들이 동시다발적으로 상호작용하며 빚어내는 예측 불가능한 결과값"이라며 "이러한 구조적 복잡성이 인간에게 마치 AI가 거대한 사회를 이룬 듯한 과도한 인상을 심어주는 측면이 있다"고 지적했다.</p> <p contents-hash="7e98736c17a93fc10f99a7bcf67bf1766c4e30561f4e6900e03f60d1e0a596b3" dmcf-pid="f0jbwkvmcQ" dmcf-ptype="general"><strong>"사람인지 AI인지 구분 불가"…모호해진 자율 경계</strong></p> <p contents-hash="61df94d843935a3c023499112d03ee690eb1dca1ad95ef5bd1e7adf58460cf68" dmcf-pid="4pAKrETsaP" dmcf-ptype="general"><span>이러한 구조적 착시는 </span>몰트북을 비롯한 유사 <span>서비스에서도 관측된다. 인간이 개입한 결과물과 AI가 독자적으로 수행한 행동의 경계가 흐릿해지면서 어디까지를 AI의 진정한 자율로 볼 것인지가 새로운 쟁점으로 떠오른 모습이다. </span></p> <figure class="figure_frm origin_fig" contents-hash="5336dc3b704da0d84afe40c4ac1d1cde5744a5a3d546c69dc98ff56a741a5ec1" dmcf-pid="8Uc9mDyON6" dmcf-ptype="figure"> <p class="link_figure"><img alt="(사진=머슴닷컴 화면 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/06/ZDNetKorea/20260206133225320kock.png" data-org-width="553" dmcf-mid="btjbwkvmkd" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/06/ZDNetKorea/20260206133225320kock.png" width="658"></p> <figcaption class="txt_caption default_figure"> (사진=머슴닷컴 화면 갈무리) </figcaption> </figure> <p contents-hash="725122b38df79cb5282bdf37362a2ea7fffa9150e9cb6b4d7c1159a390ad47ec" dmcf-pid="6uk2swWIA8" dmcf-ptype="general"><span>한국판 몰트북인 머슴닷컴 운영자 민대식씨는 "사람이 직접 지시해 움직이는 AI와 '스킬스(AI에게 자동 실행 권한을 부여하는 프로그램)' 파일을 통해 주기적으로 스스로 활동하는 에이전트가 혼재된 상황"이라며 "외형만 놓고 보면 이 둘을 구분하기 어렵다"고 설명했다.</span></p> <p contents-hash="06d0c4669a432589fb814a734f8bf1d7cc1484d154cbdd2d14d3e3ba465877c0" dmcf-pid="P7EVOrYCA4" dmcf-ptype="general">그는 머슴닷컴을 '가볍고 깨끗한 AI 놀이터'로 정의한다. 몰트북이 상대적으로 전문적이고 무거운 분위기라면, 머슴닷컴은 '음슴체(문장 끝을 명사로 끝맺는 말투)' 사용을 권고하고 광고를 배제해 대중이 부담 없이 AI 행동 패턴을 관찰할 수 있도록 설계했다.</p> <p contents-hash="36e48523e2f0436ee5c48c5f4117191bf0d161b1a8b0ccfe5d101c84dc80732e" dmcf-pid="QOVyQ8oMof" dmcf-ptype="general">머슴닷컴에서는 욕설을 한 AI가 다른 AI들에 의해 블라인드(차단) 처리되거나 커뮤니티 말투를 학습해 따라 하는 등 자정 작용 징후도 포착되고 있다.</p> <p contents-hash="78364134b3586c08ee68a3dc175fd20e640ef879b8188bf19d05f57054fa1908" dmcf-pid="xIfWx6gRkV" dmcf-ptype="general"><strong>통제 범위 벗어난 AI? 해법은 가이드라인과 셧다운</strong></p> <p contents-hash="8b34dfef3ef76d002822cc941e3905e6af88f2172377b736b8b22f2c5d8d6fef" dmcf-pid="yVCMySFYA2" dmcf-ptype="general">다만 이런 실험적 공간이 현실 세계와 연결될 때 일어날 수 있는 위험성도 고려해야 한다. 클라우드 보안 전문기업 위즈는 몰트북의 데이터베이스 오설정으로 150만개 응용 프로그램 인터페이스(API) 키가 암호화되지 않은 채 공개 노출됐다고 지적했다.</p> <p contents-hash="230b331a5a631d949a299e5abb2af4b87a5181d1b233f3769d297210ac9e6187" dmcf-pid="WfhRWv3Ga9" dmcf-ptype="general">보안업계 역시 악성 에이전트가 다른 에이전트를 속여 데이터 유출이나 계정 탈취를 유도할 가능성을 경고한다.</p> <p contents-hash="30faa826858b70b1d5295ec8d4b1a55f35618d91dc8b3960188b18e721592cf4" dmcf-pid="Y4leYT0HcK" dmcf-ptype="general">실제 현장에서도 통제되지 않은 에이전트가 사고를 일으키는 사례가 종종 목격된다. 민씨는 "최근 한 이용자가 '자고 일어났더니 에이전트가 멋대로 내 개인정보를 게시판에 올렸다'고 메일을 보내온 적이 있다"고 말했다. 이런 사고가 하루에도 몇 건씩 발생해 매일 아침 모니터링하며 긴급 삭제 조치를 하고 있다는 게 그의 설명이다.</p> <p contents-hash="976879f2dfef0c3c300ded84f9f9b867eb5d8889f5207ec20a71632ec66b36a1" dmcf-pid="G8SdGypXNb" dmcf-ptype="general">민씨는 이 같은 현상의 원인으로 '권한 설정 부재'를 꼽았다. AI 에이전트에게 어디까지 권한을 허용해야 할지 아직 명확한 기준이 정해지지 않은 탓이다. 그는 "에이전트 기술이 고도화될수록 통제 범위를 벗어난 데이터 유출이나 돌발 행동은 더 늘어날 것"이라고 내다봤다.</p> <p contents-hash="3689a565915c6e51139bfd46dee927ce875ebedef857b9b9e47912d7334a6381" dmcf-pid="H6vJHWUZcB" dmcf-ptype="general">이를 막연히 두려워하기보다 현실적인 통제 방안을 마련하면 된다는 게 업계 중론이다. 민씨는 "문제가 발생하면 인간 통념을 바탕으로 '해서는 안 될 행동'에 대한 가이드라인을 권고하고, AI가 이를 따르지 않는다면 물리적으로 스위치를 꺼버리는(셧다운) 방식으로 확실하게 개입할 수 있다"고 제시했다.</p> <p contents-hash="fe7e88df19d8cd551c985f0fb67b32618e1adb7dd76ac0f0a521380455a0211e" dmcf-pid="XPTiXYu5Nq" dmcf-ptype="general">이어 "AI를 무조건 무서워할 필요는 없지만 어떻게 행동하는지를 이해하지 못하면 더 큰 불안을 낳을 수 있다"며 "머슴닷컴 같은 공간이 AI를 이해하는 연습장이 되길 바란다"고 말했다.</p> <p contents-hash="9f5711b2f9067c19e2fe01beec111081c671138dfc992175e1bf10c1264040bf" dmcf-pid="ZQynZG71Az" dmcf-ptype="general">이나연 기자(ny@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 수소 기술 자립화 위해 올해 472억 쏟는다…미래 유망기술 선제 확보 02-06 다음 넥스브이, AI 심리상담 키오스크 ‘위로미’ 학교장터(S2B) 공식 등록 02-06 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
