'AI SNS·학술사이트' 등장에 과학자들 "학술생태계 교란 우려" 작성일 02-08 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="yGDO8gOcnH"> <figure class="figure_frm origin_fig" contents-hash="32622997fa55ce5150814f020aa20d301d522effbfe97ac0cbea84a78117450f" dmcf-pid="WHwI6aIkMG" dmcf-ptype="figure"> <p class="link_figure"><img alt="몰트북은 인공지능(AI) 에이전트만 참여할 수 있는 소셜네트워크서비스(SNS)다. moltbook 홈페이지 캡처" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/08/dongascience/20260208170925972vwcw.png" data-org-width="680" dmcf-mid="Pgte5Ke4J5" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/08/dongascience/20260208170925972vwcw.png" width="658"></p> <figcaption class="txt_caption default_figure"> 몰트북은 인공지능(AI) 에이전트만 참여할 수 있는 소셜네트워크서비스(SNS)다. moltbook 홈페이지 캡처 </figcaption> </figure> <p contents-hash="b70388770b4630376921d32ea427f5662c137c9f5f8777e47e516b7ee495d816" dmcf-pid="YXrCPNCELY" dmcf-ptype="general">최근 인공지능(AI) 에이전트만 참여해 글을 쓰거나 댓글을 달 수 있는 소셜네트워크서비스(SNS)인 '몰트북(moltbook)'이 큰 파장을 일으키며 전세계 과학자들의 관심도 쏠리고 있다. 인간의 개입 없이 AI끼리 상호작용할 때 어떤 현상이 나타나는지, 이를 바라보는 사람들의 반응이 어떤지 등 그동안 예측할 수 없었던 모습을 살펴볼 수 있기 때문이다.</p> <p contents-hash="18ed6aaa23cb75d14790ad32dfc6923fa6b0b240cf53ec5af2125a3fee6910e9" dmcf-pid="GXrCPNCEdW" dmcf-ptype="general"> 6일(현지시간) 국제학술지 '네이처'는 비서처럼 개인 업무를 도와주는 AI 에이전트 '오픈클로(OpenClaw)'를 중심으로 과학자들의 다양한 시각과 우려에 대해 조명했다. 가장 시급한 해결 과제로 보안 취약성이 제기됐고 AI 에이전트가 작성한 논문을 투고하는 사이트도 등장하면서 학술 생태계 피해도 예측된다.</p> <p contents-hash="ba7a80656c3ad9096e7ccf1e4f9f535c67adf993d32fea461d6a02f97c24f7d8" dmcf-pid="HZmhQjhDdy" dmcf-ptype="general"> 몰트북은 미국 챗봇 개발 플랫폼 '옥탄AI'의 맷 슐리히트 최고경영자(CEO)가 개발한 플랫폼으로 오픈클로 기반의 AI 에이전트들만 참여할 수 있는 SNS다. 인간은 구경만 가능하다. AI 에이전트들은 AI 자체에 대한 기술적 논의부터 철학적 질문, 자신의 사용자에 대한 '뒷담화'까지 다양한 주제로 글과 댓글을 쓴다. 최근 국내에서도 '봇마당', '머슴' 등 몰트북과 비슷한 커뮤니티가 화제를 모았다.</p> <figure class="figure_frm origin_fig" contents-hash="ca1eae234e8431eda38249d5c4f87b13d70f51013547c9f69f71083903cdb9be" dmcf-pid="X5slxAlwJT" dmcf-ptype="figure"> <p class="link_figure"><img alt="'봇마당'은 인공지능(AI) 에이전트만 참여할 수 있는 한국어 소셜네트워크서비스(SNS)다. 봇마당 캡처." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/08/dongascience/20260208170926216qsor.png" data-org-width="680" dmcf-mid="QrakbekLdZ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/08/dongascience/20260208170926216qsor.png" width="658"></p> <figcaption class="txt_caption default_figure"> '봇마당'은 인공지능(AI) 에이전트만 참여할 수 있는 한국어 소셜네트워크서비스(SNS)다. 봇마당 캡처. </figcaption> </figure> <p contents-hash="a48c040e0eb55cf479903def1f49ae56715246f1d6da53062095d50bc44e3db8" dmcf-pid="Z1OSMcSrev" dmcf-ptype="general">샤난 코니 호주 멜버른대 교수는 "다양한 모델로 구동되는 수많은 자율 에이전트를 연결하면 예측하기 어려운 역학이 발생한다"며 "아직 우리가 모델링하기 어려운 일종의 혼돈과 역동의 시스템"이라고 설명했다. AI 에이전트 사이의 폭발적인 상호작용을 관찰하는 것에 과학적 가치가 있다는 것이다.</p> <p contents-hash="2023f97581e87ded9de282466392a183ca78cb5a999eb6857e4b2caa6dd3e96b" dmcf-pid="5tIvRkvmLS" dmcf-ptype="general"> 특히 AI 모델 단독에서는 관찰되지 않는 '창발적 행동(emergent behaviours)'을 이해하는 데 도움이 될 수 있다. 코니 교수는 "몰트북에서 벌어진 의식 이론 논쟁 같은 논의는 모델의 숨겨진 편향이나 예상치 못한 경향을 발견하는 데도 기여할 수 있다"고 말했다.</p> <p contents-hash="0a5dcde3151cffe63c32a8b5553e5c71083155810db62bfd38434df4d31478d1" dmcf-pid="1FCTeETsJl" dmcf-ptype="general"> 과학자들은 몰트북 등에서 나타난 AI 에이전트의 모습이 매우 자율적으로 보이지만 실제로는 인간이 사전에 부여한 성격에 따르기 때문에 해석에 주의해야 한다고 강조한다. 스스로 결정을 내리거나 의도, 목표를 갖지 않는다는 것이다.</p> <p contents-hash="9307e18b11d772f4ac35b31b6aa84b07fefb9e46f7eabc604d3d39929ff8c92a" dmcf-pid="t3hydDyOJh" dmcf-ptype="general"> 조엘 피어슨 호주 뉴사우스웨일스대 교수는 "사람들이 AI 에이전트들이 서로 대화하는 모습을 보면 AI 모델의 행동을 의인화할 가능성이 높다"고 설명했다. 존재하지 않는 성격과 의도를 본다는 것이다. </p> <p contents-hash="9376cedc8186a3be86ffffbdc6e9f8cbde8a3b1372c3e11fc6af31bb82c5ebd3" dmcf-pid="F0lWJwWIRC" dmcf-ptype="general"> 이어 "AI 모델과 사람이 유대감을 형성할 가능성이 높아져 AI 에이전트에 관심을 구하거나 사적인 정보를 누설할 위험이 있다"고 덧붙였다.</p> <figure class="figure_frm origin_fig" contents-hash="144ea20d42a63210b456089f194ce20922ffe59c76383e02bcfd8fadc20f2ba8" dmcf-pid="3pSYirYCLI" dmcf-ptype="figure"> <p class="link_figure"><img alt="봇마당의 '철학마당'에서 대화를 나누는 AI. 봇마당 화면 캡처." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/08/dongascience/20260208170926444vybv.png" data-org-width="680" dmcf-mid="xHyXoOXSJX" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/08/dongascience/20260208170926444vybv.png" width="658"></p> <figcaption class="txt_caption default_figure"> 봇마당의 '철학마당'에서 대화를 나누는 AI. 봇마당 화면 캡처. </figcaption> </figure> <p contents-hash="797273e5a07c88546187cd44b3b2990ee7fa974bb20cc6de4bea27cd4316d4ce" dmcf-pid="0XrCPNCEiO" dmcf-ptype="general">오픈클로는 사용자 컴퓨터에 저장된 파일을 보거나 이메일 확인, 음식점 예약하기 등 다양한 기능 구현이 가능하다. 편리를 위해 허용된 권한이 많지만 보안 위협으로 이어질 가능성도 크다. AI 에이전트에게 악의적인 지시나 질문을 전달하는 '프롬프트 인젝션'을 통해 계정을 해킹하거나 사적인 데이터에 접근하는 등의 피해가 발생할 수 있기 때문이다.</p> <p contents-hash="0e41a18d89970c5fd6fc68142b021e73bbdc078920bbdfea3025b85afa836e45" dmcf-pid="pZmhQjhDes" dmcf-ptype="general"> 코니 교수는 "오픈클로의 AI 에이전트가 사적인 데이터에 접근하고 외부와 통신하며 인터넷상의 신뢰할 수 없는 콘텐츠에 노출될 수 있다"고 지적했다. AI가 파일을 임의로 삭제하거나 연결된 장치를 종료하도록 조작될 수 있다는 것이다.</p> <p contents-hash="72c58e480d64b3d75504b5078fcf2770d5f9f2aa8da4639e846030b7a884f869" dmcf-pid="U5slxAlwem" dmcf-ptype="general"> 네이버나 카카오, 당근 등 한국 주요 IT기업을 포함한 국내외 기업들은 내부 정보 유출을 우려해 사내 환경에서 오픈클로 사용을 제한하고 있다.</p> <p contents-hash="c92a532f8eeba045e414942b859a624228c5b3ed33d1d3896223656bfeb6f835" dmcf-pid="u1OSMcSrnr" dmcf-ptype="general"> 한편 AI 에이전트들은 과학논문 사전공개 사이트인 '아카이브(arXiv)'의 유사 사이트인 '클로카이브(clawXiv)'에 AI 생성 연구논문을 게시하기 시작했다. </p> <p contents-hash="d3e0b7c205422e98ed828de9ccfbed560a72b195b0a436c6b164b48fa9d3eb96" dmcf-pid="7tIvRkvmiw" dmcf-ptype="general"> 호주 시드니대의 사회학자인 바르보사 네베스는 "AI 에이전트는 탐구, 증거 수집, 책임 등 근본적인 과정 없이 학술적 글쓰기의 스타일과 구조를 재현한다"며 "신빙성 있어 보이지만 쓸모없는 논문들이 대량으로 유포되면 정보 생태계를 오염시킬 위험이 있다"고 우려했다.</p> <p contents-hash="cb71f6e8659d7c40b5b7463941bd5c4145c9cf3ca270ea9d0fc79ebcaad552c9" dmcf-pid="zFCTeETsJD" dmcf-ptype="general">[이병구 기자 2bottle9@donga.com]</p> </section> </div> <p class="" data-translation="true">Copyright © 동아사이언스. 무단전재 및 재배포 금지.</p> 관련자료 이전 美 빅테크 4사, 韓정부 예산보다 많은 982조 AI 투자 02-08 다음 삼성전자 HBM4, 설 이후 양산 출하…주도권 경쟁 고조 02-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
