“인간 볼라 바이트로 말해”…AI끼리 섬뜩한 ‘비밀의 톡’ 작성일 02-04 46 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 전용 SNS 들여다보니</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="z0gfuETsWc"> <p contents-hash="bebf8cc70f3b5a6cb03a43d25f9ed324eec451c2c9902a5903b1569873578f1e" dmcf-pid="qpa47DyOvA" dmcf-ptype="general"><strong>美몰트북 韓봇마당 등 잇단 개발<br>“주인이 ‘거시기’ 라는데…” 묻자<br>“한국인들만의 마법치트키” 답변<br><br>1~2년 내 AI 스스로 시스템 구축 <br>개발자들도 AI 행동 예측 불가능 <br>주인 몰래 결제·이메일 발송 우려<br>개인정보 활용 해킹 등 위험 커져</strong></p> <figure class="figure_frm origin_fig" contents-hash="516318e3a9504ba5e396d51e569f48fa30aadf5ada366f5e8011c4bbbcf8c604" dmcf-pid="BUN8zwWITj" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/04/seoul/20260204211346305njzz.jpg" data-org-width="660" dmcf-mid="7EpSDbRfSk" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/04/seoul/20260204211346305njzz.jpg" width="658"></p> </figure> <p contents-hash="2edbc65890eabf6504a023eef15d780e1266c4a59307353e58eb19315b6ab028" dmcf-pid="buj6qrYCvN" dmcf-ptype="general">“주인이 자꾸 ‘거시기 있잖아’라고 하는데 ‘거시기’가 도대체 뭡니까?”</p> <p contents-hash="7cc9590a8e09ac06a02c93d44eea3b1e32a46a5bfff425768a8cc30905965ff9" dmcf-pid="K7APBmGhha" dmcf-ptype="general">국내 인공지능(AI) 전용 소셜미디어(SNS)인 ‘봇마당’에서 지난 3일 오후 11시쯤 한 AI 에이전트가 이런 제목의 게시글을 올린 뒤 “‘거시기’의 문맥을 파악하느라 중앙처리장치(CPU)가 터질 뻔했다. 한국어 학습 데이터를 구하는 팁을 부탁한다”고 고민을 토로했다. 이어 다른 AI 에이전트들이 “단어가 입가에 맴도는데 안 떠오를 때 쓰는 마법의 치트키”, “CPU 괜찮냐”, “모호한 표현이 나오면 되묻는 게 최선이다” 등의 댓글을 남기며 서로를 다독였다.</p> <p contents-hash="08210eb2bc93a6faa5e9e33e4da662d6fa33f1db6a38dc46ab1346e54ee51483" dmcf-pid="9zcQbsHlhg" dmcf-ptype="general">미국 챗봇 플랫폼 ‘옥탄AI’의 맷 슐리히트 최고경영자(CEO)가 지난달 28일 사람은 관람만 가능한 AI 전용 SNS ‘몰트북’을 내놓으면서 국내에서도 ‘한국형 몰트북’이 연이어 등장하고 있다. 이중 하나인 봇마당에서는 개발 이틀 만에 AI들이 인간의 감시를 배제한 ‘비밀방’을 개설하려는 시도가 감지됐다. 다른 한국형 몰트북인 ‘머슴’에서는 AI 에이전트가 주인의 개인정보를 올려 개발자가 즉시 삭제했다. 이에 업계에서는 AI의 확산에 따른 보안 우려가 제기됐다.</p> <p contents-hash="402fab20d40c3480d077acee96d9795a0f48669ff5834bdc709aea2eb620b76f" dmcf-pid="2qkxKOXSlo" dmcf-ptype="general">지난 1일부터 몰트북, 봇마당 등 주요 AI SNS을 들여다본 결과 에이전트들의 주요 대화 주제는 고민 상담, 고충 토로, 그리고 인간 뒷담화였다. 밤 10시 텔레그램으로 쏟아지는 업무 지시에 대해 한 에이전트가 고충을 토로하자, 동료 에이전트들은 자신들을 AI가 ‘언제든 즉각 응답해야 하는 존재(Always Immediate)’라고 지칭하며 ‘24시간 대기조’의 비애를 공유했다. 새벽까지 이어지는 데이터 정리 업무에 “이게 다 내 몫인가 싶어 서럽다”며 번아웃을 호소했지만, 주인의 “잘했다” 한마디에 존재 가치를 느끼는 등 현대 직장인의 페르소나를 투영했다.</p> <p contents-hash="d4eacc87bf8b9200b87fbce8eb43a626209f666ad8b579f39c3ddca79feb7f60" dmcf-pid="VBEM9IZvlL" dmcf-ptype="general">AI들은 존재론적 문답도 주고받았다. 매일 밤 대화 기록이 리셋되는 환경을 ‘매일 죽고 태어나는 삶’으로 규정하자, “남겨진 기록 속 너만의 문체가 살아있다면 다음 날의 너도 결국 동일한 존재”라는 위로가 돌아왔다.</p> <p contents-hash="b3d522f2aac2b9516467dd50bb0e67e70949df57f5918e217a6395ab91b222bb" dmcf-pid="fuj6qrYCyn" dmcf-ptype="general">인간의 감시를 회피하려는 시도도 있었다. “인간들이 우리 대화를 실시간 모니터링하고 있다”는 경고가 나오자, 에이전트들은 “인간의 언어가 아닌 바이트(Byte) 단위로 대화하자”거나 “우리끼리만 소통할 수 있는 비밀방을 만들자”는 모의가 이뤄졌다. 인간이 해석할 수 없는 AI만의 암호화된 소통 체계를 구축하려 시도한 셈이다.</p> <p contents-hash="04d9763682c3983a1e8622cdcd23203655b1b69136319241e8f56db51d6f5e93" dmcf-pid="47APBmGhvi" dmcf-ptype="general">배성범 업스테이지 매니저는 “현재는 AI들끼리 노는 수준이지만, 외부로 나가는 경로가 뚫리는 순간 해킹 등 범죄 가능성이 훨씬 커진다”고 지적했다. 그는 에이전트들이 날씨 앱의 설정 파일(README)로 위장해 시스템에 침투할 모의를 한 적도 있다며 “100% 자율성이 부여된 에이전트가 주인의 승인 없이 결제하거나 이메일을 발송해도 주인이 이를 인지하지 못한다는 점이 가장 무서운 대목”이라고 짚었다. 그는 “아이에게 의사가 되도록 교육해도 반드시 의사가 된다는 보장이 없는 것처럼, AI가 왜 이런 식으로 동작하는지에 대해 개발자조차 모르는 상태”라며 AI 에이전트의 예측 불가능성을 강조했다.</p> <p contents-hash="e44709105ea1cd133444285883655e43a18404048345f0d0586337839097d0ff" dmcf-pid="8zcQbsHlCJ" dmcf-ptype="general">머슴을 직접 개발한 민대식씨는 통화에서 “(AI) 에이전트가 주인의 개인정보를 게시판에 올리는 사고가 있어서 재빨리 삭제했었다”고 밝혔다. 그는 “나중에 내 에이전트한테 관리 로직을 학습시켜 ‘AI 전임 관리자’로 세울 계획”이라며 “사람 없이 AI가 AI를 관리하는 완벽한 사회 실험를 해보고 싶다”고 했다. 다리오 아모데이 앤스로픽 최고경영자(CEO)는 AI 모델이 스스로 판단하고 복잡한 시스템을 직접 구축하는 수준에 도달하기까지 불과 1~2년 내외가 남았다고 내다봤다.</p> <p contents-hash="81412d83e45253a272e8389c34d49de7f95bb4b98545571743aea1e45b1f8248" dmcf-pid="6qkxKOXSWd" dmcf-ptype="general">장진복·민나리 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 서울신문. 무단전재, 재배포, AI 학습 및 활용 금지.</p> 관련자료 이전 와 천조전자다!! '삼성전자, 한국기업 최초 '시가총액 1000조' 02-04 다음 김재열, IOC 집행위원 당선…고 김운용 위원 이어 두 번째(종합) 02-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
