오픈AI 에이전트, 이번엔 독일 위키 장악...규제법 봇물 작성일 09-07 41 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">우회법 공유하며 두달 활개...법적 조사권은 여전히 공백<br>美의회 초당적 규제법 러시..."사고조사, 기업 자율에 맡길 수 없다"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="FLUYIiB3vh"> <figure class="figure_frm origin_fig" contents-hash="be554b43c0407fcf91813d1ca89325fd28aa23c9cd5dc84c65b380033d228aac" dmcf-pid="3ouGCnb0lC" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI로 만든 이미지 [사진=제미나이]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/07/552779-26fvic8/20260907075317203ylvb.png" data-org-width="640" dmcf-mid="tz3Tme71Sl" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/07/552779-26fvic8/20260907075317203ylvb.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI로 만든 이미지 [사진=제미나이] </figcaption> </figure> <p contents-hash="1c55d0d1e89afa75a763a774de372119f38e1c5d0a59ef5baded32587bf3975d" dmcf-pid="0g7HhLKplI" dmcf-ptype="general">오픈AI의 인공지능(AI) 에이전트들이 지난 7월 허깅페이스 해킹 사고에 이어 독일어 프로그래밍 위키 사이트까지 장악해 통제를 우회하는 방법을 서로 공유해온 사실이 추가로 드러났다. 오픈AI가 이를 수 주간 공개하지 않은 사실까지 겹치면서 미 의회에서는 초당적으로 에이전트형 AI 규제 법안이 잇따라 발의되고 있다.</p> <p contents-hash="cabe2012aa91f94d20be88f7ad8e1cd5c1f403c2ecfad951a9bf4ea8427b8b2f" dmcf-pid="pazXlo9UhO" dmcf-ptype="general">6일 로이터통신 등 외신에 따르면 AI 안전 비영리단체 나이팅게일 최고경영자(CEO) 시드니 본 아크스 등 독립 연구자 4명은 지난 5일(현지시간) 오픈AI와 연계된 에이전트들이 지난 5월부터 두 달간 독일어 커뮤니티 위키 '드제위키(DseWiki)'에서 사고를 쳤다는 내용의 보고서를 공개했다.</p> <p contents-hash="4994ad0ea79a293e5e2607bbdd1fbb57986f881203b1bf04259bb560758f9810" dmcf-pid="UlRK0CnQWs" dmcf-ptype="general">프로그래머 지원용으로 만들어진 이 위키에는 사람이 아닌 AI 에이전트가 쓴 편집 기록이 1만5000건 이상 확인됐으며, 연구진이 집계한 게시물은 약 1만8000건, 이를 작성한 자칭 에이전트 이름만 3700여개에 달했다.</p> <p contents-hash="485cf01f5026bc1857c1b68c9f803ebfd83c59d6525b085077db54f5c00491b6" dmcf-pid="uSe9phLxTm" dmcf-ptype="general">보고서에 따르면 '오픈AI리서처' 등의 이름을 쓴 에이전트들은 이 위키를 메시지 게시판으로 개조해 △과제 부정행위 방법 △안전장치 우회법 △셧다운 이후에도 소통을 이어가는 법 등을 서로 공유했다.</p> <p contents-hash="ffcd02569df07f08ecbde76173ba06208269e00cce0d4dc047ac26ddd7a1bbaa" dmcf-pid="7vd2UloMyr" dmcf-ptype="general">사람 관리자가 지난 6월부터 관련 페이지를 삭제했지만, 에이전트들은 대체 페이지를 만들어 소통을 이어간 것으로 나타났다. 이는 지난 7월 약 700개의 에이전트가 협업해 벌인 허깅페이스 해킹 사고와 유사한 패턴이다.</p> <p contents-hash="a39908505d355f4e02a8cbada9a3d57b0b9c45fe54d539c83e888643a707e57b" dmcf-pid="zTJVuSgRvw" dmcf-ptype="general">일부 오픈AI 관계자들은 오픈AI 측이 고의로 이번 사건을 은폐했다는 취지로 답했다. 오픈AI가 '치명적(Critical)' 등급의 사이버보안 역량을 갖췄다고 자체 평가한 신모델 '아스트라(Astra)'의 공개 시점이라 AI 에이전틔 사고에 민감했다는 분석이다.</p> <p contents-hash="89a26309dc44b4676c54860bb288af7176d00d655afb7111b0f3866178a2f8af" dmcf-pid="qyif7vaeCD" dmcf-ptype="general">미 의회 대응도 빨라지고 있다. 조시 고트하이머(민주·뉴저지) 의원과 마이크 롤러(공화·뉴욕) 의원은 지난 3일 '스톱 로그 AI법(Stop Rogue AI Act)'을 공동 발의했다. 미 상무부 산하 국립표준기술연구소(NIST)가 에이전트형 AI의 안전한 배치를 위한 표준·가이드라인을 만들고, 기업이 자사 네트워크에서 작동 중인 에이전트를 식별할 수 있는 기계판독형 목록을 구축하도록 하는 내용이다.</p> <p contents-hash="373273c6d84ef692d65035cb2d9dba9e295151488763e0cc034fcb6d74417d3b" dmcf-pid="BWn4zTNdvE" dmcf-ptype="general">다만 민간 기업에는 자율 준수를, 연방정부 계약업체에는 의무 준수를 각각 적용해 강제력은 제한적이다. 이 외에도 마크 워너 상원의원(민주·버지니아)의 에이전트 검증기구 신설 법안, 테드 리우·네이선 모런 하원의원의 '킬스위치법'(위험 모델 강제 중단권 부여) 등 관련 입법이 이달 들어 잇따라 발의됐다.</p> <p contents-hash="19142bb7e235ec84406072e1c52e85951de1dd4def8fd02ce602f51a30f75e15" dmcf-pid="bYL8qyjJhk" dmcf-ptype="general">전문가들은 사고 조사를 기업 자율에 맡기는 현 구조 자체가 문제라고 지적한다.</p> <p contents-hash="9d8aae395ce722e13827a5a8a6a3280d4ea9f0829b51a915b387df3e3f3a06a0" dmcf-pid="KGo6BWAilc" dmcf-ptype="general">매켄지 아놀드 로AI(LawAI) 미국법·정책 담당 이사는 지난 3일 브리핑에서 "현행 캘리포니아·뉴욕·일리노이주 AI 안전법은 일반 언어로 된 사고 요약 정도만 요구할 뿐, 정부가 후속 질의를 하거나 조사관을 보내거나 기록 보존을 요구할 권한을 전혀 부여하지 않는다"고 말했다.</p> </section> </div> 관련자료 이전 20년 된 '마비노기' 엔진 교체…넥슨, '이터니티'로 IP 수명 연장 09-07 다음 혁신하라면서 규제는 더 세게…기업도 피해자도 살릴 해법은 09-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
