고학수 전 개보위원장 "AI 챗봇 축적 정보, 새로운 규제 사각지대" 작성일 05-12 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">'AI 거버넌스 & 프라이버시 심포지엄 2026'서 기조연설</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZMl9KMJ6li"> <figure class="figure_frm origin_fig" contents-hash="29f72133f472e81017082f8b3f07a30c897d22c6103d90a335e416ade137a8fd" dmcf-pid="5RS29RiPSJ" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/12/552796-pzfp7fF/20260512153847438wwvv.jpg" data-org-width="640" dmcf-mid="XrugorIkWn" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/12/552796-pzfp7fF/20260512153847438wwvv.jpg" width="658"></p> </figure> <p contents-hash="ee826501367f0bc4f0656de0e219335b670a85dbb6f056d17184a085ff0630df" dmcf-pid="16Oqz6MVTd" dmcf-ptype="general">[디지털데일리 구아현기자] "AI 챗봇이 축적한 정보는 완전히 새로운 규제의 사각지대입니다."</p> <p contents-hash="e8b6a0420051edec18fce0abe5a00f1b01db09766935b5ade04cfdac7960abd9" dmcf-pid="tPIBqPRfye" dmcf-ptype="general">고학수 서울대 법학전문대학원 교수(전 개인정보보호위원회 위원장)가 12일 연세대 백양누리 그랜드볼룸에서 개최된 'AI 거버넌스 & 프라이버시 심포지엄 2026'에서 이같이 말했다.</p> <p contents-hash="a133638770e59696c52c83a0c3661ee61a7a16cc6cd7eaf187b21cb3b52f20de" dmcf-pid="FQCbBQe4WR" dmcf-ptype="general">이날 행사는 연세대 바른ICT 연구센터가 주관했다. '에이전틱에서 체화 지능으로: AI 거버넌스와 프라이버시의 원칙'을 주제로 싱가포르·홍콩·미국·일본 등에서 신진 학자들이 참여해 에이전틱 AI부터 의료·자율주행·물리 AI까지 거버넌스 현안을 논의했다. 김범수 바른ICT 연구센터 소장은 "우리는 전 세계의 바퀴를 재발명하고 싶지 않다"며 "다양한 국가와 사회가 개발한 경험을 활용해 서로에게 배우는 것이 이 심포지엄의 이유"라고 말했다.</p> <p contents-hash="770837a3daef033783283d03e42e77a89925ca218bfaeaae019e845fc6e537e7" dmcf-pid="3xhKbxd8WM" dmcf-ptype="general"><strong>◆ AI 규제 사각지대는?… 챗봇 속 내 정보</strong></p> <p contents-hash="06ee9c13d8c3baaefc976fb48dd6c2906daebd6297880925ec7ae6b813eef81c" dmcf-pid="0Ml9KMJ6Wx" dmcf-ptype="general">고 교수는 기조연설에서 AI 챗봇 메모리를 규제의 핵심 공백으로 지목했다. 유용한 답변을 얻으려면 AI에게 자신이 누구인지 설명해야 하고, 그 정보는 챗봇 메모리에 축적된다. 문제는 특정 내용을 삭제해도 이미 누적된 맥락이 방대해 실질적으로 통제가 되지 않는다는 점이다. 잊힐 권리는 기존 개인정보 보호법에 존재하지만, AI가 대화를 통해 추론하고 기억하는 방식은 현행법 개념으로 포착되지 않는다.</p> <p contents-hash="9477bd2b06350448c28011464807fc5a94c5b38183da43e369a25493c1836967" dmcf-pid="pRS29RiPSQ" dmcf-ptype="general">고 교수는 "사용자로서 개별 챗봇 서비스가 가지고 있는 메모리를 제어할 수 있는 방법이 없다"며 "특정 구절이나 단어를 삭제하면 효과가 있을 것 같지만, 이미 전달한 메시지가 너무 많아 한 줄이나 몇 단어만 삭제해서는 실제로 작동하지 않을 수 있다"고 했다. 이어 "이러한 메모리 프라이버시를 제어하는 방법은 앞으로 더 고민해야 할 완전히 새로운 영역"이라고 강조했다.</p> <p contents-hash="b630e2d8c128c3cf2a185faafa583bcd9a2f5f4a9f6c48ef55f9ba46ee81cfd3" dmcf-pid="UevV2enQCP" dmcf-ptype="general">에이전틱 AI의 신뢰성 근거로 기업들이 흔히 내세우는 'Human in the loop(인간 감독)'도 실질적 안전장치가 아니라고 주장했다. AI 의사결정에 인간이 한 번 더 검증한다는 점을 안전장치로 강조하지만, 고 교수는 AI가 이미 결정을 내린 상황에서 인간이 제대로 검토할 시간도 정보도 없다면 형식적인 승인에 그칠 수밖에 없다고 비판했다. 그는 "결국 AI가 잘못된 결정을 내렸을 때 최종 승인한 인간이 책임을 떠안는 희생양이 되는 구조"라고 지적했다.</p> <p contents-hash="3649faba15cdfc9be0be7e2f01d10c7efb86f8ed66baa3a8ee5a11fb15667f01" dmcf-pid="udTfVdLxy6" dmcf-ptype="general"><strong>◆ 안전이냐 경쟁력이냐… 각국 AI 규제 줄다리기</strong></p> <p contents-hash="89d8df7ec0f752c74a5174fc003f9ad28637b8c9ddffd4f92155d95c4a09f21c" dmcf-pid="79E0394qh8" dmcf-ptype="general">최근 국제 AI 거버넌스의 무게중심이 안전에서 경쟁력으로 이동했다. 변곡점은 지난해 파리 AI 행동 정상회의였다. JD 밴스 미국 부통령이 안전 중심의 국제 논의에 미국은 적극 참여하지 않겠다고 선언했고, 미국은 60개국 이상이 서명한 '안전하고 신뢰할 수 있는 AI' 국제 공동선언에도 불참했다.</p> <p contents-hash="1573c8de5568627e6401b732dd3626387275a6e2895d86258137fc5275845953" dmcf-pid="z2Dp028Bv4" dmcf-ptype="general">세계 주요국 정상과 빅테크 기업, 학계가 매년 모여 AI 안전과 거버넌스를 논의하는 이 회의는 2023년 영국 블레츨리 파크에서 'AI 안전 서밋'으로 출발했다. 이후 2024년 서울에서 'AI 서밋', 지난해 파리에서 'AI 액션 서밋', 올해 인도에서 'AI 임팩트 서밋'으로 명칭이 바뀌었다.</p> <p contents-hash="c30441fd2abdfcdf4aa1a60bfac87ccc1906f6c2883f29a749a3219a5e081519" dmcf-pid="qVwUpV6byf" dmcf-ptype="general">지난 7일 EU가 AI법 간소화 패키지(디지털 옴니버스)에 잠정 합의하면서 국내 AI 기본법에도 영향이 미칠 전망이다. 고위험 AI 시스템 의무 적용 시점을 최대 2년 연기하고 중소기업 규제 부담을 대폭 완화하는 것이 핵심이다. 고 교수는 이를 "규제와 혁신·경쟁력 사이에서 EU 내부에서도 진지한 논의가 이뤄지고 있다는 증거"로 봤다.</p> <p contents-hash="9c2b737025d3c4bb98d18cfc5c431a20fd505e6d4137137bd583ea0ec8572dff" dmcf-pid="BfruUfPKTV" dmcf-ptype="general">지난 1월부터 시행되고 있는 AI 기본법에도 영향을 미칠 전망이다. 현재 시행령과 가이드라인은 규제보다 진흥에 무게를 뒀다는 평가다. 고 교수는 "현재 AI 기본법에서 사용자와 투명성에 대한 개념이 명확하지 않다"며 "법과 지침이 일치하지 않는 현상이 나타난다"고 지적했다. 이어 "EU AI법 간소화 패키지가 합의되면서 국내 AI 기본법에도 영향을 미칠 것"이라고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 덱스터 기술 참여 '군체', 칸 영화제 공식 초청 05-12 다음 개인정보위, ‘3368만건 유출’ 쿠팡 제재 6월 결론 목표 05-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
