범죄 막겠다며 AI로 민간인 감시… ‘마이너리티 리포트’ 현실 됐다 작성일 07-10 45 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">위험 수위 다다른 ‘AI 통제’</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="GYvgEfkL5e"> <p contents-hash="05b8f5fa1a56770e7313fc57c5bd8a108ed8ba980814084bcf9a2a4ac131656b" dmcf-pid="HGTaD4Eo5R" dmcf-ptype="general">인공지능(AI)이 개인의 대화와 행동을 분석해 범죄나 반정부활동을 미리 예측하고 차단하는 영화 ‘마이너리티 리포트’의 상상이 현실화되고 있다는 우려가 커지고 있다. 챗GPT 운영사 오픈AI가 최근 ‘강력 범죄 징후를 알고도 당국에 알리지 않았다’는 이유로 캐나다 지방정부의 소송 대상이 되면서다. 이미 ‘벌어진 범죄’가 아닌, 미래의 ‘범죄 가능성’에 대한 예방 책임을 물은 셈이다.</p> <p contents-hash="657a98f66b70a1b03e6c8e755eeb4afe7e3e63b420b9c5cce64d5146d06e6341" dmcf-pid="XHyNw8Dg1M" dmcf-ptype="general">이를 계기로 AI가 이용자의 위험 신호를 포착했을 때 어디까지 개입해야 하는지, 또 정부가 공공 안전을 이유로 AI를 활용해 개인의 일거수일투족을 들여다봐도 되는지에 대한 논란이 본격화하고 있다. 이미 중국에선 광범위한 개인정보를 분석해 반정부인사 색출하는 AI가 나왔고, 영국에선 불특정다수의 범죄 가능성을 예측하는 소프트웨어가 개발 중인 상황이다.</p> <figure class="figure_frm origin_fig" contents-hash="ef6b70e4d4544c0c035c7cd738564281f9d3b6956ddc7aa0ad3bb4b55cd23cf8" dmcf-pid="ZJMpbSB31x" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진=20세기폭스, 그래픽=양인성" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/10/chosun/20260710005310762fkhf.jpg" data-org-width="2000" dmcf-mid="YOwxnuiPtd" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/10/chosun/20260710005310762fkhf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사진=20세기폭스, 그래픽=양인성 </figcaption> </figure> <p contents-hash="1639346a2644ae6cf85ff74a1f9ddaeaed5761ef06398259877703fcc30548e9" dmcf-pid="5iRUKvb05Q" dmcf-ptype="general"><strong>◇오픈AI 소송, ‘빅브라더’ 논란 점화</strong></p> <p contents-hash="954e98f5b6e213bcb1f278f01154fcc977a6c6f02cfdee502b911ce5a323aab9" dmcf-pid="1neu9TKpGP" dmcf-ptype="general">캐나다 브리티시컬럼비아주(州) 정부는 지난 7일 “오픈AI가 챗GPT에서 포착된 폭력 위협을 수사기관에 알리지 않아 참사를 막을 기회를 놓쳤다”며 이 회사의 본사가 있는 미 캘리포니아주 법원에 소송을 제기하겠다고 밝혔다. 지난 2월 10일 브리티시컬럼비아주 텀블러리지의 중학교에서 총기 난사 사건이 벌어졌다. 어린이와 교직원 등 8명이 숨지고 27명이 다치는 참사였다. 주 정부는 “용의자가 사건 전 챗GPT와 총격 범죄를 암시하는 대화를 나눴고, 오픈AI 내부 안전팀이 이를 문제 삼았지만 경찰에는 통보하지 않았다”고 주장하고 있다.</p> <p contents-hash="30ed69ffe49f3ebbb3470ea43139d6b0dc74ba5aeb0f9461a053879578cca251" dmcf-pid="tLd72y9U16" dmcf-ptype="general">오픈AI도 일부 사실을 인정했다. 회사 측은 “용의자의 첫 챗GPT 계정을 지난해 6월 이용 정책 위반으로 차단했지만, 당시에는 ‘신뢰할 수 있고 임박한 위험’이라는 내부 기준에 미치지 않아 수사기관 통보는 하지 않았다”고 설명했다. 이후 용의자가 다른 계정을 만들어 챗GPT를 다시 이용한 사실도 뒤늦게 확인됐다. 오픈AI는 “현재 기준이라면 해당 계정을 수사기관에 넘겼을 것”이라고도 했다.</p> <p contents-hash="2dc220fbc3dc191b5b0376ef9a24ece4f58bc4b76d9700f56461b19adf942b23" dmcf-pid="FoJzVW2uH8" dmcf-ptype="general">이는 바로 ‘빅브라더’ 논란으로 이어지고 있다. 소설 1984에서 시민의 일거수일투족을 감시하는 빅브라더처럼, AI를 활용한 광범위한 개인 감시가 벌어지게 됐다는 것이다. 향후 소송을 통해 기업 책임이 인정될 경우 정부, 수사 당국이 AI 사용 기록 데이터를 수시로 열람하고 조사하는 부작용이 일어날 수 있다.</p> <p contents-hash="0547f2114855d918e200eb50eb4a20155ff95b6aba99bb8c970358550a26bf48" dmcf-pid="3giqfYV7Y4" dmcf-ptype="general">일각에서는 “이런 조치가 제도화하면 강력 범죄 발생을 예측해 잠재적 범죄자를 잡는 SF(공상과학) 영화 ‘마이너리티 리포트’(2002년 개봉)와 같은 사회가 도래한다”는 지적도 내놓고 있다. 이 영화에서 정부는 범죄 사전 예측 시스템을 통해 살인 사건 발생률 제로(0)를 달성하지만, 아직 범죄를 저지르지도 않은 사람을 체포해 처벌하는 심각한 부작용이 벌어진다.</p> <p contents-hash="cb46781aff78a02a1b5940e79e79eee4e3591770711b236744f0911e343f4feb" dmcf-pid="0anB4GfzZf" dmcf-ptype="general"><strong>◇중국에선 반정부인사 색출에 활용</strong></p> <p contents-hash="47f0ac027638afe4c7ce670c7a9fa6ce88ec726a9c23a0e58f5986e7df0e09fe" dmcf-pid="pNLb8H4q5V" dmcf-ptype="general">AI 알고리즘에 기반해 범죄자를 사전에 식별하려는 시도는 이미 곳곳에서 벌어지고 있다. 영국 정부는 수천 명의 사법 데이터를 분석하는 AI 알고리즘을 이용해 ‘살인 예측 프로그램’을 개발 중이다. 영국 경찰은 이름, 생년월일, 성별, 민족 등의 데이터를 수집·분석해 폭력이나 살인을 저지를 가능성이 큰 이들을 추리는 것으로 알려졌다. 영국 시민 단체들은 “전과가 없는 일반인의 개인정보와 경범죄 이력까지 무차별 수집돼 고위험군 낙인을 찍을 수 있다”며 강력 반발하고 있다.</p> <p contents-hash="f41ef78860554a544f4e882c399492e823e43a487306a56e2bff4578fe62ec4f" dmcf-pid="UjoK6X8BY2" dmcf-ptype="general">중국에서는 반정부활동에 나설 위험이 높은 반체제 인사를 사전에 가려내는 ‘AI 감시 시스템’을 구축했다. 뉴욕타임스에 따르면, 중국 AI 업체 ‘지즈네트워크’는 정부 연구 기관과 함께 ‘정치 위험 인물 식별 기술’을 개발해 이미 운용 중이다. 정부 검열을 우회하는 가상사설망(VPN)에 접속한 이력이 있는 사람의 휴대전화 번호, 메신저 계정, 기지국 통신 기록 등 광범위한 개인정보를 수집해 이를 교차 분석한다. 이를 통해 해외 언론을 자주 보는 사람, 시위 현장에 자주 출몰하는 사람, 특정 정치 단체와 교류가 있는 사람을 잡아내 ‘잠재적 정치 위험’ 고위험군으로 분류해 ‘특별 관리’하는 것으로 알려졌다.</p> <p contents-hash="321536288e09701a71ef304c5a82f1fa48de9e88cb94b63bb029de712d50205a" dmcf-pid="uAg9PZ6b59" dmcf-ptype="general"><strong>◇범죄 예방인가, 감시 사회인가</strong></p> <p contents-hash="613758445245009fda4109f12180bee4f0002814efb751004cc8d40b285f9524" dmcf-pid="7WSokVcn1K" dmcf-ptype="general">이러한 ‘예측 치안’은 효율적으로 범죄자를 찾아 사회적 비용을 줄일 수 있다는 장점이 있지만, 개인정보 유출·오남용 등 기본권 침해가 불가피하다. AI 기술이 불완전한 만큼, 오판 우려가 크다는 것도 문제다. 당장 “AI가 사용자의 말, 행동을 토대로 범죄 발생 가능성을 예측하더라도 실제 범죄로 이어지는 것은 별개”라는 지적이 나온다.</p> <p contents-hash="3ba0606b6ee57abdf1d6cf76b3ad8e804bbd5efa5f2386ed8dce615bae4e8be0" dmcf-pid="zYvgEfkL1b" dmcf-ptype="general">특정 계층을 타깃으로 삼는 ‘피드백 루프’ 문제를 야기할 가능성도 있다. 편향된 데이터를 학습한 AI가 미래의 범죄를 예측할 경우, 특정 소수자나 취약 계층을 잠재적 범죄 집단으로 영구 격리하는 사법적 불평등이 고착화될 수 있다는 것이다.</p> <p contents-hash="5067759263b7ffc120a0c9d999483e4f802766cd3b4f193d0260309f1f9811b3" dmcf-pid="qGTaD4Eo5B" dmcf-ptype="general">김명주 서울여대 정보보호학부 교수는 “현재 AI 기술은 특정 조건의 상관관계를 보여줄 뿐, 실제 범죄를 일으키는 명확한 인과관계를 증명하지 못한다”며 “AI 예측 치안의 효율성에만 매몰될 것이 아니라, 알고리즘의 편향성을 검증하고 통제할 수 있는 글로벌 가이드라인과 법적 제동 장치를 시급히 마련해야 한다”고 했다.</p> <p contents-hash="64cc5055c6a2226227dd3ffdd036d279725539f7ad0240dddec1533fbc841c42" dmcf-pid="BHyNw8DgXq" dmcf-ptype="general"><strong>☞영화 ‘마이너리티 리포트’</strong></p> <p contents-hash="c03507f16a0711e929202ed0ce26b479d3cc4a3ac98f9aacfdefc277d621e91f" dmcf-pid="bXWjr6watz" dmcf-ptype="general">AI 기술과 예지 능력을 결합한 ‘범죄 예측 시스템’을 통해 강력 범죄 발생 전 잠재적 용의자를 체포하는 미래 사회를 그린 할리우드 SF(공상과학) 영화. 예측 시스템이 무고한 시민을 범죄자로 낙인찍는 치명적 결함이 드러나 폐기된다. 필립 K.딕의 동명 소설이 원작으로, 첨단 감시 사회의 명암을 경고했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 “내 사진 멋대로 긁어가”… 메타 최신 AI 논란 07-10 다음 [제31회 LG배 조선일보 기왕전] 우세를 의식 07-10 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
