AI가 오진하면 의사 탓? 개발사 탓?…“AI 시대 ‘안전장치’ 필요하다” 작성일 01-20 65 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="fLv8TaiPhG"> <figure class="figure_frm origin_fig" contents-hash="dfe2100af3a3590dfb491619362af240e119f50c1813f1cbd7a77c6e96e12ef4" dmcf-pid="4oT6yNnQWY" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 시대에 맞는 국제 인권 체계를 새로 정립해야 한다는 주장이 나오고 있다. 로이터=연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/20/joongang/20260120162839331fxqb.jpg" data-org-width="559" dmcf-mid="6UKEbWlwTM" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/20/joongang/20260120162839331fxqb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 시대에 맞는 국제 인권 체계를 새로 정립해야 한다는 주장이 나오고 있다. 로이터=연합뉴스 </figcaption> </figure> <p contents-hash="da636ba8065d6c5496e37b5dab218f34d180ab2a654581a3773808fc48b87d54" dmcf-pid="8gyPWjLxvW" dmcf-ptype="general"><br> " 병원이 진단용으로 도입한 인공지능(AI)이 오진을 했다면, 책임은 누가 져야 할까요. AI를 만든 개발사일까요, 이를 활용한 병원일까요, 아니면 AI 진단 서비스를 제공한 플랫폼일까요. " <br> 19일 고려대 서울캠퍼스에서 만난 유발 셰니(Yuval Shany) 히브리대 법학과 교수는 중앙일보와의 인터뷰에서 이같은 예시를 들며 “AI가 우리 삶에 직접적인 영향을 미치기 시작한 지금, 기존의 인권 체계로는 충분하지 않다”고 주장했다. AI 시대에 새롭게 침해받거나 충돌할 수 있는 인간의 권리를 명문화 하는 작업이 필요하다는 것이다. </p> <p contents-hash="32a56ff3a4c6d8ae93d5614fce466a3ae915f8d22e2aa555c561817d36447718" dmcf-pid="6aWQYAoMyy" dmcf-ptype="general">셰니 교수는 2013년부터 8년간 유엔 자유권규약위원회에서 활동하며 2018~2019년 위원장을 역임했다. 현재 영국 옥스퍼드대 윤리·AI 연구소 석좌 교수를 겸임하는 국제인권법 분야 석학이다. 그는 이날 고려대·휴먼아시아가 주최한 ‘국제 AI 인권장전 세미나’ 참석차 한국을 방문했다. </p> <figure class="figure_frm origin_fig" contents-hash="a086ccc85341e7d7b804fc599ff976ae27424a5c087062de3cefb30610b90433" dmcf-pid="PNYxGcgRWT" dmcf-ptype="figure"> <p class="link_figure"><img alt="유발 셰니 히브리대 법학과 교수가 19일 고려대학교 서울캠퍼스에서 본지와 인터뷰 하고 있다. 사진 휴먼아시아" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/20/joongang/20260120162840611ygyx.jpg" data-org-width="1280" dmcf-mid="PQLHnBUZTx" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/20/joongang/20260120162840611ygyx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 유발 셰니 히브리대 법학과 교수가 19일 고려대학교 서울캠퍼스에서 본지와 인터뷰 하고 있다. 사진 휴먼아시아 </figcaption> </figure> <div contents-hash="d6249705e4f337ba6d5af75ec45767f0a6310c91d574ba6f4bd9d0967e0bc7ac" dmcf-pid="QjGMHkaevv" dmcf-ptype="general"> <br> ━ <br> <p> AI 인권장전, 왜 필요한가 </p> <br> 셰니 교수는 “기존 국제 인권 체계는 제2차 세계대전 이후 거대 국가권력으로부터 개인을 지키기 위해 설계된 틀로, AI 시대에는 다른 차원의 설계가 있어야 한다”며 ‘국제 AI 인권장전’의 필요성을 강조했다. 셰니 교수에 따르면, AI 시대의 의사 결정은 ‘사람 대 기계’의 관계에 기반한다. 의사와 환자, 교수와 학생, 정부와 시민 등 인간관계가 기계로 대체되면서 대출·입학·채용 등 개인의 권리는 작동 원리조차 알기 어려운 AI 시스템에 좌우된다. </div> <p contents-hash="ebb6f799ed8dede74bf4fdc0b8ea573c5d316f12515d34d15fd2062afd55a69b" dmcf-pid="xeI9CiMVlS" dmcf-ptype="general">그는 “AI 시스템은 개발부터 활용까지 가치사슬이 길어 책임이 분산되는 ‘많은 손의 문제’가 발생한다”며 “할루시네이션(환각) 등이 개인의 권리를 침해할 정도로 AI의 영향력은 커졌지만, 이를 사전 통제하거나 사후적으로 책임을 물을 공통 기준이 없다”고 지적했다. 일례로 잘못된 의료 진단이나 대규모 데이터 활용으로 개인정보가 침해돼도 책임 소재가 불분명하다는 것이다. </p> <div contents-hash="b04cf907d762ee15106a7d6614e3f33e4ea4e809bb7ae11d6a6c8515b9e31022" dmcf-pid="yGVsfZWIll" dmcf-ptype="general"> ━ <br> <p> AI는 기다려주지 않는다 </p> <br> AI 기술은 하루가 다르게 발전하고 있는데, 현 시점에서 AI 인권 기준을 논하는 게 의미가 있을까. 셰니 교수는 이러한 의구심에 대해 “AI 기술이 완성되는 시점은 존재하지 않는다”고 말했다. “머신러닝·딥러닝을 거쳐 생성 AI, 에이전트 AI, 범용인공지능(AGI) 등 천장을 깼다고 생각하면 그 위에 또 다른 천장이 나타나는 구조”라는 설명이다. 그는 “AI 인권은 기술이 안정된 뒤 논의할 사안이 아니라, 지금 이 순간 발생하고 있는 피해를 보호하기 위한 최소한의 안전장치”라고 강조했다. 오는 22일부터 시행되는 한국의 AI 기본법에 대해선 “한국의 AI 기본법은 AI 발전과 합리적 규제를 동시에 모색하는 의미 있는 사례가 될 수 있다”고 평가했다. </div> <figure class="figure_frm origin_fig" contents-hash="67ff3bbbea239d7a5f34435f81f2c0370fd70f9786bef9effba9a7eb57d968e3" dmcf-pid="WHfO45YCyh" dmcf-ptype="figure"> <p class="link_figure"><img alt="19일 고려대학교 서울캠퍼스에서 열린 '국제 AI 인권장전' 세미나에서 유발 셰니 교수가 기조 강연을 하고 있다. 사진 휴먼아시아" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/20/joongang/20260120162841900oqhv.jpg" data-org-width="1280" dmcf-mid="Q3sbOdQ9yQ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/20/joongang/20260120162841900oqhv.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 19일 고려대학교 서울캠퍼스에서 열린 '국제 AI 인권장전' 세미나에서 유발 셰니 교수가 기조 강연을 하고 있다. 사진 휴먼아시아 </figcaption> </figure> <p contents-hash="748596887371c17ab2ea0150a810ffc767d5f662640d72cad8991c7d2ccad029" dmcf-pid="YX4I81GhvC" dmcf-ptype="general"><br> 관건은 빅테크 등 주요 주체들의 참여다. 이날 세미나에 참석한 기업들은 현실적인 상황들을 언급했다. 한 기업 관계자는 “새로운 인권장전이 기존 법·제도의 어떤 공백을 메우는지에 대한 설명이 필요하다”고 말했다. 이어“기업 입장에선 각 나라 상황에 맞게 서비스를 현지화·구체화하고, 자체 시스템에 이를 내재화하는 과정이 수반돼야 하기 때문”이라고 했다. </p> <p contents-hash="bff4da6962c2e55221edd7e253d0ff34798b1282c57ca3e44a8b9a2d82272595" dmcf-pid="GZ8C6tHlvI" dmcf-ptype="general">셰니 교수는 “기업 참여를 끌어내는 것은 쉽지 않지만, 윤리적 정당성과 고객 신뢰를 중시하는 기업 특성상 동기는 충분하다”며 “메타·구글 등 실제 만났던 빅테크 관계자들도 예상보다 진지한 관심을 표했다”고 말했다. 기업 참여보다 더 큰 장애물로 지정학적 긴장, 유엔 등 국제기구의 영향력 약화, 강한 반(反)규제 기조 등을 지적하기도 했다. 그는 다음 달 영국 옥스포드 대학에서 AI 인권장전 화이트페이퍼(정책백서)를 공식 발표하고, 각국 정부와 기업, 시민사회의 참여를 이끌어내는 논의를 본격화할 계획이다. </p> <p contents-hash="053a55893fbbfd005f1ebb00516e8f24c7ab495167fc8fcd56d25ac4544a43a0" dmcf-pid="H56hPFXSCO" dmcf-ptype="general">■ 더중앙플러스: 팩플</p> <p contents-hash="91e3e761530f7296f73f898b50d608df46a4d96eb1819878edf0da2841ce614b" dmcf-pid="X1PlQ3Zvhs" dmcf-ptype="general">「 더 자세한 기사내용이 궁금하시다면, 주소창에 링크를 붙여넣으세요. <br> </p> <figure class="figure_frm origin_fig" contents-hash="3013b0e2df7b338198eda8e6848837316c8b7465ca5d49c972d302ce91094ae8" dmcf-pid="ZtQSx05TTm" dmcf-ptype="figure"> <p class="link_figure"><img alt="김혜미 디자이너" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/20/joongang/20260120162843148eeqy.jpg" data-org-width="1100" dmcf-mid="x5UNulsATP" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/20/joongang/20260120162843148eeqy.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 김혜미 디자이너 </figcaption> </figure> <p contents-hash="8c50d039a78ffa5c94890263ea4e00ed54454ae058ed2999b2d448f17328711d" dmcf-pid="5FxvMp1ylr" dmcf-ptype="general"><br> “이 여자 나한테 관심 있어?” 챗GPT 상담의 섬뜩한 종착지 <br> “30년 내 AI로 인해 인류가 멸망할 가능성은 10~20%다.” AI 위험성에 대한 이 같은 경고는 아이러니하게도 딥러닝 개념으로 AI 발전의 토대를 닦은 ‘AI의 대부’ 제프리 힌턴 토론토대 교수가 내놨다. AI의 위험은 어디까지 와 있을까. 힌턴 교수처럼 왜 위험한지를 아는 사람만이 AI를 안전하게 쓸 수 있다. 생산성을 끌어올리는 데 AI를 쓴다면 안전하게 쓰는 법도 함께 배워야 한다. AI 안전성을 위한 개발자·정부의 고군분투부터 개인이 직접 점검해 볼 수 있는 AI 중독 체크리스트까지, AI 안전의 모든 것을 담았다. AI와 건강하게 공존하고 싶다면! <br> https://www.joongang.co.kr/article/25396927 <br> 」</p> <p contents-hash="4d83a86b9cd622f6e5a56bafe064dc88ec4beabfdda477f22982f2eb243ea79a" dmcf-pid="13MTRUtWSw" dmcf-ptype="general">어환희 기자 eo.hwanhee@joongang.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 "나나에게 구타 당했다"는 강도, 판사도 쓴소리+"적반하장" 분노 [엑's 이슈] 01-20 다음 [AI는 지금] 대기업 발 뺀 독파모 '패자부활전'…모티프·트릴리온랩스 덕에 '활기' 01-20 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
