"AI활용 핵심은 성능경쟁 아냐 … 법적 책임구조부터 설계하라" 작성일 05-03 25 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">조정원 LG AI연구원 책임변호사<br>AI 학습한 대규모 데이터들<br>출처 모를땐 법적리스크 커<br>LG, 책임형AI '엑사원' 개발<br>데이터 어디서 왔는지 역추적<br>저작권 침해·규제 위반 차단</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="XVc0pEtWhJ"> <figure class="figure_frm origin_fig" contents-hash="dc90493820dfcbf2de32dcd596e8c162797ceb122a3b2c6d61622b176d992871" dmcf-pid="ZfkpUDFYhd" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/03/mk/20260503160608485warc.jpg" data-org-width="500" dmcf-mid="HDv48y2uWi" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/03/mk/20260503160608485warc.jpg" width="658"></p> </figure> <p contents-hash="4e71ec0b181685046d4871223d8b6494c7b030684cc375b8a8b77e40f3bb184a" dmcf-pid="54EUuw3Gye" dmcf-ptype="general">인공지능(AI)이 기업 현장에 빠르게 도입되면서 산업계 관심은 '무엇을 할 수 있는가'에서 '누가 책임질 것인가'로 옮겨가고 있다. AI가 의사결정과 실행 단계까지 관여하기 시작하는 지금 활용 범위보다 법적 책임 구조를 먼저 정비해야 한다는 지적이 나온다.</p> <p contents-hash="d27011202f812ebf0bc67d3139b9fd5a100e238d4ab803d10db6d92b1b62971b" dmcf-pid="18Du7r0HSR" dmcf-ptype="general">조정원 LG AI연구원 책임변호사는 매일경제 인터뷰에서 "AI 활용이 늘어날수록 핵심은 성능 경쟁이 아니라 책임 구조 설계"라며 "AI를 얼마나 잘 만들었느냐보다 그 AI가 어떤 데이터를 기반으로 작동하고 어떤 위험을 내포하며 문제가 발생했을 때 누가 책임질 수 있는지 먼저 따져야 한다"고 말했다. 조 변호사는 AI 시대 법률 논의의 핵심으로 '책임 귀속'을 꼽았다. 현행 법체계에서 AI는 법인격을 갖지 않기 때문에 AI 자체에 법적 책임을 묻기는 어렵다. AI가 위법한 결과를 내거나 피해를 발생시켜도 법적 책임은 결국 이를 개발하고 운영한 인간과 기업에 돌아간다. 이 때문에 AI의 작동 구조를 알 수 없다면 기업은 AI 도입을 꺼리게 된다.</p> <p contents-hash="e80edb387f4471de2ae5e4488f96c08cc4fb18d860551b75a31c8450d24978fc" dmcf-pid="t6w7zmpXlM" dmcf-ptype="general">그는 "AI는 법적으로 책임 주체가 아니기 때문에 처벌 대상이 될 수 없다"며 "결국 법은 AI가 아니라 AI를 설계하고 시장에 투입한 사람과 기업을 중심으로 책임을 따질 수밖에 없다"고 했다. 이어 "자율주행차 사고에서 운전자와 제조사, 소프트웨어 개발사의 책임을 함께 검토하듯 AI 역시 공급망 전반의 책임 구조를 기준으로 판단하게 될 것"이라고 설명했다.</p> <p contents-hash="5b42d72a78fff2e4116b72a53c75283092d9e0c55939aa31ec3e2faff27a6f38" dmcf-pid="FPrzqsUZWx" dmcf-ptype="general">AI 활용 확대와 함께 저작권 문제를 비롯한 데이터 리스크가 중요해지는 이유도 여기에 있다. 생성형 AI의 성능은 대규모 학습 데이터에 좌우되지만 실제 산업 현장에서는 어떤 데이터가 어디서 유입됐는지 명확히 파악하지 못한 채 모델이 개발되는 사례가 적지 않다. 이때 저작권 침해, 라이선스 충돌, 편향 데이터 유입 등 복합적인 법적 문제가 뒤따를 수 있다.</p> <p contents-hash="cd8417ea19100720a5d5f5fc625413fe56e2a9d319848810e3e80a22051cc5ad" dmcf-pid="3QmqBOu5vQ" dmcf-ptype="general">조 변호사는 "AI 산업에서 가장 큰 법적 리스크는 학습 데이터"라며 "데이터 출처를 모르면 저작권 문제뿐 아니라 편향성과 안전성까지 판단할 수 없다"고 말했다. 그는 "어떤 데이터를 학습했는지보다 그 데이터가 어디서 왔고 어떤 라이선스를 거쳐 유통됐는지 추적할 수 있어야 기업이 책임 있는 AI를 도입할 수 있다"고 강조했다.</p> <p contents-hash="64e3cc62f5020a1fe1f0fa7efb0a269400ff3a9c59da1f0a8a397a35578a2a16" dmcf-pid="0xsBbI71WP" dmcf-ptype="general">LG AI연구원이 자체 개발한 생성형 AI 모델 '엑사원(EXAONE)'은 이 같은 문제의식에서 출발했다. 2021년 개발을 시작한 엑사원은 범용 AI 경쟁보다 산업 현장에서 활용 가능한 '책임형 AI' 구현에 초점을 맞췄다. 일반 질의응답 성능뿐 아니라 법률·특허·연구·리포트 작성 등 전문 영역에서 활용할 수 있도록 설계한 것이 특징이다. 조 변호사는 엑사원의 차별점으로 '학습 데이터 추적 가능성'을 들었다. 그는 "엑사원의 경쟁력은 단순히 성능이 아니라 데이터 출처를 설명할 수 있다는 점"이라며 "무엇을 학습했는지뿐 아니라 그 데이터가 어디서 생성됐고 어떤 경로로 재배포됐으며 어떤 법적 리스크를 갖는지 추적하는 체계를 갖추고 있다"고 말했다.</p> <p contents-hash="a2c7c36c9f0c9cf706c872ec9a68fad2c766e58cad9d2b6f5c13834462292061" dmcf-pid="peC92lB3y6" dmcf-ptype="general">LG AI연구원은 이를 위해 학습 데이터의 유통 경로를 역추적하는 별도 에이전트도 운영하고 있다. 특정 데이터가 최초로 어디서 생성됐는지, 이후 어떤 경로를 거쳐 재배포됐는지를 추적해 데이터 계보를 만든다. 이를 통해 해당 데이터가 적법한지, AI 학습에 써도 되는지를 판단한다. 조 변호사는 "16번 재배포된 데이터를 추적한 경우도 있다"며 "이렇게까지 해야 법적 리스크를 안정적으로 관리할 수 있다"고 소개했다.</p> <p contents-hash="a53e3e699b57581fa0bb15a4f9748bbd8d535ab0eadc8c12a3c3e35b3a1445ba" dmcf-pid="Udh2VSb0W8" dmcf-ptype="general">이 같은 접근은 최근 글로벌 AI 규제 흐름과도 맞닿아 있다. 미국은 NIST(미국 국립표준기술연구소)를 중심으로 AI 리스크 관리 프레임워크를 마련하며 산업 표준을 주도하고 있고, 유럽연합(EU)은 AI Act를 통해 규제 중심의 관리체계를 구축하고 있다. 한국 역시 AI 기본법을 활용해 위험관리와 투명성 의무를 제도화하는 방향으로 논의를 이어가고 있다.</p> <p contents-hash="6e70df993c63ef41abce1b4bb39c9917b10450572a6e4d21aa69ccb40034d0fd" dmcf-pid="uJlVfvKpW4" dmcf-ptype="general">조 변호사는 "향후 AI 경쟁력은 더 큰 모델을 만드는 데 있지 않다"며 "기업이 AI를 얼마나 안전하게 통제하고, 문제가 발생했을 때 어디까지 설명하고 책임질 수 있는지가 AI 도입의 핵심 기준이 될 것"이라고 말했다. 이어 "결국 AI 산업의 경쟁력은 더 똑똑한 AI가 아니라 더 책임질 수 있는 AI에 달려 있다"고 했다.</p> <p contents-hash="5d9349c9056b580892942dd95cc48c1a563b56e3453424b5dd02c23de3165ae0" dmcf-pid="7iSf4T9Ulf" dmcf-ptype="general">[최원석 기자 / 사진 이충우 기자]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 "AI영상, 텍스트 몇줄이면 뚝딱? … 도자기 빚듯 섬세한 문장력 필요" 05-03 다음 "우주 활용 시대…위성사진 분석시장 선도" 05-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
