"인공지능 신뢰성 높이려면 어떤 추론 거쳤는지 알아야"

작성일 07-08

<div id="layerTranslateNotice" style="display:none;"></div> 이수인 워싱턴大 컴퓨터공학과 교수 결론 도출하는 과정 보여주는 설명 가능한 인공지능 선구자 호암 공학상 여성 최초로 수상 "韓에 과학기술 우대문화 필요 모든 R&amp;D의 시작 결국 연구비 정부 차원의 장기적 지원 중요" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="XaN3BBXDcI">
 <figure class="figure_frm origin_fig" contents-hash="5f4fdf31102771c1f3358a720e81015090eb6f478a5fbbfe170bf94773b22d48" dmcf-pid="ZYGRgg8tjO" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/08/mk/20250708230002600gykj.jpg" data-org-width="875" dmcf-mid="H6fIWWDxkC" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/08/mk/20250708230002600gykj.jpg" width="658">
 </figure>
 "최근 '소버린 인공지능(AI)' 등 한국 정부가 AI를 강조하는 정책에는 대체로 공감하는 편입니다. 자국 기술을 보유하고 있는 것과 없는 것은 큰 차이로, 개발 과정에서 얻는 노하우와 전문성도 분명 존재하니까요. 다만 해외에 좋은 AI 모델이 있다면 적극 수용하는 자세도 필요합니다."
 이수인 워싱턴대 컴퓨터공학과 교수(45)는 8일 국내 언론 간담회에서 글로벌 AI 패권경쟁에서 낙오하지 않으려면 정부 차원에서 장기적으로 연구비를 지원하는 게 중요하다고 강조했다. 그는 "한국은 과학기술 우대 문화가 개선될 필요가 있다"며 "모든 연구개발(R&amp;D)의 시작은 결국 연구비다. 연구비만 제대로 줘도 연구자는 우대받는다는 기분을 느낄 것"이라고 말했다. 이공계 인재 유출이나 연구 경쟁력 등 한국 과학기술계가 당면한 많은 문제에 대해서도 "일단 연구자들이 연구할 수 있게 해줘야 문제가 풀릴 것"이라고 조언했다.
 이 교수는 "가장 이상적인 건 정부 차원의 장기적인 지원"이라며 미국의 사례를 들었다. 최근 도널드 트럼프 정부는 국립보건원(NIH) 등 주요 R&amp;D 예산을 대폭 삭감하고 있다. 이 교수는 "주변을 보면 연구가 통째로 종료되거나 학생을 전학 보내는 사례도 있다"며 "이런 상황에서는 지금 당장은 무사한 교수조차 안심하고 연구에 집중할 수 없다"고 했다.
 이 교수는 최근 가장 뜨거운 이슈인 '설명 가능한 인공지능(XAI)'의 선구자다. KAIST 전기·전자공학부를 졸업했고 스탠퍼드대학에서 컴퓨터공학으로 박사 학위를 받았다.
 XAI는 다양한 분야에서 활용되는 AI의 신뢰성을 높이는 기술이다. 이 교수가 2017년 개발한 'SHAP 프레임워크'는 오늘날 가장 널리 사용되는 XAI 모델이다. AI가 어떻게 결론을 내렸고 학습한 데이터 중 어떤 것에 근거해 판단했는지를 사용자에게 보여준다. SHAP 프레임워크는 현재 바이오·반도체 등 다양한 분야에서 활용되고 있으며 논문 인용 수도 3만5000회를 넘는다. 이 교수는 이 같은 공로를 인정받아 지난해 삼성호암상 공학상을 수상하기도 했다. 여성 공학자로는 최초 수상자다.
 이 교수는 KAIST 학부를 다니던 1990년대 후반부터 AI 분야를 연구하기 시작했다. 이후 2001년 미국에서 유학 생활을 시작했고 줄곧 미국에서 AI를 연구했다. AI의 침체기와 부흥기를 모두 가장 일선에서 경험한 것이다. 모두가 AI를 외면할 때조차 AI를 연구했던 그 역시 계속 한 분야만 몰두한 것은 아니다. 이 교수가 원래 연구했던 인공신경망은 지금이야 대세로 자리 잡았지만 AI 침체기에는 별다른 관심을 받지 못했다.
 그는 당시 옆 연구실에 있던 앤드루 응 교수의 고차원 데이터 등 다른 분야 수업을 수강하며 연구를 이어나갔다. 이 교수는 "같은 기술이라도 시대의 요구에 따라 형태가 달라진다"며 "연구자가 시대의 흐름을 이해하는 게 중요하다"고 했다.
 AI 기술이 빠르게 발전하고 의료나 방산 등 다양한 분야에 접목되고 있지만 아직 AI를 완전히 신뢰하기는 어렵다. 이는 AI가 어떤 추론 과정을 거쳐 결론을 내리는지 알 수 없기 때문이다. 추론 과정을 모른다면 AI가 잘못된 판단을 해도 인간 사용자는 알아차릴 수 없다. XAI는 이 문제를 해결해준다. 이 교수는 "신뢰할 수 없는 AI를 의학 분야에 적용할 수는 없다"며 "AI의 활용성을 높이기 위해서라도 XAI는 반드시 필요한 기술"이라고 설명했다. 핵심은 '단순화'다. AI가 학습한 수많은 데이터 중 추론에 사용하는 핵심 자료만 추려내는 작업이기 때문이다. 
 [최원석 기자]
 </section> 
 </div> 
 Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"인공지능 신뢰성 높이려면 어떤 추론 거쳤는지 알아야"

멤버랭킹

관련자료

멤버랭킹