“AI 패권은 똑똑함보다 통제력”…최은수 인텔리빅스 대표, ‘신뢰 가능한 AI’ 강조 작성일 06-14 47 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">대한상의 GAFH 2026 기조연설<br>“95% 정확도는 환상"<br>"비상 스위치 없는 AI는 산업현장의 시한폭탄”<br>T.R.U.S.T 프레임워크’ 제시</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="yfWaC22uD5"> <p contents-hash="67cef319e58007aa75efb2b4fb17aaa40e932b5a7d16e40c5c09719ea1fe2146" dmcf-pid="W4YNhVV7DZ" dmcf-ptype="general"> [이데일리 김현아 기자] “AI 시대의 최종 승자는 가장 자율적인 시스템을 만드는 기업이 아니라, 가장 잘 통제되는 시스템을 설계하는 기업이 될 것입니다.”</p> <p contents-hash="26132b0e73cd44527d90d8ba8183aebebb0368b3323f7a41f0eed9595607de03" dmcf-pid="Y8GjlffzIX" dmcf-ptype="general">안전 AI 딥테크 기업 인텔리빅스의 최은수 대표는 12일 서울 중구 대한상공회의소 국제회의장에서 열린 ‘글로벌 인류공영 AI 포럼(GAFH) 2026’ 기조연설에서 이같이 말하며 AI 산업의 핵심 경쟁력이 ‘성능’에서 ‘통제 가능성’과 ‘책임성’으로 이동하고 있다고 강조했다.</p> <p contents-hash="1a282a73307daf2a4c1d9e712f8344f0a181d8026c05f3e43b1770ed21105abc" dmcf-pid="G6HAS44qIH" dmcf-ptype="general">이번 포럼은 천지일보 주최로 열렸으며, 글로벌 AI 석학과 산업계 리더들이 모여 AI 기술 발전 방향과 인류 공영을 위한 윤리·제도적 과제를 논의하기 위해 마련됐다.</p> <figure class="figure_frm origin_fig" contents-hash="b378ef12785a10a47ad8a098055947eb3704612e75603f61293da4fd5e641987" dmcf-pid="Htk4o55TrG" dmcf-ptype="figure"> <p class="link_figure"><img alt="최은수 인텔리빅스 대표이사. 사진=인텔리빅스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/14/Edaily/20260614101647098qmdm.jpg" data-org-width="800" dmcf-mid="x3D6attWO1" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/14/Edaily/20260614101647098qmdm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 최은수 인텔리빅스 대표이사. 사진=인텔리빅스 </figcaption> </figure> <div contents-hash="6ad890eb0787b5c93f5903454ce41b995bba3b5b8e2218d218d9dec47ed4a124" dmcf-pid="XFE8g11yDY" dmcf-ptype="general"> <strong>“행동하는 AI 시대…오류 한 번이 산업재해로 이어질 수도”</strong> </div> <p contents-hash="e11c629b90e49c4c8504b6f6929388e37c9fd3fddf6d59c699afa445dc4e3cce" dmcf-pid="Z3D6attWmW" dmcf-ptype="general">최 대표는 AI가 단순히 정보를 분석하는 단계를 넘어 공장·도시·병원 등 물리적 환경에 직접 개입하는 ‘행동하는 AI(Acting AI)’ 시대로 진입했다고 진단했다.</p> <p contents-hash="116a3a223d4df512c1f3d1e3a8a8455fa755bd1cdc174721456d868c39012087" dmcf-pid="50wPNFFYIy" dmcf-ptype="general">그는 “과거 분석형 AI의 오류는 잘못된 텍스트나 이미지를 생성하는 수준의 불편함에 그쳤지만, 물리력을 행사하는 AI의 실수는 생명과 직결되는 대형 사고를 초래할 수 있다”며 “AI가 산업 현장에 투입되기 위해서는 반드시 완벽한 비상 스위치(Emergency Switch)를 내장해야 한다”고 말했다.</p> <p contents-hash="4a8e6d199cc798ee88f9992284a282e6486bd60ff2a33a8c5bce37ee416b3529" dmcf-pid="1prQj33GrT" dmcf-ptype="general">이어 “전기가 인류 문명을 발전시켰지만 누전 차단기와 절연장치가 없다면 위험한 존재가 되는 것처럼, AI 역시 통제장치 없이는 산업 현장에서 활용될 수 없다”고 설명했다.</p> <p contents-hash="bd89cc8abe83e79201b164883ce5aa0ddfa31c3d756434e3ad149e1fac7ca97e" dmcf-pid="tUmxA00HDv" dmcf-ptype="general"><strong>“95% 정확도 자랑보다 중요한 건 5% 실패 관리”</strong></p> <p contents-hash="21a201825447094a00a6c3b6796415c9a1c27e9ed469678a166c4a26647c9b33" dmcf-pid="FusMcppXmS" dmcf-ptype="general">최 대표는 기업들이 강조하는 ‘95% 정확도’의 한계도 지적했다.</p> <p contents-hash="6040edc789569b48264df41460942f8abe507fe6fc3e1f279e436a6c457c35a1" dmcf-pid="37ORkUUZEl" dmcf-ptype="general">그는 “통제된 실험실 환경에서의 95% 성공률은 수많은 변수가 존재하는 산업 현장에서는 오히려 5%의 치명적 실패를 의미할 수 있다”며 “가장 위험한 것은 AI가 확신에 찬 태도로 완전히 틀린 답을 제시하는 ‘그럴듯한 오류(Plausible Error)’”라고 말했다.</p> <p contents-hash="8cddcf7fe5a584b32c457271cfca79c63b24f005de123446e77aad78a122e09f" dmcf-pid="0zIeEuu5Eh" dmcf-ptype="general">이어 “AI 환각(Hallucination)은 인간의 판단을 마비시키고 기계에 대한 맹신을 유발해 결국 대형 사고와 기업의 법적 책임으로 이어질 수 있다”며 “앞으로 AI 경쟁력의 핵심은 얼마나 높은 정확도를 달성했느냐가 아니라, 실패를 얼마나 안전하게 관리할 수 있느냐에 달려 있다”고 강조했다.</p> <p contents-hash="9a064893754a58640c9b58622c547d188314c1e3ffd33395a0b28a3e4ceecf32" dmcf-pid="pqCdD771EC" dmcf-ptype="general"><strong>데이터 추적부터 인간 통제권까지…‘T.R.U.S.T’ 프레임워크 제안</strong></p> <p contents-hash="564d76d74e459bc6c399f3f33a8e194055eac24dea93594f500f9267683fa81e" dmcf-pid="U4YNhVV7EI" dmcf-ptype="general">최 대표는 신뢰 가능한 AI 구현 방안으로 ‘Risk-by-Design(설계 기반 리스크 관리)’ 철학과 ‘T.R.U.S.T 프레임워크’를 제시했다.</p> <p contents-hash="ddea484ad64856a13b6b8cb69f509eaec6d736904a9d2609ef2e3a6b58ed7333" dmcf-pid="u8GjlffzwO" dmcf-ptype="general">T.R.U.S.T는 ▲데이터 추적성(Traceability) ▲위험 설계 차단(Risk-by-Design) ▲인간의 절대적 통제권(User Control) ▲이중 검증 모델(Second Validation) ▲완전한 책임성(Total Accountability) 등으로 구성된다.</p> <p contents-hash="5f319688189107a72b145b6819761306676ad7b96d02e22fc4913696f4d1f91a" dmcf-pid="76HAS44qws" dmcf-ptype="general">그는 “AI 안전성은 문제가 발생한 뒤 보완하는 방식이 아니라 설계 단계부터 내재화돼야 한다”며 “AI가 스스로 판단하더라도 최종 통제권은 반드시 인간에게 남아 있어야 한다”고 설명했다.</p> <p contents-hash="fabba965cd55209e05eb2d895241e47b9b456c9a68ecb1013b40add8c96b0d62" dmcf-pid="zPXcv88Brm" dmcf-ptype="general"><strong>“AI가 AI를 검증하고, 인간이 최종 결정”</strong></p> <p contents-hash="3601d60131fb77c24b3b3c930861a311fef7eee80e12bbd7ee653d9108404423" dmcf-pid="qQZkT66bsr" dmcf-ptype="general">최 대표는 이러한 개념이 적용된 인텔리빅스의 차세대 AI 관제 플랫폼 ‘Gen AMS’도 소개했다.</p> <p contents-hash="4aaa2833c2d9f724ddaf00efea39e0a6548f73704b61791984c6dbd9737edd46" dmcf-pid="Bx5EyPPKEw" dmcf-ptype="general">시각·언어 모델(VLM)을 탑재한 Gen AMS는 단순 경보 발생을 넘어 위험 상황을 자연어로 설명하는 ‘설명 가능한 AI(XAI)’ 기능을 제공한다.</p> <p contents-hash="c231c9cc2b9983414d3ddf625347a3424c52ffcd015f4557c1a3a22b776d5f9c" dmcf-pid="bM1DWQQ9rD" dmcf-ptype="general">또 AI가 제시한 판단 근거를 인간 운영자가 검토한 뒤 최종 승인하거나 즉시 제어권을 회수할 수 있도록 설계됐다. AI가 AI를 교차 검증하고 인간이 최종 의사결정권을 갖는 구조다.</p> <p contents-hash="2a8c068d2642b62817bc04ea560a358e5d0eb859cad8b7990f29fea93b6284f1" dmcf-pid="KRtwYxx2sE" dmcf-ptype="general">최 대표는 “AI의 역할은 인간을 대체하는 것이 아니라 인간의 판단을 보조하는 것”이라며 “결국 책임은 인간이 지는 만큼 의사결정 구조 역시 인간 중심으로 설계돼야 한다”고 말했다.</p> <p contents-hash="dedf0cac04fb5903cb0e72d8c8cf0b00f5d4dfd77b83c9349b9cf0331c4a965f" dmcf-pid="9eFrGMMVOk" dmcf-ptype="general"><strong>“한국, AI 기술보다 ‘AI 신뢰 표준’ 선도해야”</strong></p> <p contents-hash="f6a003675eade5e2262c224e66b0b09f9caabd13476ccdce2087327de3fa410c" dmcf-pid="2d3mHRRfEc" dmcf-ptype="general">최 대표는 마지막으로 대한민국의 AI 전략 방향에 대해서도 제언했다.</p> <p contents-hash="6e1dcd705e5fc9468a0d2501e7e797fd764f669942630305f67540080ae91281" dmcf-pid="VJ0sXee4rA" dmcf-ptype="general">그는 “한국은 범용 거대언어모델(LLM) 경쟁에서는 미국·중국에 비해 후발주자일 수 있지만, 세계 최고 수준의 반도체 생산라인과 제조업, 스마트시티 인프라를 갖춘 국가”라며 “AI가 실제 산업 현장에서 작동하는 물리적 환경에서는 세계 최고 수준의 테스트베드를 보유하고 있다”고 평가했다.</p> <p contents-hash="fc02e45d31eda8e5d9e39b0b048dd3247bc1eab1802d1713cdc38aed9aaedb3f" dmcf-pid="fo7htnnQEj" dmcf-ptype="general">이어 “국가 차원에서 산업별 예외 상황 데이터를 체계적으로 축적하고 안전 기준을 마련해야 한다”며 “기술 수출을 넘어 전 세계가 따라야 할 AI 신뢰 표준(Trust Standards)을 한국이 직접 정의하고 선도해야 한다”고 강조했다.</p> <p contents-hash="b20029dd53a07e4da8b371fc1380f53eba6407422c14eb0cee0d9e8452d241ad" dmcf-pid="4gzlFLLxON" dmcf-ptype="general">그러면서 “AI 패권 경쟁의 승자는 가장 똑똑한 AI를 가진 국가가 아니라 가장 신뢰할 수 있는 AI를 만든 국가가 될 것”이라고 말했다.</p> <p contents-hash="4229da94846c3e102ebfac6d69babc49d5639937282389d2617f494644a043d4" dmcf-pid="8aqS3ooMOa" dmcf-ptype="general">김현아 (chaos@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 韓·이탈리아, AI·양자·로봇 동맹 강화…호라이즌 유럽 협력 확대 06-14 다음 “하, 또 털렸어?” 개인정보 유출됐다면, 꼭 해야 할 4가지 06-14 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
