AI가 인간을 넘는 시대…KAIST, 칸트의 질문으로 ‘AI 기준선’ 설계 나섰다 작성일 02-23 21 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[만났습니다]① 김동우 KAIST AI 철학연구센터장<br>AI 충격의 본질은 실업이 아니라 ‘목적 상실’<br>“착한 AI가 목표 아니다”<br>사회가 합의할 ‘기준선’과 책임 원칙 설계</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="143u5v9UEl"> <p contents-hash="75b0a2cd68521fc71c96865845d4e8fc380c5b2683d6b4081d2842eba5449baa" dmcf-pid="t8071T2uOh" dmcf-ptype="general"> [이데일리 김아름 기자] 인간의 능력을 인공지능(AI)이 능가할 수 있을까. 일론 머스크는 지난달 세계경제포럼(WEF·다보스포럼)에서 올해 말 인간보다 더 똑똑한 AI가 등장하고, 5년 안에는 AI가 인류 전체의 집단 지성을 뛰어넘을 수도 있다고 전망했다.</p> <figure class="figure_frm origin_fig" contents-hash="77c9bb7bde290fce0a2b67b061869b88611fbfb2536ec4e39f0b9a11c1f93063" dmcf-pid="F6pztyV7mC" dmcf-ptype="figure"> <p class="link_figure"><img alt="김동우 KAIST AI 철학연구센터장이 이데일리와 인터뷰를 진행하고 있다. (사진=KAIST)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/23/Edaily/20260223181154641htjk.jpg" data-org-width="670" dmcf-mid="5x7b0G8BOS" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/23/Edaily/20260223181154641htjk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 김동우 KAIST AI 철학연구센터장이 이데일리와 인터뷰를 진행하고 있다. (사진=KAIST) </figcaption> </figure> <div contents-hash="fc11f67c95b0b15b7c2a106eaf685c06b4279764f364844c6dc832d215685509" dmcf-pid="3PUqFWfzII" dmcf-ptype="general"> 무스타파 술레이만 마이크로소프트 AI CEO도 최근 파이낸셜타임스 인터뷰에서 “18개월 안에 사무직 업무의 대부분, 어쩌면 전부가 AI로 자동화될 수 있다”고 말했다. 그는 AI 확산의 핵심 충격을 실업 자체보다 ‘목적 상실’에서 찾았다. 인간이 스스로를 ‘세상의 지성적 중심’으로 규정해온 서사가 흔들릴 때, 도덕적 가치의 실천, 영적 탐구, 인간관계의 깊이처럼 AI가 대신할 수 없는 영역에서 새로운 의미를 다시 세워야 한다는 주장이다. </div> <p contents-hash="4c7b6e36bbba4378169bd0555fc86aec043b96860f669339409393e26e460ab4" dmcf-pid="03lyOA5TOO" dmcf-ptype="general">이 문제의식은 18세기 철학자 임마누엘 칸트의 세 질문을 오늘의 언어로 되살린다. AI가 답을 쏟아내는 시대에 우리는 무엇을 지식으로 인정할지, 무엇을 인간의 책임으로 남길지, 그리고 지능의 우위가 이동한 이후에도 무엇을 희망으로 삼을지 다시 묻게 된다.</p> <p contents-hash="1e132bdde9198d8e0dd37f42ac8e5d55a0f4eba05db3d4eef91a765bd5af3d4a" dmcf-pid="p0SWIc1yDs" dmcf-ptype="general">이 질문을 기술 설계의 한복판으로 끌어들이려는 시도가 KAIST에서 시작됐다. 김동우 KAIST AI 철학연구센터장은 이데일리와의 인터뷰에서 센터 출범 배경을 설명하며 칸트의 ‘3대 질문’을 꺼냈다. 기술을 바깥에서 비판하는 철학이 아니라, 기술 설계의 안쪽에서 함께 질문을 던지는 구조를 만들겠다는 것이다.</p> <p contents-hash="ea1ee198ed528bf25f2cf4674db6913fbeb91d2f0ff4d74e0a47f0ad5a14764f" dmcf-pid="UpvYCktWwm" dmcf-ptype="general">김 센터장은 “AI를 둘러싼 거의 모든 논쟁은 칸트가 제시한 세 질문으로 정리된다”며 “근본 질문으로 돌아가야 시스템을 어떻게 설계할지, 우리 사회의 제도를 어떤 방향으로 바꿔야 할지 비전이 선명해진다”고 말했다. 그는 “AI와 로보틱스가 확장하는 능력과 그에 따르는 책임, 그리고 우리가 품을 희망에 대한 답이 없으면 무엇을 어떻게 만들어야 할지도 결정하기 어렵다”고 덧붙였다.</p> <p contents-hash="0c7bf7092642915f4fafebe948a3ad444efefc5d4a129cf7442c01706a36b4c2" dmcf-pid="uUTGhEFYrr" dmcf-ptype="general">예컨대 ‘고래와 의사소통하는 AI’를 만들겠다는 목표가 있다면, 그 기술로 해양 환경을 개선하겠다는 사명까지 함께 세워져야 연구가 지속될 수 있다는 설명이다.</p> <p contents-hash="efdb83d66d640122d80c2af794bcb01576feea2351c6934f078024432aa94e98" dmcf-pid="7uyHlD3Gsw" dmcf-ptype="general"><strong>“착한 AI”가 아니라 ‘기준선’…사회가 합의할 원칙 설계한다</strong></p> <p contents-hash="880cdcca1ac7ee98784b0d03faa73d183147fbc603332ddc7e4b9bce3316e763" dmcf-pid="z7WXSw0HwD" dmcf-ptype="general">센터가 다루는 핵심은 단순히 ‘예의 바른 로봇’을 만드는 윤리 규범 정립이 아니다. 사회가 합의할 수 있는 대원칙을 세우고, 이를 상황별로 적용 가능한 세부 원칙으로 설계하는 일까지 포함한다. 특정 이념이나 가치관에 맞는 ‘착한 AI’를 만들기보다, 인간과 기계의 상호작용을 규정할 사회적 기준선을 구축하겠다는 취지다.</p> <p contents-hash="aeb784646a70673e6b78d67469cc354f1f3e6fcf71c33c740a9d4ec687eeeaea" dmcf-pid="qzYZvrpXwE" dmcf-ptype="general">김 센터장은 “AI는 우리의 규율 시스템에 맞춰 발전해온 기술인 만큼 기본적으로 지켜야 할 원칙이 필요하다”며 “구체적인 디렉션이 주어지는 순간 어느 한편에만 유리해질 수 있기 때문에, 일반적으로 합의 가능한 대원칙을 먼저 세워야 한다”고 말했다. 이어 “착한 AI라고 했을 때 ‘착한’의 의미를 어떻게 정의할 수 있느냐”며 “정의가 어렵기 때문에 인간 사회에서 공히 지켜져야 할 보편 원칙이 무엇인지 탐색하고, 구체적 상황에 맞는 세부 원칙을 따로 세울 필요가 있다”고 덧붙였다.</p> <p contents-hash="eec184675c822323ab8b246884ad0e9736d58abc07f8307d46d383f1689e851e" dmcf-pid="BqG5TmUZEk" dmcf-ptype="general">센터가 우선적으로 주목하는 연구 주제는 ‘책임 공백’이다. 김 센터장은 “우리는 통제할 수 없는 것에 대해서는 책임을 지지 않는데, 최신 AI 기술의 특징 중 하나가 통제권을 내려놓는 데 있다”며 “AI의 행동을 우리가 통제할 수 없고, 통제하지 않는 것이 점점 중요해지고 있다”고 설명했다. 개발자도 사용자도 AI가 문제를 일으켰을 때 책임을 회피하기 쉬운 반면, AI 자체에 책임을 물을 수도 없어 공백이 생긴다는 것이다.</p> <p contents-hash="a647ce02ef9caaf2d9f314887e8d050a891d31737792203892f80dade9ae8d52" dmcf-pid="bBH1ysu5wc" dmcf-ptype="general">그는 플랫폼 책임 논의가 하나의 사례가 될 수 있다고 봤다. 김 센터장은 “도로가 파여 있어 사고가 났다면 도로 관리 주체의 책임을 묻는 것처럼, 네이버나 구글 같은 플랫폼이 관리를 소홀히 한 부분에 책임을 져야 한다는 논의가 나올 수 있다”며 “구체적으로 누가, 어떻게, 어느 정도까지 책임져야 하는지 연구하고 있다”고 말했다.</p> <p contents-hash="59d89e20c00356a7525ae4cdcc0afae9df0aa7a2f38ae0992e3b8e62af89e468" dmcf-pid="KrJoM2kLwA" dmcf-ptype="general">이 같은 연구의 중요성은 앞으로 더 커질 것으로 내다봤다. 김 센터장은 “심리학계의 흥미로운 최신 연구 결과를 보면 사람들은 AI에게도 책임이 있다고 생각하는 경향이 나타난다”며 “AI에게 돈을 갚으라고 하거나 감옥에 가라고 하지는 못하지만, 성능 개선이 필요하다고 요구하는 식의 책임 귀속은 가능하다”고 했다. 이어 “사람들이 AI, 개발자, 사용자에게 어떤 종류의 책임을 어떻게 분배하는 게 적절한지에 대한 연구가 더 필요해질 것”이라며 “정책적으로도 의미가 있을 수 있다”고 덧붙였다.</p> <p contents-hash="b9a5ddaa14c2545c48921e43ce797af9fe03e4f27e3ed17c5ee6e4230072ee8d" dmcf-pid="9migRVEoEj" dmcf-ptype="general"><strong>수학 공부한 철학도, AI ‘기준선’ 설계에 뛰어들다</strong></p> <p contents-hash="d913c64efadc86a47c5950edf43a7f83acc33efdec32ddc3e4e7214b1f07eb09" dmcf-pid="2snaefDgEN" dmcf-ptype="general">김 센터장은 미국 미네소타대에서 철학 석사를 받던 시절, 부전공으로 수학을 택할 만큼 ‘수’에 관심이 깊었다. 철학 전공자이면서도 이공계 중심 연구대학인 KAIST에서 활동하게 된 배경이기도 하다.</p> <p contents-hash="be2f3659aa01baa9fa443aab5b938f2c8a0a5e5ce8e3767483fbefe95dd63f81" dmcf-pid="VOLNd4waEa" dmcf-ptype="general">그가 철학에 끌린 출발점은 ‘언어와 생각의 관계’였다. 김 센터장은 “고등학교 때 책을 읽으며 언어가 생각을 지배하는지, 생각이 있으니 언어가 생기는지 같은 질문이 가장 궁금했다”고 회상했다. 이런 물음을 탐구하기에 철학이 가장 적합한 학문이라고 느꼈다고 했다.</p> <p contents-hash="4a9d49889e001aa053c08020ed35cc5d6a243b379d579de12b4aab5eaadaa32b" dmcf-pid="fIojJ8rNmg" dmcf-ptype="general">특히 독일 철학자 프레게의 작업이 결정적이었다. 김 센터장은 “프레게는 언어 표현의 의미를 분석해 ‘수가 무엇인가’를 밝히려 했다”며 “수를 논리적 기반 위에서 다시 정의하고 체계를 세우려는 시도를 보며 더 공부해야겠다고 결심했다”고 말했다.</p> <p contents-hash="9c2261f6cf4ed0b705de04c5657c80e1c2760471880af81f94fa7bf6e7bf46aa" dmcf-pid="4CgAi6mjDo" dmcf-ptype="general">모호한 자연어를 수리논리로 정밀화하려 했던 프레게처럼, AI 시대의 공정성·책임·존엄 같은 가치를 ‘적용 가능한 세부 원칙’으로 정교하게 다듬는 작업이 센터의 지향점과 닮아 있다는 설명이다.</p> <p contents-hash="f50c7d704ec3408bf9303a70e9b0a36b8e44a0a2005a22c99c2acd86f1f61296" dmcf-pid="8hacnPsAwL" dmcf-ptype="general"><strong>AI가 ‘사고’하는지 정의 어렵다…핵심은 ‘비전’</strong></p> <p contents-hash="33b9b4f93df4fe9f18fe653493e0b772650dfbb99befa211277a428a7aee8b14" dmcf-pid="6lNkLQOcIn" dmcf-ptype="general">김 센터장이 탐구하고 싶은 문제 중 하나는 AI가 자연스러운 언어를 만들어내는 상황에서 이를 ‘사고’로 볼 수 있는지 여부다. 그는 “생각을 표현하는 문장을 생산하니 사고한다고 말할 수도 있지만, 그렇지 않다고도 할 수 있다”며 “존 설이 컴퓨터는 기호를 나열할 뿐 이해하지는 않는다고 했듯, 알고리즘에 따라 기호를 적절히 배열하는 것이 곧 생각의 표현은 아닐 수 있다”고 말했다.</p> <p contents-hash="60319c4d668ba2bb79801b8d02ec0b250ab0ca5334d4822c0034c005a7823467" dmcf-pid="PUTGhEFYri" dmcf-ptype="general">결국 더 중요한 것은 사고할 수 있는 인간이 AI를 어디로 이끄느냐라는 결론으로 이어진다. 김 센터장은 AI를 개발하고 사용하는 과정에서 비전이 필요하다고 강조했다. 그는 “미래를 선도하는 기업의 리더들은 전 지구에 어떤 기여를 할 수 있을지 비전을 세우고 그 아래 사람을 모은다”며 “아카데믹한 의미의 철학이 아닐지라도 모종의 철학을 가진 셈”이라고 말했다.</p> <p contents-hash="22ca730e44e00ee1c7ecfeb1b82ddc328a412c4e6dd7cb10f2fe1591eb7f89e1" dmcf-pid="QuyHlD3GmJ" dmcf-ptype="general">이어 “한국 사회가 패스트 팔로어를 넘어 세계적 리더로 부상하는 시점인 만큼, 비전을 설정하고 이를 추구하는 활동을 하는 스타 기업이 나와줘야 한다”고 덧붙였다.</p> <p contents-hash="94ebc2192a237c68376e10dd1b80be7b6cbc35eec76df41d2164fb733652534b" dmcf-pid="x7WXSw0HEd" dmcf-ptype="general">김아름 (autumn@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 '엔시티 유니버스'·미래소년 거쳐…新보이그룹 데일리:디렉션 출격 02-23 다음 "NCT 위시가 응원" 데일리:디렉션, '보플'·'라스타트'·데뷔 멤버 6人 완성체 오늘(23일) 데뷔 [종합] 02-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
