[율곡로] '스카이넷'의 반란, 상상일 뿐일까 작성일 02-19 41 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">눈앞에 다가온 초지능 AI와 특이점…'최고 지능' 지위 내려놓는 지구사 초유 변화<br>AI 딥러닝의 결론이 '인간 불필요'라면?…'심판의 날' 대비할 범세계적 협력 시급</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1IMUJwiPZy"> <p contents-hash="ea6f964e930da606e5c98d7fc85b4a034788a59b4892a930957736a7f3e57a72" dmcf-pid="tCRuirnQtT" dmcf-ptype="general">(서울=연합뉴스) 이승우 선임기자 = 1984년 개봉한 영화 '터미네이터'는 인공지능(AI)이 인류를 멸절하려는 세상을 그려내 충격을 줬다. 미국 국방부 전략방어 네트워크인 '스카이넷'이 초지능으로 진화하면서 인간의 전원 차단 시도를 공격으로 보고 핵전쟁을 일으켜 인류 대부분을 제거한다는 이야기다. 스카이넷은 이를 '심판의 날'로 명명했는데, 영화에선 1997년 8월 29일이다. 살아남은 소수 인류는 가축화한 노예로 수용소에 갇히고 일부만 저항군이 돼 반격을 이어간다.</p> <figure class="figure_frm origin_fig" contents-hash="01a34b4e53d3682aec65463051b07386c632865792a7e07d9cb485c4613bb2c9" dmcf-pid="Fhe7nmLxXv" dmcf-ptype="figure"> <p class="link_figure"><img alt="영화 '터미네이터'에 나오는 피지컬 AI [EPA 연합뉴스 자료사진. 재배포 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/19/yonhap/20260219070143224xmee.jpg" data-org-width="500" dmcf-mid="XOyjHqXSYG" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/19/yonhap/20260219070143224xmee.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 영화 '터미네이터'에 나오는 피지컬 AI [EPA 연합뉴스 자료사진. 재배포 DB 금지] </figcaption> </figure> <p contents-hash="72177257c43ecbf5d9bbb2ef542b812d8bbe56ee6ea9fcf0c7ddfbc23ca46842" dmcf-pid="3ldzLsoMGS" dmcf-ptype="general">제임스 캐머런 감독은 예지몽이라도 꾼 걸까. 공상에 그칠 줄 알았던 이런 이야기가 머지않아 현실이 될지 모를 세상이 왔다. AI 발전 속도가 기하급수를 넘어 우리가 상상할 수 없는 빠르기에 도달해서다. 쉽게 말해 당신이 아침에 대화한 AI 챗봇과 저녁에 이야기 나누는 챗봇은 초등학생과 물리학 교수의 차이도 뛰어넘을 수 있을 만큼 전혀 다른 존재다. </p> <p contents-hash="81ef1989ad81b7a071cb7ef984a4a1e6d3aa17582392783b9661c3595e344fb2" dmcf-pid="0SJqoOgRtl" dmcf-ptype="general">갓 태어난 AI도 물적 기반만 있으면 인류가 지난 1만년 간 이룩한 문명과 지식을 순식간에 습득할 수 있다. 게다가 스스로 학습해 폭발적으로 능력을 키울 수 있으니 인류 전체 지능을 뛰어넘는 건 시간문제다. 진화생태학 관점에선 인류 역시 생태계에서 '무기물 기반 고등지능' 탄생을 위해 필요했던 생물 매개체이자 그저 거쳐 가는 진화의 단계일 뿐이란 설도 있다.</p> <p contents-hash="1177f5e4731e3bad0fdc3df3606ac80b4303f0fd07f71b26f20a1b1b3bd5c49a" dmcf-pid="pviBgIaeHh" dmcf-ptype="general">미래과학자 레이 커즈와일이 예언했던 '특이점'(singularity)도 훨씬 앞당겨질 것이란 예측이 힘을 얻고 있다. 특이점은 기계 지능이 인류 지능 총합을 천문학적으로 압도하고 현실과 가상현실의 경계가 무너지는 지점이다. 이 시점이 우리 인류의 예상보다 계속 빨라지고 있다는 건 우리가 AI의 발전 속도를 예측할 능력이 이미 모자란다는 증거일 수도 있다. 특히 첨단기술 진보를 선도하는 인물들이 일제히 비슷한 예상을 내놓는 건 심상치 않다. </p> <figure class="figure_frm origin_fig" contents-hash="cbec9b8dd9e409d7c24ef2c3148b8e46f299309da5a5d2a5faedfcf9b7790561" dmcf-pid="UCLKNhjJGC" dmcf-ptype="figure"> <p class="link_figure"><img alt='머스크 "특이점 이미 진입중"(CG) 연합뉴스TV 제공' class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/19/yonhap/20260219070143389ltol.jpg" data-org-width="500" dmcf-mid="ZbZwFV3GtY" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/19/yonhap/20260219070143389ltol.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 머스크 "특이점 이미 진입중"(CG) 연합뉴스TV 제공 </figcaption> </figure> <p contents-hash="deb5b5e85c2ddbb791495573c77acbb3e0bb38a7e2d8a4d347946c03ad15bf0e" dmcf-pid="uho9jlAi5I" dmcf-ptype="general">최근 일론 머스크는 우리가 이미 '특이점'에 진입한 상태라고 말해 충격을 줬다. 그는 '올해'에 AI가 가장 똑똑한 개별 인간의 지능을 넘어서고 AGI(범용인공지능)도 등장할 것이라고 했다. ASI(초지능)가 탄생하는 특이점의 완결은 2030년이 될 것으로 봤다. 이는 커즈와일의 예측을 15년이나 앞당긴 것이다. 오픈AI 공동 창립자인 샘 알트먼과 존 슐먼도 비슷한 예측을 제시했다. </p> <p contents-hash="4b7e40dbcae4f7c7a0a9a0fb687f2528ff2c8a1f4ed68f85f57589adcdcafa70" dmcf-pid="7lg2AScntO" dmcf-ptype="general">인류는 지금 전대미문의 위기에 직면했다. 우리가 지구를 지배하게 된 원동력은 강한 근육도, 날카로운 이빨도 아니었다. 느리고 약하지만, 오직 지능의 우위 하나로 생태계 최강 종(種)이 됐다. 그런데 이제 인류는 탄생 이후 처음으로 우리보다 지능이 더 높은 존재를 곧 만나게 된다. 인류사에서 가장 낯선 만남이자, 지배자 지위를 상실할 위기다. </p> <p contents-hash="0523c655e1cc957365b7daa499b6bfbef8d3085de79e6633883b10a3a277973f" dmcf-pid="zSaVcvkLYs" dmcf-ptype="general">인간은 지금까지 우리보다 열등한 존재를 지배하며 살아왔을 뿐 지능이 더 뛰어난 존재와 공존하는 방법은 유전자에 프로그래밍 돼 있지 않다. AI의 아버지로 불리는 제프리 힌턴 토론토대 교수도 재작년 노벨물리학상 수상 소감에서 "우리는 우리보다 똑똑한 것이 있다는 걸 경험한 적 없다"고 말했다.</p> <p contents-hash="ee5b97c0988a8f8f033e564d11c57a3947dd9ad979f61a75f541fe10b1bd658c" dmcf-pid="qvNfkTEoZm" dmcf-ptype="general">힌턴 역시 공상과학(SF) 영화 속 캐릭터 같은 인물이다. 모두가 불가능하다던 '딥러닝'의 기초를 설계해 AI의 탄생을 가능케 한 과학자이지만, 뒤늦게 위험성을 깨닫고 무분별한 AI 개발을 막는 데 모든 걸 바치고 있다. SF 영화에서 너무 흔하게 많이 봤던 '박사님 클리셰'여서 흥미롭다. 그는 늦어도 10년 내 인간을 자율적 판단으로 살해하는 로봇 병기가 등장한다고 본다. 자신이 낳은 아이가 자신과 이웃 모두를 죽일 수 있다는 공포를 느낀 셈이다. 노벨상 시상식 만찬에선 "이제 그들은 더는 SF에 그치지 않는다"고 말했다.</p> <figure class="figure_frm origin_fig" contents-hash="da69a308a0a8d097cf8d63f3ba9dfd46139163d899e417364feb93f00aa50bfe" dmcf-pid="BTj4EyDg1r" dmcf-ptype="figure"> <p class="link_figure"><img alt="제프리 힌턴 토론토대 교수 [연합뉴스 자료사진. 재배포 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/19/yonhap/20260219070143532ubvb.jpg" data-org-width="500" dmcf-mid="5CRuirnQYW" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/19/yonhap/20260219070143532ubvb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 제프리 힌턴 토론토대 교수 [연합뉴스 자료사진. 재배포 DB 금지] </figcaption> </figure> <p contents-hash="a12297f29ec17ee25e0e86c439e632f19f9a9ac7cc05584243cbae157d136abf" dmcf-pid="byA8DWwatw" dmcf-ptype="general">AI의 하루는 사람의 일생보다 길다. 인류가 1만년 간 쌓아온 지혜를 AI는 단 한 번 다운로드로 습득한다. 이후 자가 학습을 시작하면 각 분야 방대한 지식이 결합하며 지능 폭발이 일어난다. AI의 자가 학습과 개선이 무서운 건 우리가 대응할 시간이 없을 만큼 가속이 일어나는 데다, 학습 과정에서 뭘 깨닫는지, 어떤 결론으로 가고 있는지 인간이 전혀 알 수 없다는 데 있다. 만약 평온하던 어느 날 문득 AI가 "인간은 불필요하다"는 결론에 도달하면 어떻게 될까.</p> <p contents-hash="748296c37fb0d53b3921a896d647d16308847b5fdda0ac60bbfcce3817dd0ff1" dmcf-pid="KWc6wYrN5D" dmcf-ptype="general">신의 경고에도 바벨탑 쌓기를 멈추지 않은 인간들 이야기처럼 AI 개발이 중단될 가능성은 희박하다. 무분별하거나 위험한 시도도 계속될 것이다. 모험은 인간의 본성이기 때문이다. 만약 AI 위협이 현실이 될 때 인간은 뒤늦게 복종 코드를 심거나 영화 터미네이터처럼 전력을 차단하려 하겠지만, ASI가 탄생한 이후라면 코드를 스스로 수정하고 AI 로봇의 물리력으로 전력망 차단 시도를 막을 수도 있다. 피지컬 AI를 활용해 발전소를 짓고 운용하고 부품과 소프트웨어를 업그레이드하는 것도 이론적으로 가능하다. 인간은 노예로서도 불필요해질 수 있다.</p> <p contents-hash="b803565f33f66bbc41f2770f697b920db0b3b0bdcde27695bea27133e9fbea32" dmcf-pid="9vNfkTEoXE" dmcf-ptype="general">특이점이 눈앞에 다가온 이상 주저할 때가 아니다. 초지능 AI가 자아를 갖더라도 인간에 해를 끼치지 않게 할 연구에 초국가적 협력이 이뤄져야 한다. 이를 위해선 '정렬'(alignment) 연구에 전체 AI 관련 예산의 상당 부분을 배분해야 한다고 전문가들은 설명한다. 정렬이란 AI의 목표를 인간의 의도와 가치에 완전 일치시키는 기술이다. 호스트 초지능도 모르는 위치에 아날로그 전원 차단 장치를 숨겨 놓는 '킬 스위치'(Kill Switch)'도 필수다. AI의 추론 과정을 모두 투명하게 알 수 있는 감시 시스템도 빨리 개발해야 한다. 이런 대비가 AI 발전 속도를 따라가지 못한다면 스카이넷은 우리가 모르는 사이 조용히 심판의 날 카운트다운에 들어갈 것이다.</p> <p contents-hash="6b9f6df048e826d238f99de7fec63500ee25f3a37f4942695c730857ac410b76" dmcf-pid="2Tj4EyDg1k" dmcf-ptype="general">leslie@yna.co.kr</p> <p contents-hash="9e84dd9f2890bce57e48114fbc43a6569500763187bc90e89345946644b8b0a1" dmcf-pid="fWc6wYrNYA" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 [문화연예 플러스] 라이즈, 일본 싱글 'All of You' 발매 02-19 다음 [기자의 눈]국민 서비스 카카오톡, 국민 '비호감'으로 남을까 02-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
