핵폭탄 만들었을 때처럼...'인간 통제력 상실' 초지능 AI 위기 [지금이뉴스]

작성일 08-04

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="8RQD9gyjvI">
          <div class="video_frm" dmcf-pid="6exw2aWAyO" dmcf-ptype="kakaotv">
           <div class="layer_vod">
            <div class="vod_player">
             <iframe allowfullscreen class="player_iframe" dmcf-mid="f9S7r1P3yh" dmcf-mtype="video/kakaotv/owner" dmcf-poster-mid="4L6kbLvavC" frameborder="0" height="370" id="video@f9S7r1P3yh" poster="https://t1.daumcdn.net/news/202508/04/YTN/20250804100415887jrsa.jpg" scrolling="no" src="//kakaotv.daum.net/embed/player/cliplink/457019649?service=daum_news&amp;m_use_inline=true&amp;ios_allow_inline=true&amp;m_prevent_sdk_use=true&amp;wmode=opaque" width="100%"></iframe>
            </div>
           </div>
          </div>
          <p contents-hash="1191ec6b6880037a9ffaab8dffbccf46e60937cd677a5467882232fc7d8ae283" dmcf-pid="PdMrVNYcys" dmcf-ptype="general">인공지능(AI) 기술의 급격한 발전으로 인간 수준을 넘어선 초지능(Super Intelligence) 개발 단계에 진입했다는 주장이 나오면서 '인간의 통제력 상실'이란 근본적 우려가 제기되고 있습니다. </p>
          <p contents-hash="2d1100cd2ac6cb426ae23d47fe4af43e195362fcc3d82b58cbd5985cc530f28a" dmcf-pid="QndO8cXDCm" dmcf-ptype="general">2일 IT 업계에 따르면 마크 저커버그 메타 CEO는 최근 연례 서한과 페이스북 등을 통해 초지능 구현이 가시권이라고 선언했습니다. </p>
          <p contents-hash="cd5c960e346602592b807ee291efdaa066d2bd3b0a172f5da0cf080255b08ade" dmcf-pid="xLJI6kZwCr" dmcf-ptype="general">저커버그는 "지금까지 몇 달간 동안 AI 시스템이 스스로를 개선하는 모습을 목격했다"며 "(페이스북·인스타그램 등에서 수많은 AI 알고리즘을 살핀 결과) '초기 자기개선'(self-improvement)의 징후를 보이기 시작했다"고 밝혔습니다. </p>
          <p contents-hash="3bc8a44f2ab24e58f3db5eef02fc1d2a367c875f8b07f04599206c6a0d9f234e" dmcf-pid="y1XVS7iBTw" dmcf-ptype="general">이어 "초지능은 다른 차원의 새로운 안전 우려를 제기할 것이기에 위험을 완화하기 위해 엄격해야 한다"며 "초지능 기술 혜택은 전 세계에 공유될 것이지만, 오픈소스로 공개하는 것은 신중히 선택해야 한다"고 선을 그었습니다. </p>
          <p contents-hash="532c4e76367930a1c5b90c782efe87cd93142e0a64c11b3961baf52a38b334a6" dmcf-pid="WtZfvznbyD" dmcf-ptype="general">메타가 지금까지 라마(Llama) 시리즈를 통해 견지한 오픈소스 정책에서 폐쇄형 전략으로 전환하겠다는 중대 변화를 의미합니다. </p>
          <p contents-hash="b31fd192c94f6f5edbb7e678a4cf4dfb55874b9f3732e0ecee72ba33ba486ba7" dmcf-pid="YF54TqLKhE" dmcf-ptype="general">샘 올트먼 오픈AI CEO도 오픈웨이트(오픈소스) 모델을 올해 7월 공개한다고 예고했다가 추가 안전 테스트가 필요하다며 출시를 연기했습니다. </p>
          <p contents-hash="71c1fd52c5bf4c7ecbc1b90e70fa89c7db03c687c6682eebb8d91bb6b1da7e37" dmcf-pid="G318yBo9Wk" dmcf-ptype="general">올트먼은 최근 팟캐스트 방송(This Past Weekend)에 출연해 "차세대 통합모델 'GPT-5'(GPT시리즈+o시리즈) 테스트 중 두려움을 느꼈다"며 "맨해튼 프로젝트와 같은 순간이었다"고 털어놨습니다. </p>
          <p contents-hash="4894115dc3c006b7b34f55d11d1a0a9b1e9eddafe6db15f08e3010a2b1cd0f04" dmcf-pid="H0t6Wbg2vc" dmcf-ptype="general">그는 "테스트 일부 세션에선 매우 긴장했고 시작할 때 방 안에 어른이 없는 것 같은 느낌을 받았다"며 "AI 개발자들도 핵폭탄을 만든 맨해튼 프로젝트 과학자들처럼 '우리가 뭘 만든 거지'라는 질문을 던지게 될 수도 있을 것"이라고 말했습니다. </p>
          <p contents-hash="68b859b46841a068f2ed1459366245eb5b0b947ffc250e6bf3afafe85d43fdb9" dmcf-pid="XpFPYKaVvA" dmcf-ptype="general">AI 관련 글로벌 리더와 학계는 오래전부터 AGI 또는 초지능 구현 시 인간의 통제력 상실 위험을 강하게 강조해왔습니다. </p>
          <p contents-hash="96653d396b3e986404777965933ab184617aa5a51045f341964ec14a6e6f98a3" dmcf-pid="ZU3QG9NfCj" dmcf-ptype="general">앞파폴드 개발 공로로 노벨화학상을 수상한 데미스 허사비스 구글 딥마인드 CEO는 지난 6월 CNN과의 인터뷰에서 AI 시스템의 통제 불능 상황이 일자리 대체 문제보다 더 심각한 결과를 초래할 수 있다고 경고했습니다. </p>
          <p contents-hash="b0950d349924d1363e0d5687061451c70f126f7ebd47acee680c26bde7cbb88d" dmcf-pid="5wkHLlzTvN" dmcf-ptype="general">허사비스는 "나쁜 의도를 가진 사람들이 AI를 악용할 가능성이 있다"며 "AI 기술이 선한 목적에만 활용되도록 글로벌 합의가 필요하다"고 주장했습니다. </p>
          <p contents-hash="ca6136c90a6954aac41adcbe9cb4ef3e5e87e8c591d71b9ba52e75933d4d762c" dmcf-pid="1rEXoSqyCa" dmcf-ptype="general">맥스 테그마크 MIT 물리학과 교수는 MIT 학생 3명과 공동 저술한 논문에서 "초지능 AI가 인간 통제를 벗어날 확률은 90% 이상"이라며 선도 AI 기업들이 철저한 책임감을 가질 것을 촉구했습니다. </p>
          <p contents-hash="cac222484c70c650cddd66204981ec96b489ed5f17ce342d168de32616bfce71" dmcf-pid="tmDZgvBWSg" dmcf-ptype="general">기자ㅣ김선희 </p>
          <p contents-hash="c4cf78dadee03306dd06dd7506e1f90eb69af4ce9f666fe210051fb31d99b77d" dmcf-pid="Fsw5aTbYvo" dmcf-ptype="general">제작 | 이 선 </p>
          <p contents-hash="e1532f360646c86ea333c47016d0b2ef9e7d78ab7f5360de4a2827f52b504412" dmcf-pid="3Or1NyKGTL" dmcf-ptype="general">영상출처ㅣ인스타그램@zuck </p>
          <p contents-hash="175f3e4256f55fc45f9fcbad0997fe771fc7aa4bb6ac67bd86f567d8b5caf52a" dmcf-pid="0ImtjW9HWn" dmcf-ptype="general">#지금이뉴스 </p>
          <p contents-hash="e18fd4a31a6564ce17688964dbdb900396eb8c398f8ab445f07766456d133c61" dmcf-pid="pCsFAY2XCi" dmcf-ptype="general">[용어설명] </p>
          <p contents-hash="7d51c5ad4a6ea38b81243396689e027a4af6837a990cc74f3b9da8d00c6cdf81" dmcf-pid="UhO3cGVZlJ" dmcf-ptype="general">■ 초지능(Super Intelligence) </p>
          <p contents-hash="8df49881abafcdabf3244bf3cfbce4c31458c1a90c45c00553687e725dafd89b" dmcf-pid="ulI0kHf5Td" dmcf-ptype="general">초지능(Super Intelligence)은 인간의 지능을 모든 분야에서 뛰어넘는 인공지능 시스템을 말한다. 과학·예술·의학·공학·사회·감정 등 대부분 영역에서 인간보다 월등한 문제 해결 능력과 창의성·추론 능력을 갖출 것으로 보인다. </p>
          <p contents-hash="4db79cdd8ae6329f07257fc080a93772bb80e48b52118f3dd9cce247538740e3" dmcf-pid="7YTqsFxpye" dmcf-ptype="general">■ 자기개선 </p>
          <p contents-hash="62914cc461e0af49275d050698d07f668a95a9d7b54ea1b74dcdcf2dcaa152b5" dmcf-pid="zGyBO3MUhR" dmcf-ptype="general">자기개선(Self-Improvement)이란 인공지능(AI) 모델이 인간의 개입 없이 내부 피드백이나 자체 학습 메커니즘을 통해 점진적으로 성능·능력을 향상시키는 과정을 말한다. 마크 저커버그가 언급한 초기 자기개선의 징후는 페이스북·인스타그램 등에서 작동 중인 여러 알고리즘이 자체적으로 학습 루프를 돌리며 스스로 최적화를 시도했다는 의미다. </p>
          <p contents-hash="155db67375829163835d02251c5050396d74d5929df22639ed15da93f6717857" dmcf-pid="qHWbI0RuCM" dmcf-ptype="general">■ AGI </p>
          <p contents-hash="08f12f564755aff96bad050a14594cdbb3858c1fbc623619015a961623332b78" dmcf-pid="BXYKCpe7hx" dmcf-ptype="general">AGI(Artificial General Intelligence·범용인공지능)은 인간과 유사한 수준의 지능을 가진 인공지능으로 인간이 수행할 수 있는 모든 지적 작업을 이해하고 학습할 수 있는 능력을 갖춘 시스템을 말한다. AGI는 특정 분야에 한정된 현재의 좁은 인공지능(Narrow AI)과 달리 다양한 분야와 상황에 유연하게 적응하며 복잡한 문제 해결하고 창의적 작업·추론·학습·이해 등 인간의 인지 능력을 포괄적으로 모방하는 인공지능을 목표로 한다.</p>
          <p contents-hash="e3668036107f1e5bf41f1ea9c5eaed68bf94a9679848138a5a0a6f93c34d3d14" dmcf-pid="bZG9hUdzhQ" dmcf-ptype="general">[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © YTN. 무단전재 및 재배포 금지.</p>

이전

시내버스 다운로드 속도 1.5배 빨라진다…SKT, ‘와이파이 7’ 시범 적용

08-04
다음

배경훈 장관 "APEC 회원국들과 '모두의 AI' 향해 협력하겠다"

08-04

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

핵폭탄 만들었을 때처럼...'인간 통제력 상실' 초지능 AI 위기 [지금이뉴스]

멤버랭킹

관련자료

멤버랭킹