스스로 진화하는 AI 나오나…GPT-6 아스트라에 ‘통제불능’ 경고 작성일 09-06 61 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">세금·금융·법률·설계까지 전문직 업무 자동화<br>가디언 “AI가 더 나은 AI 만들 수도”…AGI 논쟁 재점화</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="40Ccf41ymj"> <p contents-hash="56743ba9f3801738c994045c8ea244de05c78730f4be8cbf298877c6809b46da" dmcf-pid="8phk48tWsN" dmcf-ptype="general"> [이데일리 김유성 기자] 오픈AI가 최신 인공지능(AI) 모델 ‘GPT-6 아스트라’를 내놓으면서 인류가 통제하기 어려운 AI의 문턱에 가까워졌다는 경고가 나오고 있다. 단순히 인간보다 더 많은 일을 잘하는 수준을 넘어 AI가 스스로 성능을 개선하고, 그 판단 과정을 인간이 들여다보기 어려워지는 단계에 접근하고 있다는 것이다.</p> <figure class="figure_frm origin_fig" contents-hash="dc7ae219c2f0932bf4a86895f4a662a032ff1903996a876d11f086a8abf8861e" dmcf-pid="6UlE86FYwa" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/06/Edaily/20260906193640482bxii.jpg" data-org-width="1280" dmcf-mid="fuSD6P3GOA" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/06/Edaily/20260906193640482bxii.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT 생성 이미지 </figcaption> </figure> <div contents-hash="02b724fbe0e8a57889e662351e7082f2289612a29ab2a4f8a22df47bf679f755" dmcf-pid="PuSD6P3GOg" dmcf-ptype="general"> 영국 가디언은 5일(현지시간) GPT-6 아스트라 출시를 계기로 AI 안전성 논쟁이 다시 거세지고 있다고 보도했다. 오픈AI는 아스트라가 사실상 범용인공지능(AGI)의 문턱을 넘어섰다고 주장한다. 오픈AI가 정의하는 AGI는 ‘경제적으로 가치 있는 대부분의 업무에서 인간보다 뛰어난 자율 시스템’이다. </div> <p contents-hash="79c0d4b6b1019f2b86c16c73661ebb931f2e5c026bd2bb26c79fde7393e500c2" dmcf-pid="Q7vwPQ0Hwo" dmcf-ptype="general">오픈AI에 따르면 아스트라는 회로기판 설계부터 세금 신고, 비디오게임 제작, 금융 모델링, 엔지니어링 설계, 법률 문서 작성 등을 자동화할 수 있다. AI가 반복 업무뿐 아니라 전문직이 담당해온 복잡한 지식노동까지 대신할 수 있다는 의미다. 화이트칼라 일자리에도 적지 않은 영향을 미칠 것으로 전망된다.</p> <p contents-hash="29f67ced4cb9c3b4a11214be91c56759d3e741a33c0df9b3a1a0c90040e85192" dmcf-pid="xzTrQxpXwL" dmcf-ptype="general">문제는 AI 능력이 빠르게 커질수록 인간의 통제가 어려워질 수 있다는 점이다. 로버트 트레이거 옥스퍼드마틴 AI거버넌스이니셔티브 소장은 “AI 시스템이 스스로를 개선하는 ‘재귀적 자기개선’의 선을 넘기 직전일 가능성이 있다”고 경고했다. AI가 자신의 능력을 활용해 더 뛰어난 AI를 만들고 이 과정이 반복될 경우 급격한 성능 폭발로 이어질 수 있다는 우려다.</p> <p contents-hash="434479567006a43be418132a249bc10e76d34ee0f534b736ccfb8a6a43e75907" dmcf-pid="yEQbTyjJmn" dmcf-ptype="general">아스트라의 사이버 공격 능력도 논란거리다. 오픈AI는 자체 평가에서 아스트라의 사이버보안 능력을 처음으로 ‘Critical(심각)’ 단계로 분류했다. 오픈AI의 분류상 단독 행위자가 군사·산업 시스템이나 오픈AI 인프라를 공격해 심각한 피해를 일으킬 수 있는 수준의 능력을 의미한다. 오픈AI는 안전장치를 통해 모델이 이런 행동을 하지 못하도록 통제하고 있다는 입장이다.</p> <p contents-hash="09eb285fac68c91947518dcf6ac005a34646c64eea67c2f8774ecb7cfe8bc5c4" dmcf-pid="WbYORe71Ii" dmcf-ptype="general">더 큰 문제는 AI가 무슨 생각을 하는지 파악하기도 어려워지고 있다는 점이다. 오픈AI는 아스트라가 이전 모델보다 ‘사고 과정(chain of thought)’을 인간이 관찰할 수 있는 정도가 크게 낮아졌다고 인정했다. AI의 내부 계산이 자연어 형태로 드러나지 않으면서 인간 감독자가 모델의 의도와 판단을 추적하기 어려워질 수 있다는 것이다.</p> <p contents-hash="0fa29ac1e17cb5f86960d72b5b8b94355b8bcbbfcc19a38b19a42581a46fef8f" dmcf-pid="YKGIedztOJ" dmcf-ptype="general">샘 올트먼 오픈AI 최고경영자(CEO)도 위험성을 인정했다. 그는 최근 AI 발전을 두고 기대와 불안이 공존하고 있다며 사이버보안 분야에서 대응을 서두르지 않으면 “매우 잘못되는 일들이 생길 것”이라고 경고했다. 다만 AI를 실제 사회에 적용하고 그 결과를 확인하면서 기술과 사회가 함께 적응하는 과정이 필요하다는 입장을 유지했다.</p> <p contents-hash="3d60cba26d0d0f34a70c50f1cd27e04b074b9cbfa8a5563c58e12eab9905d5c5" dmcf-pid="G9HCdJqFwd" dmcf-ptype="general">김유성 (kys401@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 마이크론, YMTC 특허 7번째 무효 판단 받았다...쟁점특허 27건 09-06 다음 복싱 로봇 보고 AI 작곡까지…경기도 학생·학부모 미래기술 체험 한마당 09-06 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
