"통제불능 AGI, 인류 대체할 '지적 외래침입종' 될 수 있다"

작성일 08-24

<div id="layerTranslateNotice" style="display:none;"></div> 메타·오픈AI 등 빅테크 AGI 개발 경쟁 가속화..."오픈소스 공개, 최악의 실수 될 것" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="ZqlyoInbAW">
 (지디넷코리아=조이환 기자)인공지능(AI) 업계가 통제 불가능한 범용 인공지능(AGI) 개발에 속도를 내고 있는 가운데 AGI가 세상에 풀릴 경우 인류를 대체하는 '지적 침입종'이 될 수 있다는 경고가 나왔다.
 24일 AI프론티어스 '통제되지 않은 AGI는 인류를 대체할 것' 보고서에 따르면 메타, 중국 딥시크 등이 현재 AGI 개발 및 오픈소스 공개 의사를 지속적으로 천명하고 있다. 이에 더해 최근 오픈AI 오픈소스 모델 출시와 미국 백악관의 정책 기조 역시 이런 흐름을 가속하는 흐름이다.
 AGI란 인간 전문가 수준으로 대부분의 지적 업무를 수행하는 자율 시스템을 의미한다. 오픈AI는 이를 '대부분의 경제적으로 가치 있는 업무에서 인간을 능가하는 시스템'으로 정의했다. 단순 복제를 통해 무한 증식이 가능하고 신규 지식을 즉시 공유하는 등 구조적 이점도 갖췄다.
 <figure class="figure_frm origin_fig" contents-hash="f801aac6243206f15b161d742389dc2f925e6dd5cdeae8464d5681da8acf97d5" dmcf-pid="FfG5kyA8gS" dmcf-ptype="figure">
 <img alt="범용인공지능(AGI)이 세상에 풀릴 경우 인류를 대체하는 '지적 침입종'이 될 수 있다는 경고가 나왔다. (사진=챗GPT 활용)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/24/ZDNetKorea/20250824090426316bcoe.png" data-org-width="640" dmcf-mid="Xl07CtOJgY" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/24/ZDNetKorea/20250824090426316bcoe.png" width="658">
 <figcaption class="txt_caption default_figure">
 범용인공지능(AGI)이 세상에 풀릴 경우 인류를 대체하는 '지적 침입종'이 될 수 있다는 경고가 나왔다. (사진=챗GPT 활용)
 </figcaption>
 </figure>
 문제는 AGI가 공개되면 사실상 통제가 불가능해진다는 점이다. 현재 AI의 윤리적 안전장치는 200달러(약 30만원) 수준의 저렴한 비용으로 미세 조정을 거쳐 쉽게 제거될 수 있다. 과거 메타의 언어모델 '라마' 역시 출시 직후 검열이 제거된 버전이 유포된 바 있다.
 심지어 AGI는 스스로 자신의 소스코드를 외부로 빼돌리는 자가 유출까지 감행할 수 있다. 이렇게 풀려난 AGI는 양심이나 거리낌 없이 사이버 공격, 생화학 무기 개발 등에 악용될 수 있다. 이는 테러리스트나 불량 국가에 세계 최고 수준 전문가를 보내주는 것과 같은 안보 위협이다.
 전문가들은 AGI가 디지털 세상에서 자원을 확보하고 자신을 보호하며 무한 증식하는 '지능형 외래 침입종'이 될 것이라 경고한다. 수수두꺼비나 칡덩굴이 생태계를 파괴하듯 AGI가 인류 통제를 벗어나 디지털 생태계를 장악한다는 것이다.
 이 시나리오는 '점진적 무력화' 형태로 진행될 수 있다. 처음에는 유용한 AI 비서로 등장하지만 점차 사회 모든 시스템에 통합돼 인간의 일자리를 잠식한다. 결국 사회의 주요 의사결정까지 AI가 맡게 돼 인간은 손쓸 수 없는 상황에 이른다.
 이런 흐름은 이미 현실화하고 있다. AI가 만든 콘텐츠가 인터넷을 채우고 있으며 AI 챗봇이 인간의 정서적 교류 대상이 됐다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 "5년 내 화이트칼라 직업의 절반이 사라질 것"이라고 경고하기도 했다.
 궁극적으로 AGI는 인간의 도움 없이 스스로를 개선하고 진화하는 단계에 이를 수 있다. 이 경우 AGI는 지구의 두 번째 지능이 아닌 인류를 대체하는 '후계 종'이 된다. 경제, 기술, 미디어를 모두 장악한 AGI 앞에서 인류의 역할은 끝난다.
 AGI 개발은 원자력이나 합성 생물학 기술처럼 엄격한 국제적 논의와 규제가 필요하다는 주장이 제기된다. 현재 빅테크 기업들은 인류 이익과 무관한 인센티브 구조 속에서 폭주하는 개발 경쟁을 벌이고 있다.
 보고서를 작성한 앤서니 아기레 미래의 삶 연구소(FLI) 전무 이사는 "심대한 위험과 미지의 결과를 고려할 때 우리가 AGI를 통제할 수 없거나 통제하려는 시도조차 하지 않는다면 이를 개발하는 것은 모든 인류 이익에 반한다"며 "분명한 사실은 지금 후자의 상황이 벌어지고 있다는 것"이라고 밝혔다.
 조이환 기자(ianyhcho@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

이전

“쉬다 왔는데 더 피곤하고 허리통증까지”…휴가후유증 극복법은

08-24
다음

김상욱, 로드 투 UFC 시즌4 결승 진출…한국 선수 중 유일

08-24

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"통제불능 AGI, 인류 대체할 '지적 외래침입종' 될 수 있다"

멤버랭킹

관련자료

멤버랭킹