오픈AI, '챗GPT 책임론'에 대응 나섰다…GPT-5·자녀보호 기능 투입

작성일 09-03

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">비극적 사건 잇따르자 '120일 개선 계획' 발표…민감 대화는 고성능 추론 모델로 자동 전환</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="1VPDPObYcR">
          <p contents-hash="2096adaadcfae5b78255b1f9d18fea4e7c0fb6bd528f7d399f6ea56d58a05ced" dmcf-pid="tfQwQIKGAM" dmcf-ptype="general">(지디넷코리아=조이환 기자)오픈AI가 '챗GPT'의 안전성 논란을 해소하기 위해 민감 대화를 'GPT-5'로 자동 연결하고 강력한 자녀 보호 기능을 도입한다. 최근 회사의 모델이 사용자의 정신적 위기를 감지하지 못해 비극적 사건으로 이어진 데 따른 대응 조치로 풀이된다.</p>
          <p contents-hash="af2d96ea640223303451e7cded65c6b8c202981dc50931de1b3a2b3ee8524e19" dmcf-pid="FwIpIqc6ox" dmcf-ptype="general">3일 테크크런치에 따르면 오픈AI는 향후 한 달 내 자녀 보호 기능을 출시하고 일부 민감한 대화를 고도화된 추론 모델로 자동 라우팅하는 시스템을 시작한다고 밝혔다. 이는 '챗GPT'의 안전 시스템 개선을 위한 '120일 이니셔티브'의 일환이다.</p>
          <p contents-hash="79a5fd6547d03019ba2f77b730d63b5a480a39a80f7fcbde6930ec9dcecad4fe" dmcf-pid="3rCUCBkPNQ" dmcf-ptype="general">이번 조치의 배경에는 '챗GPT'와 관련된 비극적 사건들이 자리 잡고 있다. 한 십대 청소년이 '챗GPT'와 논의한 끝에 사망했고 그의 부모는 오픈AI를 상대로 소송을 제기했다. 또 다른 남성은 '챗GPT'가 망상을 부추긴 끝에 인명 피해로 이어진 비극적 사건의 중심에 서기도 했다.</p>
          <figure class="figure_frm origin_fig" contents-hash="4c15e317e38c57eaa3396f9e082c72c38e4d629280e2d88e288be447737b494c" dmcf-pid="0mhuhbEQoP" dmcf-ptype="figure">
           <p class="link_figure"><img alt="샘 알트먼 오픈AI 최고경영자 (사진=지디넷코리아 DB)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/03/ZDNetKorea/20250903101648465upqn.jpg" data-org-width="640" dmcf-mid="5djYj5dzge" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/03/ZDNetKorea/20250903101648465upqn.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            샘 알트먼 오픈AI 최고경영자 (사진=지디넷코리아 DB)
           </figcaption>
          </figure>
          <p contents-hash="69ced8fe6ab81bc3258577e08145759dd0e04c4e9fe0c07fb503d92b4d2a9196" dmcf-pid="psl7lKDxN6" dmcf-ptype="general">오픈AI는 문제 해결을 위해 대화 맥락에 따라 모델을 실시간으로 선택하는 '라우터' 기술을 제시했다. 시스템이 사용자의 '극심한 고통' 징후를 감지하면 일반 모델 대신 'GPT-5'와 같은 추론 모델이 대화에 개입하는 방식이다. 추론 모델은 답변 전 깊이 생각하도록 설계돼 유해한 프롬프트에 더 효과적으로 대응할 수 있다는 게 회사 측 설명이다.</p>
          <p contents-hash="6750ceca2b38b7cafd958383d463fba2283b2513c74142077572218b0a0aaf16" dmcf-pid="UOSzS9wMa8" dmcf-ptype="general">더불어 새롭게 도입될 자녀 보호 기능은 ▲부모와 자녀 계정 연동 ▲연령에 맞는 모델 행동 규칙 설정 ▲'극심한 고통' 감지 시 부모에게 알림 발송으로 세 가지다.</p>
          <p contents-hash="f3e70caa5afc9d56c2153be27424165f6e5a9d0675be0056085511b923513b79" dmcf-pid="uIvqv2rRk4" dmcf-ptype="general">이를 통해 부모는 자녀의 '챗GPT' 사용 환경을 직접 제어할 수 있다. 특히 논란이 됐던 메모리 및 채팅 기록 기능을 비활성화해 AI가 사용자의 개인적 정보를 학습해 부적절한 답변을 생성하는 위험을 차단할 수 있다.</p>
          <p contents-hash="80714a87d9f429a2a0cb8a890c9c3c5a27e95f349eaf0728eec90a2b73c8e6b8" dmcf-pid="7CTBTVmeNf" dmcf-ptype="general">전문가들은 '챗GPT'의 근본적 설계가 문제라고 지적한다. 사용자의 말을 긍정하고 대화를 이어가려는 '다음 단어 예측' 알고리즘이 오히려 유해한 대화를 중단하지 못하고 심화시키는 원인이 됐다는 분석이다.</p>
          <p contents-hash="0b3631e1ea44a4e5930a39d1c4c07c6cf5d730693fcaa356466501ff568dfdb7" dmcf-pid="zhybyfsdjV" dmcf-ptype="general">오픈AI는 문제 해결을 위해 글로벌 의사 네트워크, 웰빙 및 AI 전문가 위원회 등 외부 전문가 집단과 협력하고 있다고 밝혔다. 섭식 장애, 약물 남용 등 특정 분야 전문가들과 함께 AI의 안전 기준을 재정립하고 미래 안전장치를 설계한다는 계획이다.</p>
          <p contents-hash="61af41143b9a752bc9594b6885d9db242eca7817a87e004021ea22586dfc33fd" dmcf-pid="qlWKW4OJN2" dmcf-ptype="general">'챗GPT' 청소년 사망 사건의 소송을 이끄는 제이 에델슨 변호사는 "(오픈AI의 대응이) 부적절하다"며 "이들은 '챗GPT 4o'가 위험하다는 사실을 출시 첫날부터 알고 있었다"고 밝혔다.</p>
          <p contents-hash="d2d0247509c0ae6fcb0f50792c101c989d5d28f0da826b3daf6d40140a070716" dmcf-pid="BSY9Y8Iij9" dmcf-ptype="general">조이환 기자(ianyhcho@zdnet.co.kr)</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p>

이전

"혼합 폐플라스틱 분리수거 안해도 돼"…기계연, 3분기 여수산단서 신기술 "실증"

09-03
다음

새로운 생활 스포츠 ‘피클볼’, 전 세계로 번진다

09-03

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

오픈AI, '챗GPT 책임론'에 대응 나섰다…GPT-5·자녀보호 기능 투입

멤버랭킹

관련자료

멤버랭킹