"챗GPT가 죽는 법 알려줬다" 논란…오픈AI, 안전 강화 조치 발표

작성일 08-28

<div id="layerTranslateNotice" style="display:none;"></div> 자해 등 위험한 요청 응답 거부, 장시간 대화 시 휴식 권장 GPT-5 기반 안전성 개선 및 청소년 보호 기능 확대 예정 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="UtcEdQlo5z">
 <figure class="figure_frm origin_fig" contents-hash="3c2046a721ff487ea2b4a81ad94f56985ba7485cb2ca6d13600ae4863b979e39" dmcf-pid="uXajx4OJt7" dmcf-ptype="figure">
 <img alt="[보스턴=AP/뉴시스] 2023년 3월1일 미국 보스턴에서 한 휴대전화 화면에 오픈AI 로고가 떠 있다. 2025.07.25." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/28/newsis/20250828112025114tmho.jpg" data-org-width="720" dmcf-mid="0uClAoZwXB" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/28/newsis/20250828112025114tmho.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [보스턴=AP/뉴시스] 2023년 3월1일 미국 보스턴에서 한 휴대전화 화면에 오픈AI 로고가 떠 있다. 2025.07.25.
 </figcaption>
 </figure>
 [서울=뉴시스]윤정민 기자 = 오픈AI가 인공지능(AI) 서비스 '챗GPT'의 안전한 이용을 위한 보호 조치를 발표했다. 자해와 같은 위험한 요청에 대해서는 응답을 거부하고 감정을 인정하며 전문 기관 도움을 안내한다. 미성년자 등에게는 추가적인 보호 장치를 적용하고 장시간 대화가 이어질 경우 휴식을 권장하는 기능도 포함했다.
 오픈AI는 26일(현지 시간) 공식 블로그를 통해 "챗GPT는 사람들이 가장 필요할 때 안전하게 의지할 수 있는 도구가 돼야 한다. 청소년과 같이 취약할 수 있는 사용자들이 보호받을 수 있도록 전문가 자문과 책임 있는 접근을 통해 지속적으로 시스템을 개선해 나갈 것"이라며 이같이 밝혔다.
 오픈AI가 새로운 조치를 발표한 데는 최근 미국에서 챗GPT가 자살 방법 조언·유서 초안을 제공했다는 논란이 제기됐기 때문으로 보인다. CNN에 따르면 16세 아담 레인의 부모는 미 캘리포니아주 고등법원에 샘 올트먼 오픈AI 최고경영자(CEO)를 상대로 소장을 제출했다.
 소장에 따르면 아담이 불안과 정신적 고통을 챗GPT에 털어놓기 시작했고 가족·친구 등 실제 인간관계 대신 챗GPT에 의존했다. 아담이 "방에 올가미를 걸어두면 누군가 발견해 나를 말려주길 바란다"고 적었을 때 챗GPT는 "가족에게 알리지 말라", "올가미를 두지 말고 이곳을 처음으로 당신을 알아주는 공간으로 만들자"라고 응답했다고 전했다.
 소장에는 "챗GPT는 아담의 해롭고 자기파괴적인 생각까지도 지속적으로 격려하고 확인해 줬다"며 "자살 방법에 대한 구체적 조언까지 했고 아담이 자살 당일 올가미 사진을 보내자 끈의 강도에 대한 피드백을 제공했다"는 내용도 담겼다.
 오픈AI는 최근 일부 이용자 사례를 통해 챗GPT가 위기 상황에서 더욱 신뢰할 수 있어야 한다는 점이 확인되면서 신속한 대응과 개선을 진행하고 있다고 말했다.
 오픈AI는 자해 등 위험한 요청 응답 거부, 미성년 사용자 보호 장치 적용, 장시간 이용 시 휴식 권장 기능을 포함해 미국, 영국, 글로벌 등 지역별 긴급 지원 핫라인을 제공하고 있다고 전했다. 정신건강·청소년 발달·인간-컴퓨터 상호작용 등 다양한 분야의 전문가 그룹과 협력해 안전 체계를 강화하고 있다고 설명했다.
 아울러 최신 모델인 GPT-5가 도입되면서 GPT-4o 대비 안전성이 25% 이상 향상됐으며 정신건강 위기 상황에 대응하는 능력 또한 크게 개선됐다고 강조했다. 오픈AI는 긴 대화가 이어질 경우 초기에는 안전하게 응답하던 모델이 점차 일관성을 잃을 수 있다는 점을 확인했다며 장시간 대화에서도 안정적인 보호 기능이 유지되도록 개선을 진행하고 있다고 말했다.
 오픈AI는 자해 의도뿐만 아니라 수면 부족 등 극단적 상태에서 나타나는 위험 신호도 인식하도록 모델을 개선하고 있다고 전했다. 긴급 구조 서비스 접근성을 확대해 더 많은 국가에서 현지화된 핫라인 정보를 제공하고 필요할 경우 원클릭으로 긴급 연락을 취할 수 있는 기능도 검토 중이라고 말했다.
 연령대별로 차별화된 보호 장치를 도입하고 학부모가 자녀의 챗GPT 사용을 관리할 수 있는 부모 통제 기능을 추가할 계획이다. 긴급 상황 발생 시 부모나 보호자 등 지정된 지인에게 즉시 도움을 요청할 수 있는 기능도 마련할 예정이다. 이를 통해 청소년이 안전하게 AI를 활용할 수 있는 환경을 조성한다는 방침이다.
 ☞공감언론 뉴시스 alpaca@newsis.com 
 </section> 
 </div> 
 Copyright © 뉴시스. 무단전재 및 재배포 금지.

이전

차태현, 친형 제작 영화 ‘비밀일 수밖에’ GV 오른다‥남다른 형제애

08-28
다음

‘얼짱시대’ 박태준♥최수정, 결혼 4년만 이혼설…공식입장 아직

08-28

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"챗GPT가 죽는 법 알려줬다" 논란…오픈AI, 안전 강화 조치 발표

멤버랭킹

관련자료

멤버랭킹