자해 위험 감지되면 지인에 알림…챗GPT 안전기능 도입 작성일 05-10 14 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7GO44LNdCK"> <p contents-hash="1e034172ca64a2d4bbdd2e7ba18ce2878c07c364443baa21b31cae9e8be64da2" dmcf-pid="zHI88ojJTb" dmcf-ptype="general">자해 위험 챗GPT 대화에서 중대한 자해 위험 신호가 감지될 경우 사용자가 미리 등록한 가까운 사람에게 이를 알릴 수 있는 안전 기능이 도입된다.</p> <p contents-hash="db2d93aada21944c56469ca84eee6974b9771a465d95bff93659cd56fc0e9024" dmcf-pid="qXC66gAilB" dmcf-ptype="general">오픈AI는 챗GPT에 ‘신뢰하는 사람’(Trusted Contact) 등록 기능을 도입한다고 10일 밝혔다.</p> <p contents-hash="27cb95f7c657add52c19964d4817d8a4e7565bff2662f4dde364085e2deb10b7" dmcf-pid="BZhPPacnvq" dmcf-ptype="general">이 기능은 성인 사용자가 가족, 친구, 보호자 등 신뢰하는 사람 1명을 사전에 등록하면 챗GPT 대화에서 심각한 자해 우려가 감지될 때 현실 세계의 도움과 연결될 수 있도록 지원한다.</p> <p contents-hash="88087579baa0a665f8e8755d65386dd2aef0cb3925b53360b86c3d693107aa7e" dmcf-pid="b5lQQNkLTz" dmcf-ptype="general">오픈AI에 따르면 사용자는 챗GPT 설정에서 신뢰하는 사람 1명을 등록할 수 있다. 국내에서는 성인만 등록할 수 있다.</p> <p contents-hash="b6f1046ee296039bb7eb753ea3d3554643550c547d4fac4d5ce1bbfd9cd31810" dmcf-pid="K1SxxjEoC7" dmcf-ptype="general">이 시스템은 사용자의 대화에서 심각한 자해 우려가 있는 표현을 감지하면 챗GPT가 사용자에게 알림 전달 가능성을 안내하고 직접 연락할 수 있도록 대화 예시 등을 제시하는 방식으로 작동한다.</p> <p contents-hash="9dec3608ad864028855fbcbe11134ab07e6972071338c5b4adbe03afb4ea6f3b" dmcf-pid="9tvMMADgyu" dmcf-ptype="general">이후 전문 교육을 받은 검토 인력이 상황을 재검토한다.</p> <p contents-hash="6c5e81b2c46a7fb7c1239859f783fa3ad41594d0f2e6b4cf9d4ee3713c5d08a9" dmcf-pid="2kJ11KfzyU" dmcf-ptype="general">이들이 실제 안전 우려가 있다고 판단하면 신뢰하는 사람에게 이메일, 문자메시지, 앱 알림 등의 형태로 간단한 알림이 전달된다.</p> <p contents-hash="e8b67433d347127dc88e356473c3eace91d90c0baa374563e2ac6a1cb9e87472" dmcf-pid="VEitt94qTp" dmcf-ptype="general">알림에는 개인정보 보호를 위해 대화 원문이나 세부 내용은 포함되지 않는다.</p> <p contents-hash="bcdc64cb06fa77fa21bb7be75ea3c6548e0e91f46ce26f9eb8e070b69e55316f" dmcf-pid="fDnFF28BS0" dmcf-ptype="general">사용자는 언제든 신뢰하는 사람을 수정하거나 삭제할 수 있고, 등록된 연락처도 언제든 연결을 해제할 수 있다.</p> <p contents-hash="51ec0e6e19f0c0c1203d38958e07f1ca1bb5345ed9f88d7bb894251cc00d7024" dmcf-pid="4wL33V6bh3" dmcf-ptype="general">오픈AI는 이 기능을 자사의 글로벌 의료 전문가 네트워크와 웰빙·AI 전문가 자문위원회 등의 자문을 바탕으로 설계했으며 미국심리학회(APA)를 비롯한 외부 전문 기관과도 협력했다고 전했다.</p> <p contents-hash="ae64d75493d6d8575d035d19cfbac7e257c8a2776e92c43a61b3d39966bb4096" dmcf-pid="8ro00fPKvF" dmcf-ptype="general">고기석 오픈AI 정책 총괄은 “사람들은 챗GPT를 통해 문제를 해결하고 개인적 고민을 돌아보기도 하는데 때로는 사용자가 힘든 순간을 겪고 있을 수 있다”며 “AI 시스템은 이러한 상황에서 현실 세계의 도움과 연결될 수 있도록 설계돼야 한다는 취지에서 이 기능이 도입됐다”고 말했다.</p> <p contents-hash="086f1e0dd91752b81c49d7f9af2970fad15236d96e22fb98f170498f36eb9a38" dmcf-pid="6mgpp4Q9lt" dmcf-ptype="general">앞서 오픈AI는 지난달 24일 생명 존중 문화 확산과 자살 예방 활동을 위한 ‘2026 천명지킴 프로젝트’의 천명수호처로 선정된 바 있다.</p> <figure class="figure_frm origin_fig" contents-hash="d8978ee4df55a3fa2e2b02aa87ec971359e96781c2d663c85ce72bee58fefc91" dmcf-pid="PsaUU8x2l1" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/10/dt/20260510074819908qeky.jpg" data-org-width="500" dmcf-mid="uxd55bV7y9" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/10/dt/20260510074819908qeky.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI 제공 </figcaption> </figure> <p contents-hash="bfe1f555c780d712750b4a0e43384ea4503e35071ce1ada381d3bef91e75c5fc" dmcf-pid="QONuu6MVW5" dmcf-ptype="general"><br> 김대성 기자 kdsung@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 유재석, 숏폼 드라마로 대박…40만뷰 터진 ‘동훔내여다뺏’ (놀뭐) 05-10 다음 ‘놀면 뭐하니’ 유재석 숏폼, 뜨거운 반응 05-10 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
