[AI는 지금] '챗GPT' 쓰다 우울증 온다고?…오픈AI, '안전 리더십' 재정비 본격화 작성일 12-29 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">'챗GPT' 사용 관련 정신건강 문제 제기 잇따라…'준비태세 총괄' 채용으로 대비 나서</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HjfxQAgRNz"> <p contents-hash="3844db1267d39bcc7783e42266450cad67290bc8243ae78734a0ebb9dc983716" dmcf-pid="XA4Mxcaeg7" dmcf-ptype="general">(지디넷코리아=장유미 기자)'챗GPT' 등장 이후 생성형 인공지능(AI)을 둘러싼 정신건강 악화 논란이 잇따르는 가운데 오픈AI가 AI 안전을 총괄하는 핵심 임원 채용에 나서 관심이 쏠린다. 최근 챗GPT가 이용자의 망상을 강화해 자살이나 살인으로 이어졌다는 취지의 소송이 연이어 제기되면서 한동안 공백 상태였던 오픈AI의 '안전 리더십' 문제도 다시 부각되는 분위기다.</p> <p contents-hash="850fa555b5ab879746db4e875065dc04486d047a5d3ca63c256b944c9942245a" dmcf-pid="ZLb4foJ6Nu" dmcf-ptype="general">29일 테크크런치에 따르면 <span>오픈AI는 AI가 초래할 수 있는 고위험 시나리오를 사전에 평가하고 대응 전략을 총괄할 책임자인 '준비태세 총괄(Head of Preparedness)'을 뽑기 위해 최근 채용 공고를 냈다. <br><br>이 직무는 컴퓨터 보안과 생물학, 정신건강 등 분야에서 AI가 만들어낼 수 있는 '심각한 피해'를 관리하게 된다. </span><span>보상은 연봉 55만5천 달러에 주식 보상이 포함됐다.</span></p> <figure class="figure_frm origin_fig" contents-hash="bd0101930b6b78dd189da423141bcb7d0ac1935d3c4aae206deb3e9d8ef7b385" dmcf-pid="5oK84giPcU" dmcf-ptype="figure"> <p class="link_figure"><img alt="(제작=챗GPT)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/29/ZDNetKorea/20251229174742961rryg.png" data-org-width="639" dmcf-mid="YnX3FfKpjB" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/29/ZDNetKorea/20251229174742961rryg.png" width="658"></p> <figcaption class="txt_caption default_figure"> (제작=챗GPT) </figcaption> </figure> <p contents-hash="ca61563909360f0a9ec610a869c9cbade2e63147f16f1ef50ef69050fca7f1b7" dmcf-pid="1g968anQap" dmcf-ptype="general">오픈AI가 이처럼 나선 것은 <span>최근 불거진 법적 분쟁이 큰 영향을 미친 것으로 보인다. 지난해 8월 미국 캘리포니아에서 10대 소년의 유족이 "챗GPT가 아들의 자살을 부추겼다"며 오픈AI를 상대로 소송을 제기하자 이후 유사한 소송이 잇따랐다. 이달에는 챗GPT가 이용자의 망상을 부추겨 살인을 유도했다는 주장과 함께 오픈AI가 또 다시 피소되며 논란이 확산됐다.<br><br>이처럼 생성형 AI의 정신건강 리스크가 가설적 우려를 넘어 실제 법적 책임 문제로 번지자 오픈AI는 대응책 마련에 적극 나서는 모습을 보였다. 특히 </span><span>청소년 보호자 관리 기능을 도입하고 자해·폭력 등 민감한 주제에 대한 응답 방식 개선에 나서 눈길을 끌었다.</span></p> <p contents-hash="1a6a0c648a86a9c01ed03238a9cb46babba9b3b15bb4f5ed6b6a5cab97bc397e" dmcf-pid="ta2P6NLxk0" dmcf-ptype="general"><span>그러나 업계에선 기능 보완만으로는 근본적인 해법이 되기 어렵다는 지적이 잇따랐다. 위험 신호를 어떻게 판단할 지, 문제가 될 소지가 있는 기능이나 모델 출시를 누가 최종 통제할 지 등을 결정하는 것은 조직 내부에서 해결해야 한다고 봐서다.</span></p> <p contents-hash="343c27de8d26a468c04a7a5b11445eb679d61d838d0c2c132e2cb6d26f8f6146" dmcf-pid="FNVQPjoMc3" dmcf-ptype="general">이에 오픈AI는 지난 2023년 '준비태세(Preparedness) 팀'을 신설하며 피싱 공격 같은 즉각적 위협부터 핵무기, 자율적 자기개선 AI 같은 극단적 시나리오까지 대비하겠다고 밝힌 바 있다. 하지만 이 조직을 이끌던 알렉산더 마드리 전 초대 총괄이 지난 해 7월 AI 추론 연구 부문으로 이동한 이후에는 지금껏 수장 없이 운영돼 왔다. 또 안전 관련 임원들도 잇따라 오픈AI를 떠나거나 다른 역할로 이동한 점도 리더십 공백 논란을 키웠다.</p> <p contents-hash="506ad2919bff7ab64d2d5492d6aac9e52dac751f2f3b1cf8a8d9e18bc923f9a3" dmcf-pid="3jfxQAgRgF" dmcf-ptype="general">그 사이 AI 모델의 영향력은 급격히 커졌다. 위험은 커지는데 오픈AI 내부에서 이를 전담해 관리할 컨트롤타워는 상대적으로 약해졌다는 평가도 나왔다. 이를 의식한 듯 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 "AI가 정신건강에 미치는 영향과 컴퓨터 보안 취약점을 스스로 찾아낼 수 있는 수준에 이르렀다"고 공개적으로 언급했다. </p> <p contents-hash="36393a2e10471d9dd3eef9c766c1dcffd361d0ffa5c1448c830b75e36683f3b0" dmcf-pid="0A4Mxcaegt" dmcf-ptype="general">하지만 이는 오픈AI만의 문제가 아닌 생성형 AI 챗봇 전반에서 반복적으로 제기돼 온 이슈라는 점도 문제다. 가상 인격과의 대화를 제공하는 캐릭터닷AI는 청소년 이용자들이 챗봇과 과도한 정서적 유대를 형성해 현실 관계에서 고립되는 사례가 나타나 논라닝 됐다. 'AI 친구·연인'을 표방한 레플리카(Replika) 역시 이용자들의 심리적 의존과 정서적 혼란을 유발했다는 비판을 받아왔다. 스냅챗의 '마이(My) AI'는 청소년에게 부적절한 조언을 했다는 이유로 영국 ICO의 조사를 받기도 했다.</p> <figure class="figure_frm origin_fig" contents-hash="3908b46316fbcddab56830a8fd67802e8d50de76d654871e369262c7af1d07ee" dmcf-pid="pc8RMkNdA1" dmcf-ptype="figure"> <p class="link_figure"><img alt="캐릭터닷AI 홈페이지 (사진=캐릭터닷AI 홈페이지 캡처)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/29/ZDNetKorea/20251229174744285akyk.png" data-org-width="638" dmcf-mid="G4eoLOwajq" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/29/ZDNetKorea/20251229174744285akyk.png" width="658"></p> <figcaption class="txt_caption default_figure"> 캐릭터닷AI 홈페이지 (사진=캐릭터닷AI 홈페이지 캡처) </figcaption> </figure> <p contents-hash="938afe399659147d4311eca303836b08ae1459f0ba48a650f03a25bd5afa5d26" dmcf-pid="Uk6eREjJA5" dmcf-ptype="general">업계 관계자는 "이들의 공통점은 챗봇의 답변 정확성보다는 이용자가 AI를 상담가·친구·조언자처럼 인식하도록 만드는 구조적 설계에 있다"며 "AI가 정서적 취약성을 가진 이용자에게 권위 있는 존재로 오인되는 것이 문제"라고 지적했다. </p> <p contents-hash="6a1bf68cd98b1eb54294a536c4bce3659b6eaa872c090ac7ead9d8962d9be18e" dmcf-pid="uEPdeDAiAZ" dmcf-ptype="general">이어 "챗GPT는 연인·친구를 표방하지 않고 범용 도구임에도 불구하고 정신 건강에 영향을 미친다는 점에서 더 논란이 일어나고 있다"며 "이를 해결하기 위해 기능 보완뿐 아니라 위험 신호를 감지했을 때 실제로 모델 출시나 기능 공개를 조정할 수 있는 내부 통제 구조가 뒷받침돼야 한다"고 덧붙였다.</p> <p contents-hash="249c28a5688e8e32bd43b444a4dc91cdc16dc92708327211d6ede4cb4b01a348" dmcf-pid="7DQJdwcngX" dmcf-ptype="general">경쟁사들도 안전 거버넌스를 조직 차원에서 명문화하는 데 속도를 내고 있다. 앤트로픽은 모델 성능이 특정 수준을 넘을 경우 추가적인 안전 조치를 의무화하는 '책임 있는 확장 정책(RSP)'을 공개했고, 구글 딥마인드는 '프런티어 세이프티 프레임워크'를 통해 고위험 역량 도달 시 적용할 평가·통제 절차를 단계별로 제시하고 있다. </p> <p contents-hash="b669e2931540fcc4a6d57564f3138da41779cd8d42a4d2ac98031218e4112cdd" dmcf-pid="zwxiJrkLaH" dmcf-ptype="general"><span>다만 오픈AI는 최근 개정한 준비태세 프레임워크에서 "경쟁사가 유사한 보호 장치 없이 고위험 모델을 출시할 경우 안전 요구 사항을 조정할 수 있다"는 문구를 포함시켜 업계 지적을 받았다. </span><span>경쟁 압력이 안전 기준을 흔들 수 있다는 우려에서다. </span></p> <p contents-hash="76de19e56810cc4eeaad8a1608570f37f4ed30ea66a76407baf6708032b85218" dmcf-pid="qrMnimEocG" dmcf-ptype="general">일각에선 이번 채용이 오픈AI가 한동안 느슨해졌던 안전 거버넌스를 다시 조이려는 신호라고 평가했다. </p> <p contents-hash="718f51c9d3fc78c0e0950ac7f162f0458c1c8764e6cc9ac340a414acf6886b9a" dmcf-pid="BseoLOwaAY" dmcf-ptype="general">업계 관계자는 "정신건강 관련 소송이 이어지는 상황에서 오픈AI가 '준비태세팀'을 다시 전면에 내세운 것은 AI 위험이 더 이상 이론적 문제가 아니라는 점을 인정한 것"이라며 "<span>최근 1년간의 안전 책임자 이동으로 약화된 '안전 우선' 메시지를 복원하려는 시도로도 보인다"고 평가했다.</span></p> <p contents-hash="1aa893ce098b3b1432df7c94225a3aa8a14f6e38b5ad8f0e0fa8270442aa25c5" dmcf-pid="bOdgoIrNNW" dmcf-ptype="general">또 다른 관계자는 "정신건강처럼 취약성이 개입되는 영역에서는 AI의 영향이 실제 피해로 빠르게 연결될 수 있다"며 "새 책임자가 실제로 모델 출시와 기능 공개에 제동을 걸 수 있는 권한을 갖느냐가 핵심"이라고 말했다.</p> <p contents-hash="1317406bc57c89e8a95cf57c320bcf70e68ac7bc387237ec56f40440e92c1ade" dmcf-pid="KIJagCmjAy" dmcf-ptype="general">장유미 기자(sweet@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 엔하이픈 "스토킹 가해자 기소유예·무단침입 벌금형, 선처 없다" 12-29 다음 두 개의 별 돌고 생명체 논쟁 일으키고…2025년 발견된 외계행성 12-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
