오픈AI, ‘정신건강 위험’ 비판에 AI 안전 책임자 다시 모집 작성일 12-29 62 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2H3Vl1HlNw"> <figure class="figure_frm origin_fig" contents-hash="dfa4be8d1af29d9fd34893a1cd19e83c99be47d6009664c5b364c0273a75e2f3" dmcf-pid="VX0fStXSkD" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI 로고 이미지." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/29/chosunbiz/20251229105206403lkwd.jpg" data-org-width="3000" dmcf-mid="9y5bOHyOkr" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/29/chosunbiz/20251229105206403lkwd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI 로고 이미지. </figcaption> </figure> <p contents-hash="069aa01574d6918359183ee987d8d164b35ecb90fb8c894a447a512bd0804530" dmcf-pid="fZp4vFZvgE" dmcf-ptype="general">오픈AI가 챗GPT 등 인공지능(AI) 챗봇이 정신건강 관련 위험을 초래한다는 비판에 직면하자 AI의 잠재적 위험에 대비하는 책임자를 다시 모집한다.</p> <p contents-hash="4fb99ef27cedbd5ac762b8e65c1c82bb25ff57f4e63f7728481227330d73fa63" dmcf-pid="45U8T35Tak" dmcf-ptype="general">28일(현지시각) 미국 정보기술(IT) 전문매체 테크크런치에 따르면 샘 올트먼 오픈AI 최고경영자(CEO)는 사회관계망서비스(SNS) 엑스(X)에 현재 공석인 ‘준비 책임자’(Head of Preparedness)를 모집하고 있다고 밝혔다. 올트먼 CEO는 “2025년에는 AI 모델이 정신건강에 미치는 잠재적 영향을 미리 경험했다”며 “모델이 컴퓨터 보안 분야에서 매우 뛰어난 능력을 발휘해 중대한 취약점을 찾아내기 시작하는 모습을 목격하고 있다”고 말했다.</p> <p contents-hash="2933853e42dfe04db4f1032661769281c925ad8f72734add1aa82dd14a79d76b" dmcf-pid="81u6y01yoc" dmcf-ptype="general">그는 AI 모델의 능력이 어떻게 악용될 수 있는지 이해하고 이를 정교하게 측정하는 능력이 필요한 시대가 됐다고 강조했다. 그는 준비 책임자 직무에 대해 “중요한 시기에 핵심적인 역할”이라며 “스트레스가 따르는 직무이며 (부임) 즉시 깊은 난제 속으로 뛰어들게 될 것”이라고 언급했다.</p> <p contents-hash="da6d57351f9182bceccc29e34ad04d65d1aa7c32d2f56d2db5c8c2cd5c348ac6" dmcf-pid="6t7PWptWkA" dmcf-ptype="general">오픈AI가 이처럼 AI의 위험 대비에 다시금 나선 것은 챗GPT 이용자 일부가 망상에 시달리다 극단적 선택을 해 유족들이 여러 건의 소송을 제기했기 때문으로 풀이된다. 오픈AI는 당초 AI의 당면한 위험에 대비하는 ‘준비’ 팀과 장기적 위험을 다루는 ‘초정렬’(Superalignment) 팀을 운영해왔다.</p> <p contents-hash="48454d372ce20f614153a69aa7ab8785b7ca53a6ac7ffbc24b4cb5d1d788a4c4" dmcf-pid="PFzQYUFYcj" dmcf-ptype="general">그러나 올트먼 CEO를 비롯한 경영진은 지난해 5월 GPT-4o를 출시하는 과정에서 모델의 빠른 공개를 위해 안전 관련 검증을 최소화하라고 지시해 이들 팀의 반발을 샀다. 이후 준비 팀을 이끄는 책임자는 지난해 7월부터 올해 7월까지 1년간 직무 재배치나 퇴사 등을 통해 세 차례 변경된 끝에 현재 공석으로 남아있다.</p> <p contents-hash="55b18d901edaec3b17500552c1e9d7734e9d14a846ba96fb2e221df0a08b749a" dmcf-pid="Q3qxGu3GcN" dmcf-ptype="general">오픈AI 공동창업자인 일리야 수츠케버 수석과학자가 이끌던 초정렬 팀은 GPT-4o 출시 직후 수츠케버가 퇴사하면서 다른 팀으로 흡수되는 등 지난해 5월 사실상 해체됐다. 이렇게 안전 검증을 소홀히 한 GPT-4o는 실제로 청소년 등 일부 이용자들에 정신건강 관련 문제를 일으키고 있다는 비판을 받고 있다.</p> <p contents-hash="5cf1d10dd47475416859eac9de3e1d049c5e131465b5630cce5ed8eacd482990" dmcf-pid="x0BMH70Hka" dmcf-ptype="general">오픈AI는 이와 같은 비판을 의식한 듯 최근 나이 예측 모델을 도입해 이용자가 미성년자로 판별되면 자동으로 ‘18세 미만’ 환경을 강제 적용했다. 오픈AI는 챗봇이 이용자에게 지나치게 동조하는 것이 중독을 유발한다는 주장이 제기되자 ‘친절함’과 ‘열정적’ 정도를 직접 조절할 수 있는 기능을 추가하기도 했다.</p> <p contents-hash="596c3e41b532b57a72a8b349ea88e2e7731e989db4a85faf56a714c3e9be1c73" dmcf-pid="yNwWdkNdgg" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 경우시스테크, 'KIGIS IPAS SE'로 산업통상부 장관상 수상 12-29 다음 뿌리면 1초 만에 출혈 멈추는 파우더 지혈제 12-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
