돌아온 '클로드 페이블5' 기대 이하…강화된 안전장치 불만 작성일 07-05 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">"과도하게 이전버전으로 우회 처리하는 빈도 높아"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="BGRViYV7gr"> <p contents-hash="9a097facc6c309c8196ae1f8909e56b864e4eb52690efb4e87ac93a4d526ae6c" dmcf-pid="bHefnGfzaw" dmcf-ptype="general">(지디넷코리아=남혁우 기자)앤트로픽의 신형 인공지능(AI) 모델 '클로드 페이블5(Claude Fable 5)'가 미국 정부 규제 완화로 다시 공개됐다.</p> <p contents-hash="e7c6f2731a2a3e8438cbc0eb2f4db483e4b564aae9b7a3f8efb3d17ff28c55c2" dmcf-pid="KXd4LH4qND" dmcf-ptype="general">하지만 사용자 반응은 기대에 미치지 못한다는 반응이다. 강화된 안전장치가 정상적인 작업까지 제한하면서 실사용 경험이 크게 떨어졌다는 지적이다.</p> <p contents-hash="4737f7ff1ea92b616c7936e6c814afa362e24da1a499bc69af6c95124b887efd" dmcf-pid="9ZJ8oX8BaE" dmcf-ptype="general">5일 레딧 개발자 커뮤니티 등에선 페이블5의 성능이 초기와 다르다는 지적이 이어지고 있다.</p> <figure class="figure_frm origin_fig" contents-hash="c8abfed3947546da3ea0e18eaa6fe0c3401bba6f3b5c237e596824962f61d993" dmcf-pid="25i6gZ6bok" dmcf-ptype="figure"> <p class="link_figure"><img alt="앤트로픽의 클로드 페이블5(이미지=앤트로픽)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/05/ZDNetKorea/20260705091703005wudn.jpg" data-org-width="638" dmcf-mid="qt1T0LTsgm" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/05/ZDNetKorea/20260705091703005wudn.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 앤트로픽의 클로드 페이블5(이미지=앤트로픽) </figcaption> </figure> <p contents-hash="36c791285d84140d4eb9e429a6fd71607fb409345fb7cd98f49fd87b18bec18b" dmcf-pid="V1nPa5PKac" dmcf-ptype="general">사용자들의 불만은 성능 자체보다 사용 중 발생하는 과도한 차단과 모델 전환에 집중되고 있다. 레딧과 개발자 포럼에는 특정 작업을 요청하면 안전 정책이 개입해 자동으로 이전 버전인 클로드 오퍼스 4.8(Opus 4.8)으로 전환된다는 사례가 잇따라 올라오고 있다.</p> <p contents-hash="27b5a860f517989ffb49c3f38afbab93f8daf774f82e8ed899a333c488f76458" dmcf-pid="ftLQN1Q9jA" dmcf-ptype="general">한 이용자는 "새로운 가드레일이 너무 많은 작업에서 작동해 오퍼스로 전환된다"며 "이건 과거에 쓰던 페이블이 아니다"라고 지적했다.</p> <p contents-hash="cb37563bea3b02bfccf38b5d1a30ed6d487567d5ce5d49f35ddd0093bac87499" dmcf-pid="4Foxjtx2gj" dmcf-ptype="general">다른 개발자는 "사용하지 않는 코드를 검색하는 단순 작업조차 오퍼스로 전환되지 않고는 진행할 수 없었다"고 밝혔다.</p> <p contents-hash="e570bae91c9457e3a3e6cd9fdd49b97a92ac8678dbee434ad34afe438c185687" dmcf-pid="83gMAFMVNN" dmcf-ptype="general">특히 C, C++, 러스트, 윈32 API, 메모리 관리 등 시스템 프로그래밍 작업이나 프로젝트 파일에 '보안(security)', '취약점(vulnerable)', '안전하지 않음(unsafe)', '후킹(hook)' 등 보안 관련 용어가 포함된 경우 작업이 차단되거나 오퍼스로 전환되는 사례가 두드러졌다.</p> <p contents-hash="53aef55ce00ca40adfb703e5a8691207e4279ee09de421e094ce16ac2046b769" dmcf-pid="60aRc3RfNa" dmcf-ptype="general">또 AI 코딩 그룹 브릿지마인드가 자체 벤치마크로 측정한 결과 재배포된 페이블5의 디버깅 점수는 86.2에서 25.9로, 리팩토링 점수는 73.6에서 38.4로 급락했다. 이 수치 역시 AI모델 능력 자체가 떨어졌다기보다 과도하게 이전버전으로 우회 처리하는 빈도가 높아졌다는 것을 보여준다는 평가다.</p> <p contents-hash="79dfe6204acc1730c9714c5a0d113bf90ad98b495c151b3eaedad4c300877fcb" dmcf-pid="PVOAl2Aiog" dmcf-ptype="general">앤트로픽은 서비스 중단 원인이 된 취약점에 대응하는 과정에서 이러한 부작용이 발생했다고 설명했다. 지난달 아마존 연구진이 발견한 해당 취약점은 특정 프롬프트를 입력할 경우 페이블5의 안전장치를 우회(탈옥)해 사이버 공격에 악용할 수 있는 것으로 알려졌다.</p> <p contents-hash="9758a0ce25ef2cd5701440e0f70ec2fe228669ca8463988eeef5400307e15800" dmcf-pid="QfIcSVcnko" dmcf-ptype="general">이에 취약점을 식별하고 차단하기 위한 새로운 안전 분류기가 페이블5에 새롭게 학습됐다. 해당 분류기는 위험성이 있다고 판단되는 요청을 탐지할 경우 사용자에게 이를 알린 뒤 응답을 오퍼스 4.8로 자동 전환하도록 설계된 것이 특징이다.</p> <p contents-hash="f3957b32c4f5a4c391f097136a000594df7b6feebc01b817833d8e4b8f77867a" dmcf-pid="x4CkvfkLcL" dmcf-ptype="general">앤트로픽 측은 공식 홈페이지를 통해 "페이블5는 이전 모델보다 훨씬 강력한 성능을 갖춘 만큼 일부 무해한 코딩·디버깅 작업도 오탐지될 수 있다"며 "보다 많은 사용자가 모델의 다양한 기능을 안전하게 활용할 수 있도록 하기 위한 조치"라고 설명했다.</p> <p contents-hash="000be5e94e06609770ab019b3a1fc4993132c5cd01dd986d3b866097eb845078" dmcf-pid="yhf7PC71jn" dmcf-ptype="general">남혁우 기자(firstblood@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 “혹시 나한테 냄새 나나?”…엘리베이터 탈 때 신경 쓰인다면 이것부터 체크 [MK약국 x 약들약] 07-05 다음 바둑 랭킹 3위 신민준, 박정환에 3연승…GS칼텍스배 우승 07-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
