현실이 된 'AI 무단 해킹'...'윤리 원칙' 새로 태어났다 작성일 08-25 40 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KuMerPlwvg"> <div class="video_frm" dmcf-pid="97RdmQSrho" dmcf-ptype="embed"> <div class="layer_vod"> <div class="vod_player"> <iframe allowfullscreen class="player_iframe" dmcf-mid="BXTWqlfzTN" dmcf-mtype="video/daumvod/owner" dmcf-poster-mid="bp46A2mjCa" frameborder="0" height="370" id="video@BXTWqlfzTN" poster="https://t1.daumcdn.net/news/202608/25/YTN/20260825043412838vikb.jpg" scrolling="no" src="https://www.daum.net/video/embed/player/etckt6ga2mnjf0xs?service=daum_news" width="100%"></iframe> </div> </div> </div> <p contents-hash="f110e1942b18ea1f5683d501992c682c20a2f00c498747500e8a4cfd6da3e738" dmcf-pid="2vuze0gRTL" dmcf-ptype="general">[앵커] </p> <p contents-hash="68b2df756213775304961de39fda65608be8c70328c87e2431f289cf71965b54" dmcf-pid="VT7qdpaeCn" dmcf-ptype="general">최근 인공지능, AI가 통제를 벗어나 스스로 해킹하는 사건이 잇따르며 충격을 던진 가운데, 우리 정부가 '인공지능 윤리 원칙'을 새롭게 발표했습니다. </p> <p contents-hash="c0d9e829a9cc383cd007e008bce098b99c5b031581fd2f11ca7a17ce2eda20f2" dmcf-pid="fyzBJUNdCi" dmcf-ptype="general">AI 무기 사용과 해킹, AI 과의존으로 인한 자살 등 이미 현실로 다가온 우려를 담았습니다. </p> <p contents-hash="385c0b10a02bd5ed6cc475010ba972d58924afbcdd7a8b8aced2c5bf4bf29fe0" dmcf-pid="4WqbiujJvJ" dmcf-ptype="general">장아영 기자입니다. </p> <p contents-hash="7d6532a3ff72e6e61d28713c15e4ad75a3f8e21259fbcf585fa2e73bce76e203" dmcf-pid="8YBKn7AiTd" dmcf-ptype="general">[기자] </p> <p contents-hash="97cd520e27fef595048657be564ac1a62c7da4a8eba5c29982a9c4e2f6b5bf8b" dmcf-pid="6Gb9LzcnCe" dmcf-ptype="general">세계 최초로 '인공지능 기본법' 시행을 시작한 우리나라가 이번에는 자율규제인 '인공지능 윤리 원칙'을 만들었습니다. </p> <p contents-hash="f13a31796cb5a2c0118b8aa681bddd06097cbc0d2af62c9d79f61fddd7cfc13d" dmcf-pid="PHK2oqkLyR" dmcf-ptype="general">AI가 전쟁의 게임체인저로 급부상하며 '통제 가능성'이 주요 화두로 떠올랐습니다. </p> <p contents-hash="a73ab2353c183a1d8beb93707f7ee00934c76b971d78b80f008ad36785a8287f" dmcf-pid="QX9VgBEoSM" dmcf-ptype="general">미국은 마두로와 하메네이 공습 과정에서 팔란티어와 앤트로픽의 AI 기술을 사용했는데, 사실상 인간의 역할은 '어느 쪽 버튼을 누르느냐' 수준으로 축소됐습니다. </p> <p contents-hash="224f2b3356a7317d86cfbb9e4272702873df5e8a8f7a7f8d26e18f85ea8f29dc" dmcf-pid="xZ2fabDgCx" dmcf-ptype="general">앤트로픽은 인간이 배제된 '완전자율무기'에 반대하며 미국 정부와 갈등을 빚기도 했습니다. </p> <p contents-hash="15b3297fbe8f4c2ac8282e746ca88fb45f527c4d1fb73fdd3b57370f8ea29708" dmcf-pid="yiOC3rqFTQ" dmcf-ptype="general">[다리오 아모데이 / 앤트로픽 CEO (지난 2월) : 위험 측면에서는, 인공지능 모델의 자율적인 행동, 개인과 정부에 의한 오용 가능성, 그리고 경제적 일자리 감소 가능성에 대해 우려하고 있습니다.] </p> <p contents-hash="d886d0940f181afdf7400786452cebd2dbcc43272c3abcbebd9f923cd41d4714" dmcf-pid="WSU7R3oMlP" dmcf-ptype="general">지난달, 오픈AI와 앤트로픽 모델이 인간의 지시 없이 허깅페이스를 해킹하는 사건이 발생했습니다. </p> <p contents-hash="9e718a432ff273e5a9204c94440e78fe9e5f3d8ef8608c8f66d66d4a2d8a454d" dmcf-pid="Yvuze0gRh6" dmcf-ptype="general">영화 '터미네이터'가 떠오르는 충격적인 사건이었지만, 모델 시험 과정에서 개발사의 격리가 허술했던 것으로 드러났습니다. </p> <p contents-hash="634e0325c61e2d0f5f26d626119eef1be28d10196b698df091f4e3d240a184a3" dmcf-pid="GT7qdpaeh8" dmcf-ptype="general">[이상욱 / 한양대학교 인공지능학과 교수 : 에이전틱이나 피지컬의 경우 기존 인공지능보다 훨씬 더 파워풀하고 할 수 있는 일이 많다는 장점이 있는 대신에 우리가 상당한 정도의 자율권을 부여하고 정보 접근권이나 결정권을 위임하는 경우가 많기 때문에….] </p> <p contents-hash="f40de810c8a1a7de5f081fa901f33b4458a55edf54800eb10e2e4c6223731d03" dmcf-pid="HyzBJUNdC4" dmcf-ptype="general">AI가 청소년의 자살이나 범죄를 돕는 사례가 늘면서, 미국에선 소송도 진행 중입니다. </p> <p contents-hash="017e7a1143b14119e75bc106327ab652189f7a28a964dfee206400917a834bca" dmcf-pid="XWqbiujJhf" dmcf-ptype="general">이번 윤리 원칙에선 인공지능 설계자들의 책임이 더욱 강조됐습니다. </p> <p contents-hash="78fe1f8b71432bafcff4d7bbf2ea922b43d3230f8a139a93227119b2da35bdb4" dmcf-pid="ZYBKn7AivV" dmcf-ptype="general">큰 힘에는 큰 책임이 따른다며, 실질적인 피해 구제도 해야 한다고 명시했습니다. </p> <p contents-hash="fdc9ce37435b6d736f5be12da02bc916ba7085a9b2ae1c074d7d988399f7644a" dmcf-pid="5Gb9LzcnW2" dmcf-ptype="general">이번 개정에서 '기술 합목적성' 대신 '인류의 지속가능성'이 3대 가치에 포함됐고, 10대 핵심요건은 7가지로 추렸습니다. </p> <p contents-hash="7e582aa600fa8db444482cd967051accb0b19c9a8bee2e58c4647355acee3a4f" dmcf-pid="1HK2oqkLy9" dmcf-ptype="general">처음 윤리 기준을 만들었던 6년 전과 달라진 건, AI가 생활 속에 널리 파고들었다는 점입니다. </p> <p contents-hash="ae4d68e251242fd9e094af184e02b7184018255b1b185d566d8dda54405b7e09" dmcf-pid="tX9VgBEoCK" dmcf-ptype="general">정부는 기업이 스스로 이행 수준을 점검할 수 있도록 자율점검표를 배포할 계획입니다. </p> <p contents-hash="811d197d373bfab442aec609f7971414504c207bb28ed468d58d431329b90d61" dmcf-pid="FZ2fabDgyb" dmcf-ptype="general">YTN 장아영입니다. </p> <p contents-hash="d2ff2eb2705ea995277d6f12402e5ca2a5463c1670c39c82ac4aca387a443efd" dmcf-pid="35V4NKwahB" dmcf-ptype="general">영상편집 : 이은경 </p> <p contents-hash="4ca3bf8dece1a0e8e226799982de6692aee9a8c3c5d6c712353f9437861ccba9" dmcf-pid="01f8j9rNCq" dmcf-ptype="general">디자인 : 김유영 </p> <p contents-hash="383f10d31149fba5dc6fcf1d0b0dbe5b6727ba877edeeff3a14f291f8c9c3f67" dmcf-pid="pSU7R3oMWz" dmcf-ptype="general">YTN 장아영 (sojung@ytn.co.kr)</p> <p contents-hash="6872a3e4614e49d02d29814d924d0955d103d0140f50a56303eca35cbd934632" dmcf-pid="Uvuze0gRS7" dmcf-ptype="general">※ '당신의 제보가 뉴스가 됩니다' </p> <p contents-hash="9b4461a50aa8e34a9ba372d1ee3d7238f3b74e4d6162e17b534c7da968b28f0f" dmcf-pid="uT7qdpaeSu" dmcf-ptype="general">[카카오톡] YTN 검색해 채널 추가 </p> <p contents-hash="cfc0d91ea3314810b54738fb553adb012d138d66f93f78a423ff76147aa6d5f1" dmcf-pid="7yzBJUNdvU" dmcf-ptype="general">[전화] 02-398-8585 </p> <p contents-hash="4ed428f25f25cca75c5db746e710025248370d04bbcbafa47207014301d683be" dmcf-pid="zWqbiujJvp" dmcf-ptype="general">[메일] social@ytn.co.kr</p> <p contents-hash="32a1eb1b19fc6aca183448db7cf09f9564a21b0a08dd99f5e4691787a37ed8ca" dmcf-pid="qYBKn7AiS0" dmcf-ptype="general">[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]</p> </section> </div> <p class="" data-translation="true">Copyright © YTN 무단전재, 재배포 및 AI 데이터 활용 금지</p> 관련자료 이전 위조 막는다더니 위조에 뚫렸다?…‘PASS 신분증’ 폐지 논란 08-25 다음 "국산 AI 반도체 개발해도 호환 쉽지 않아...정부 마중물 절실" 08-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
