"이 속도면 킬러 AI봇 곧 나올 수도"…정부, 안전 AI 에이전트 만든다 작성일 02-06 47 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">과기정통부, ‘국가 AI 안전 생태계 조성 마스터플랜’ 위한 간담회<br>AI 안전 포털 구축하고 에이전트 개발 추진…AI 중기 30곳 육성<br>대량살상무기 분야 위험 대응할 인재 150명, 5년간 육성</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="u8yJvT0HX8"> <figure class="figure_frm origin_fig" contents-hash="9865ed9e6827794cc82e75ae62d4e8392ebb62efff3cd188c7c78fb80ae3adbd" dmcf-pid="76WiTypXG4" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/06/newsis/20260206183628761vyyx.jpg" data-org-width="650" dmcf-mid="pnbCqBMVZP" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/06/newsis/20260206183628761vyyx.jpg" width="658"></p> </figure> <p contents-hash="d6b49db4e08723cbc3126b3c3c3bb5d8e08ab37d612bab013849f10759dce40f" dmcf-pid="zPYnyWUZ1f" dmcf-ptype="general"><br> [서울=뉴시스] 심지혜 기자 = 인공지능(AI)이 단순 정보 생성 도구를 넘어 자체 판단에 이어 행동을 제안하고 실행하는 단계로 빠르게 진화하고 있다. 이에 맞춰 활용이 가속화되면서 AI가 사회와 산업 전반에 미치는 영향도 기술 오작동이나 편향 논란을 넘어 국가나 사회 시스템 전반으로 확장될 수 있다는 우려가 나온다. </p> <p contents-hash="27a7f42b2cbc67d4eedb96bc65b07d6c8205bea76af3b3c02937061eed8f9582" dmcf-pid="qRZaHXqFHV" dmcf-ptype="general">AI가 여론 조작이나 사이버 테러에 활용될 가능성과 함께 화학·생물·방사선·핵(CBRN) 무기 개발을 지원하거나 사이버 공격을 통해 금융 시스템을 마비시킬 수 있다는 지적도 제기된다. AI가 국가 안보나 민주주의까지 위협할 수 있다는 것이다. </p> <p contents-hash="daf38df217e5660f0d8381d00ae10c280b50b6db15d86fe39dfe4a949d21ec0a" dmcf-pid="Be5NXZB3t2" dmcf-ptype="general">정부는 이러한 변화에 선제적으로 대응하기 위해 국가 차원의 AI 안전 체계를 마련하는 작업에 착수했다.</p> <p contents-hash="e42b285ed6abd6c424927d56278d969798fdbb33a0064f947f1a79176556bcb9" dmcf-pid="bd1jZ5b019" dmcf-ptype="general">과학기술정보통신부는 한국정보통신기술협회(TTA), 인공지능안전연구소와 함께 ‘국가 AI 안전 생태계 조성 마스터플랜’ 마련을 위한 간담회를 6일 개최했다.<br> </p> <figure class="figure_frm origin_fig" contents-hash="51f21e221341d940f9b246023115ba6871f7c7adafd1623075072323a954c2b3" dmcf-pid="KJtA51KpXK" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] 과학기술정보통신부, 한국정보통신기술협회(TTA), 인공지능안전연구소와 함께 ‘국가 AI 안전 생태계 조성 마스터플랜’ 마련을 위한 간담회를 개최했다. (사진=과기정통부 제공) *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/06/newsis/20260206183628926jzbu.jpg" data-org-width="720" dmcf-mid="UI6Y48oMH6" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/06/newsis/20260206183628926jzbu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] 과학기술정보통신부, 한국정보통신기술협회(TTA), 인공지능안전연구소와 함께 ‘국가 AI 안전 생태계 조성 마스터플랜’ 마련을 위한 간담회를 개최했다. (사진=과기정통부 제공) *재판매 및 DB 금지 </figcaption> </figure> <h3 contents-hash="d8cf4f532feb8b203e8846ce7a4b968f7e6526c6cd5f5502d6e800a2b8dc7870" dmcf-pid="9iFc1t9UYb" dmcf-ptype="h3"> AI안전 포털·에이전트 구축…3개 대학서 AI안전인재 육성</h3> <div contents-hash="a120ea254d788a2d9355eaae87cd1cec1afc2add86c16268f4db06fef4c2e521" dmcf-pid="2n3ktF2u5B" dmcf-ptype="general"> 정부는 AI 안전 생태계 조성을 위한 3가지 축으로 ▲국민의 일상을 지키는 AI 안전 ▲산업 발전을 지원하는 AI 안전 ▲세계를 선도하는 AI 안전을 제시했다. </div> <p contents-hash="12938f7d7b394f0e5a9148e4d33a652136e6320427551277a72b0d92c1f32263" dmcf-pid="VL0EF3V7Zq" dmcf-ptype="general">우선 일상생활에서 국민이 안전하게 AI 서비스를 이용할 수 있도록 하기 위해 올해 AI 안전 포털을 구축할 예정이다. AI 안전 포털에는 허위·조작 정보, 딥페이크, 사이버 위협 등 최신 AI 위험 사례와 대응 가이드가 담긴다. 정부와 공신력 있는 기관이 검증한 정보를 제공하고 이를 데이터베이스로 축적해 국민이 AI 위험을 쉽게 인지하고 대응할 수 있도록 한다는 계획이다.</p> <p contents-hash="270621d9a1fb21e09de2a9f717e16c0b6c0330fc4d2253ea2cf711e5949b16fe" dmcf-pid="fopD30fz1z" dmcf-ptype="general">내년에는 AI 안전 에이전트 개발도 추진한다. AI 안전 에이전트는 AI 서비스 이용 중 발생할 수 있는 위험을 질의하면 위험 유형과 대응 방법, 신고·상담 경로 등을 안내하는 기능을 맡는다. 정부는 포털에 축적된 정보를 학습한 AI 안전 에이전트를 내년부터 본격 보급한다는 방침이다.</p> <p contents-hash="295595caacbcdb2c5b2215e803613ffe70cc3d4a0222114b4eb78e3ecf180dde" dmcf-pid="4gUw0p4qX7" dmcf-ptype="general">정부는 AI산업 발전을 위해 기업이 AI 안전을 자율적으로 내재화할 수 있도록 하는 지원책을 마련한다. AI 안전 분야 중소·벤처기업 30곳 이상 육성을 목표로 500억 규모의 민간 협력 연구개발(R&D)을 추진한다. AI 안전 기술 개발과 실증을 지원하고 AI 안전을 하나의 산업 영역으로 키운다는 구상이다. 인증·검증 체계와 연계해 기업이 안전 역량을 경쟁력으로 활용할 수 있도록 하는 방안도 함께 검토한다.</p> <p contents-hash="9ecd859bda84053af389951ab2e54b20b9f1871a8db757d029a335bcb8f13d03" dmcf-pid="8aurpU8BHu" dmcf-ptype="general">또 AI 안전 분야 세계적 리더십 확보를 위해 인재 양성을 핵심 과제로 추진한다. AI안전연구소는 화학·생물학 등 대량살상무기 분야 위험에 대응할 융합인재 양성 체계를 구축한다. AI안전 융합센터 3개소를 구축하는 한편, 3개 대학을 선정해 5년간 150명 이상의 전문 인력을 확보한다는 목표다. 국제 공동 연구와 글로벌 협력을 통해 AI 안전 분야에서의 역할도 확대한다는 계획이다.</p> <h3 contents-hash="e513b8b2dac86cf145aa032ca122af5fbcaf7d2f0d735e59c4a075fd0fa0ddff" dmcf-pid="6N7mUu6bXU" dmcf-ptype="h3"> AI 피해 구제 체계 필요…안보 차원 대응도 필요</h3> <div contents-hash="f97a8886f12c6677d291c6d438726e538ef58522a21cb99d06c7061852ad125c" dmcf-pid="Pjzsu7PKGp" dmcf-ptype="general"> 시민사회와 학계에서는 정부 정책 마련의 필요성에 공감하면서도 실제 피해 발생 시 작동하는 구제 체계가 충분히 제시되지 않았다는 지적을 제기했다. 이지은 참여연대 선임간사는 AI 기본법에 ‘영향받는 자’ 개념이 포함돼 있지만, 피해 발생 시 어떤 권리를 행사할 수 있는지, 어디에 이의를 제기할 수 있는지는 여전히 불분명하다고 지적했다. 아울러 위험 발생시 구제 절차가 마련돼야 한다고도 강조했다. </div> <p contents-hash="809e020ab28562fbd8564e7480eedd505c615901f54fbc6551184c912699a925" dmcf-pid="QAqO7zQ9Z0" dmcf-ptype="general">정지연 한국소비자연맹 사무총장은 AI 안전 포털과 에이전트 구상 자체는 긍정적으로 평가하면서도 정보 제공을 넘어 실제 대응 창구와 책임 구조가 함께 설계돼야 한다고 제언했다. </p> <p contents-hash="35498e661e02920d348dd4f7bd0515452c78be900c1634dc4bedf973b9f84193" dmcf-pid="xcBIzqx253" dmcf-ptype="general">학계에서는 안전 책임이 이용자에게 과도하게 이전될 수 있다는 점을 경계해야 한다는 목소리가 나왔다. </p> <p contents-hash="3abec900d0e6730acc0aafb7ec8d293e6c5858fc7145fc99cdd181db4cc738d4" dmcf-pid="y4TdSv3G5F" dmcf-ptype="general">이은주 서울대 교수는 안전 정보를 확인하고 신고하는 역할을 국민에게만 요구할 경우 기업과 정부가 져야 할 책임이 희석될 수 있다고 지적했다. 이와 함께 AI로 인한 위험 상당수가 기술 자체보다 이를 악용하는 인간 행위에서 비롯되는 만큼, 시민 교육과 책임성 논의도 병행돼야 한다고 주장했다. </p> <p contents-hash="2f75e04511100925a4ab10d2098178c888e44fde65659f25a9035b620908b0f0" dmcf-pid="W8yJvT0HHt" dmcf-ptype="general">산업계는 AI 안전 생태계 조성 필요성을 인정하지만 산업 현장의 속도와 경쟁 환경을 반영한 지원이 필요하다고 강조했다. </p> <p contents-hash="2306fccd0693de21a8fd214f636d53442e8d0c9a40f19530f0d0692f3131b5c8" dmcf-pid="Y6WiTypXt1" dmcf-ptype="general">이종영 셀렉트스타 본부장은 “AI 안전 기술이 실험 단계에 머물지 않으려면, 공공과 산업 현장에서 실제로 적용·검증되는 초기 시장이 먼저 열려야 한다”고 말했다. </p> <p contents-hash="4352bc00ceed6fd1fd23a90d0602b7a5582e2e7194d26379002a9326e503a0eb" dmcf-pid="GPYnyWUZ55" dmcf-ptype="general">김경훈 카카오 AI세이프티 리더는 "AI가 오픈소스 커뮤니티를 중심으로 빠르게 발달하는데 한국은 안전에 대한 평가나 데이터샛 기반이 빈약하다"고 지적했다. </p> <p contents-hash="0e01078549d6cc9d661be8dd2252375ae12e56ad8c38838e7a502ac491206b68" dmcf-pid="HQGLWYu5XZ" dmcf-ptype="general">김명신 LG AI연구원 정책수석은 "단순히 AI 안전만 피상적으로 보는 게 아닌 보안, 나아가 국가 안보와 관련한 이슈로 담론을 확장시키면서 논의를 해야 한다"며 "해외 석학의 일반적 AI 위험 담론을 따라가면 위험하다"고 비판했다. </p> <p contents-hash="1b7872ab043ec0b6370fc4ff5c9a9ee7c8408437276c4c132363af77a7901c89" dmcf-pid="XxHoYG715X" dmcf-ptype="general">이진수 과기정통부 인공지능정책기획관은 “AI 안전과 신뢰는 혁신과 대립되는 개념이 아니라 함께 갈 때 오히려 글로벌 경쟁력과 확산 가능성을 높이는 요소"라며 "“AI 안전 생태계 조성을 통해 국민이 AI를 안심하고 활용할 수 있는 환경을 만들고, 나아가 글로벌 AI 경쟁력 강화해 기여하겠다"고 전했다.</p> <p contents-hash="284020f80c3a23b84360a2af0f0a2e861844e045f4b7de6c32163220ab6f40f6" dmcf-pid="ZMXgGHztGH" dmcf-ptype="general"><span>☞공감언론 뉴시스</span> siming@newsis.com </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p> 관련자료 이전 "골탕 먹이네" 지드래곤, 대성 몰카에 서운함 폭발 ('집대성') 02-06 다음 '무한도전' 재결합 성사..박명수X정준하, 유재석 '놀뭐' 출격 "다음주 방송"[공식] 02-06 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
