전문가 “한국형 AI 생태계 구축 필요”…정부 AI 안전 종합대책 준비 작성일 12-11 15 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ygSrwg71IB"> <figure class="figure_frm origin_fig" contents-hash="2f65300c12d94cd3069929aedad04b5e9b24241633b418842f4399f36c9d5b83" dmcf-pid="Wavmraztsq" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 미래가치포럼 참가자들이 기념촬영했다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/11/etimesi/20251211144143831okel.jpg" data-org-width="700" dmcf-mid="xL9UpHgRwb" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/11/etimesi/20251211144143831okel.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 미래가치포럼 참가자들이 기념촬영했다. </figcaption> </figure> <p contents-hash="6f77c7be29f579b63f2eaf81956811e6d34701b5ac3e9b42e5d8019da2af6abe" dmcf-pid="YNTsmNqFmz" dmcf-ptype="general">한국이 글로벌 인공지능(AI) 3대 강국으로 도약하기 위해 한국어를 중심으로한 '한국형 AI안전 생태계'와 AI 데이터샛을 구축해야 한다는 제언이 나왔다. 과학기술정보통신부는 AI 안전과 관련한 종합계획을 준비하며 완성되는대로 공개할 방침이다.</p> <p contents-hash="f1b521303dc5cc5fc0f1388fcd2988eacb76264a56b1efa98b70beed1387ccc4" dmcf-pid="GjyOsjB3O7" dmcf-ptype="general">한국통신사업자연합회(KTOA) AI 미래가치 포럼과 박정, 이인선, 강승규, 김형동(이상 국민의힘), 이정헌 의원(더불어민주당)은 11일 국회의원 회관에서 '글로벌 AI 안전 생태계 주권 확보를 위한 정책토론회'를 열고 이같이 논의했다.</p> <p contents-hash="dc3cc5ee77d96eb977b0905725a13c65c75f6f36bf4f6cd316e7800b0a337cdb" dmcf-pid="HAWIOAb0ru" dmcf-ptype="general">김명주 AI 안전연구소장은 발제를 통해 범용 AI(AGI) 등장과, AI 안전을 실현하기 위한 한국, 영국, 유럽연합(EU) 등의 AI 안전연구소 설립 활동을 소개했다. 김 소장은 “오픈AI가 챗GPT를 거의 완성해놓고 2년동안 출시하지 않은 것은 비윤리적 정보 등에 대한 답, 질문을 내놓지 않도록 학습을 시키는 과정 때문이었다”며 “AI 안전이 보장되지 않을 경우 AI가 위험한 무기가 될 수 있기 때문”이라고 말했다.</p> <p contents-hash="4bd2e37f36cbb4be38423b0d104e4f4e474d8da1095150a3fffa009a6d1121df" dmcf-pid="XcYCIcKprU" dmcf-ptype="general">김 소장은 “하지만, 한국어 웹 콘텐츠가 0.6%에 불과한 현실은 데이터 주권 위기로 볼 수 있다”며 “화학·생물학·핵·방사능(CBRN) 정보제공, 공론 조작 등 AI 위험에 대응하기 위한 한국형 안전 데이터셋 구축과 안전분야 국제표준 선점이 시급하다”고 말했다.</p> <p contents-hash="37f9620a4b4424888377d8acd63673fa2bf764424be39252a633b2a8fdb7d304" dmcf-pid="ZkGhCk9Urp" dmcf-ptype="general">이어진 토론에서 문정욱 정보통신정책연구원(KISDI) 실장은 “한국이 개발한 전문가·시민 참여 기반의 윤리영향평가 모델을 국제사회에 프로세스 표준으로 제안하자”고 제안했다.</p> <p contents-hash="96ea2af8e447c763d77fb24613e0f230b8f609848fadd4838aebb7598a18ca68" dmcf-pid="5EHlhE2us0" dmcf-ptype="general">안정민 한림대 교수는 “절차 중심의 규범 준수 모델을 넘어 성능·공정성·신뢰성 기반의 정량적 안전 기준이 필요하다”말했다.</p> <p contents-hash="016653bc03e8e0582a3a1c4b0f4cdebe19949d51c5d781c06450ac79bfefae7f" dmcf-pid="1Yb03YLxI3" dmcf-ptype="general">민대기 이화여대 교수는 “국제표준에 부합하는 안전 관리 체계와 더불어, 우리 산업 특성에 맞는 한국형 AI 안전 평가체계 구축이 필요하다”고 제언했다.</p> <p contents-hash="9e9405364fcf0d7249565cb3da20b4734e63ce16246cf99b700826033e381f68" dmcf-pid="tGKp0GoMEF" dmcf-ptype="general">황정현 법무법인 세종 변호사는 “한국이 규범 종속을 피하려면 자체적 AI 안전성 평가·데이터 거버넌스·국제 표준 주도권 확보가 국가전략으로 필요하다”고 제언했다.</p> <p contents-hash="a843ea2985b0f76502c4f4bba36b99cd8eac20d96db3abdf1ddd66fd8707dc7f" dmcf-pid="FH9UpHgRmt" dmcf-ptype="general">김국현 과기정통부 과장은 “AI 안전연구소에 기능과 역할 부여하며, 안전한 환경을 만드는 역할을 해나가고 있다”며 “AI안전을 강화하고 산업혁신을 지원하는 방향으로 AI 안전 종합계획을 준비중으로, 늦지 않은 시점에 공개할 예정”이라고 말했다.</p> <p contents-hash="cf87c9bb4cd41b95b291c92a480508c2a02822aa3cc5d72513acc646d29035e5" dmcf-pid="3X2uUXaeD1" dmcf-ptype="general">이성엽 AI 미래가치 포럼 의장은 “이번 토론회를 시작으로 AI 안전 생태계 주권을 어떻게 실질적으로 확보해 나갈지 논의하는 것이 핵심 과제”라고 강조했다.</p> <p contents-hash="7d6a2690d0792c34aa7cab31a24ab97bd8c3dd43d979605b5a2a0b044414ab6c" dmcf-pid="0ZV7uZNds5" dmcf-ptype="general">박지성 기자 jisung@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 1000분의 1 수준 '극미량' 바이러스도 바로 잡아낸다 12-11 다음 삼성 '갤버즈4' 5년 만에 상반기 언팩 출격…예상 스펙은? 12-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
