‘AI 커닝’ 기술에 뒤처진 안전장치…“제조사 책임 기준 세워야” 작성일 11-17 69 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI안경 촬영 표시등 등 감지기능 강화에도 우회수법 빠르게 진화<br>설계단계부터 대책 확대 속 “실효성 있는 가이드라인 필요” 지적</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="26CapPztl9"> <figure class="figure_frm origin_fig" contents-hash="4ab8bff7aabc0d41dd81e364be7c20d82000ee600d04c29f9490da680e5d05f2" dmcf-pid="VPhNUQqFvK" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/17/khan/20261117203143166wmow.jpg" data-org-width="1032" dmcf-mid="9WPuEYmjS2" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/17/khan/20261117203143166wmow.jpg" width="658"></p> </figure> <p contents-hash="a40351fe8468973cffa2c16ff70d7d833871773aac3c270fa6b422354ed8207d" dmcf-pid="fiGr9n4qSb" dmcf-ptype="general">인공지능(AI)을 이용한 시험 부정행위를 막기 위해 정부가 AI안경 같은 제품의 설계단계까지 대책을 넓히고 있다.</p> <p contents-hash="74dea860a5fee48cfd8b77d3015eb1c5f7987dcb0bfbbd929689d9a91e50934d" dmcf-pid="4nHm2L8BlB" dmcf-ptype="general">다만 기존 ‘촬영 표시등’에 대한 우회수법이 잇따라 등장하고, 일반 안경처럼 보이려는 업계 흐름과도 거리가 있어 실효성 있는 기준을 마련하기까지는 진통이 예상된다.</p> <p contents-hash="c8cd80f85700e6ec6d32fdca9ddb79509a700edf6564e8df52c9c5632cfb5b8d" dmcf-pid="8LXsVo6bWq" dmcf-ptype="general">17일 취재를 종합하면, 촬영 표시등은 이미 주요 AI안경에 달려 있다. 메타는 표시등을 가리면 카메라가 멈추도록 안전장치를 강화해왔다. 삼성전자·구글도 지난 12일 사전 판매를 시작한 AI안경(사진)에 표시등 가림·개조 감지 기능을 넣었다. 구글은 표시등을 무력화하는 제품의 광고를 금지했다.</p> <p contents-hash="204cf91f31de696ac23e7398a49708c7125d4b83bdb13f5868f8ca13614c778d" dmcf-pid="6oZOfgPKvz" dmcf-ptype="general">송근현 교육부 대학정책관은 지난 16일 국회 교육위원회에서 AI안경 등 스마트기기 사용이 겉으로 드러나도록 설계하는 방안을 과학기술정보통신부 등과 협의하기 시작했다고 밝혔다. 정부는 기기를 사용할 때 불빛이나 소리로 알리도록 하는 방안을 검토하고 있다.</p> <p contents-hash="3270b825cb7d307d68ea35f7243f6389a20e746e527ec3a4c82e4157b0f57115" dmcf-pid="Pg5I4aQ9W7" dmcf-ptype="general">문제는 안전장치를 강화해도 우회수법이 계속 등장한다는 점이다. 미국 정보기술(IT)매체 엔가젯의 지난 7월 실험에서는 저가 스티커로 표시등을 가린 뒤에도 메타 AI안경으로 촬영할 수 있었다. 해외에서는 표시등을 무력화하는 개조 서비스까지 등장했다. 메타는 조작이 감지된 안경 수천대의 촬영 기능을 정지시키기도 했다.</p> <p contents-hash="8c6ce7e8e0b776a80bff2973ad85e817f1e8f36184891c22c9831dabcefe3e00" dmcf-pid="Qa1C8Nx2Cu" dmcf-ptype="general">알렉스 히멜 메타 웨어러블부문 부사장은 “쫓고 쫓기는 게임”이라며 우회 방식이 계속 나올 수 있다고 지적했다.</p> <p contents-hash="a2d0a1cb9352cfea87d868487cd9046972af1d234ca45d581b060082e70d0113" dmcf-pid="xNth6jMVWU" dmcf-ptype="general">표시등이 촬영할 때만 켜지는 ‘반쪽짜리’라는 점도 한계다. 메타가 안경 브랜드 레이밴과 함께 만든 AI 안경 ‘레이밴 메타’의 공식 FAQ에 따르면, 신형 모델은 눈앞의 사물에 관해 AI에 물을 때 표시등이 켜지지 않는다.</p> <p contents-hash="16f60a956760375c0492c618a2c96e06d28e09e87ee8b974fe924ffe14d75057" dmcf-pid="y0o4SpWICp" dmcf-ptype="general">사진·영상을 찍어 보관하는 것과 AI에 보여주고 답을 듣는 것을 다르게 취급하기 때문이다. 시험지를 카메라로 읽어 AI에 질문하더라도 표시등이 켜지지 않을 수 있다는 뜻이다.</p> <p contents-hash="604a49b8fda3e8f103c17b59bd79f05dbfecc46fa6697b4ab3663f9ae6733d89" dmcf-pid="W7jQWzXSW0" dmcf-ptype="general">현재는 저가 제품을 걸러낼 검사 체계도 없다. </p> <p contents-hash="f5a230379ca4f5e0d3caf0110615ef2a5a85911af55b2d7b1e3b6cceec5f70cb" dmcf-pid="YzAxYqZvW3" dmcf-ptype="general">국내 온라인 쇼핑몰에선 카메라를 달고 동영상 촬영 기능을 내세운 스마트안경이 5만원 안팎에도 팔리지만, 수입·판매 때 받는 전파 검사는 전파 간섭 등을 확인할 뿐 촬영 표시등은 검사하지 않는다. 개인 사용 목적의 해외직구 제품은 모델별 1대까지 이 검사마저 면제된다.</p> <p contents-hash="aa7d29e57066d6cc0de4c65e0e1db22ae440202dde9b004e834c5d94e433b0af" dmcf-pid="GqcMGB5TSF" dmcf-ptype="general">AI안경을 더 눈에 띄게 만들자는 제안도 나오지만 ‘일반 안경 같은 AI안경’을 앞세운 제조사들이 자발적으로 따를지는 미지수다.</p> <p contents-hash="7d653b131a9948c2fb82047beacb20714e85901ba9dec4cb39328e680b9b9e54" dmcf-pid="HBkRHb1yvt" dmcf-ptype="general">유럽 개인정보보호이사회(EDPB)는 지난달 AI가 영상을 처리할 때도 표시등을 켜고, 일반 안경과 구별되는 디자인도 고려하라고 권고했다. </p> <p contents-hash="f6fe40e80a5d601a529e57beab289e9eb9431c6d31bd6a1976acc50ecd04e28f" dmcf-pid="XbEeXKtWW1" dmcf-ptype="general">하지만 메타는 AI안경을 일반 안경처럼 보이는 외형을 강조하고 있다. 삼성전자도 지난 7월 AI안경의 궁극적 목표를 “전자기기를 착용했다는 사실을 의식하지 않고 일반 안경처럼 쓰게 하는 것”으로 제시했다.</p> <p contents-hash="336bc9c4f19443e039766c0e6d03958c58dbb6e08250a00d3eb06c91373dbe34" dmcf-pid="ZKDdZ9FYT5" dmcf-ptype="general">개인정보보호위원회는 연내 제조사 등을 대상으로 개인정보 보호 가이드라인을 마련할 예정이다. 초기 단계인 산업을 위축시키지 않으면서도 제조사 책임을 분명히 하는 실효성 있는 기준을 세울 수 있을지가 관건이다.</p> <p contents-hash="beb61c6e90939b63ed3e8302bff950b02e3efd9cde913b9663b63a97d076567c" dmcf-pid="59wJ523GvZ" dmcf-ptype="general">이정희 중앙대 경제학과 교수는 “AI안경의 성능은 빠르게 발달해왔지만, 탐지 기술은 그동안 상대적으로 뒤처져 있었던 게 ‘커닝 사태’의 근본 문제”라며 “이번 사태로 오히려 인지도가 높아지고 제품 확산세가 빨라질 수 있는 만큼 가이드라인을 서둘러 마련해야 한다”고 말했다.</p> <p contents-hash="84477133f806cad0791ee4b0f3073ac0253b6ad07b7df015c24b71603d09d951" dmcf-pid="12ri1V0HlX" dmcf-ptype="general">김세훈 기자 ksh3712@kyunghyang.com</p> </section> </div> <p class="" data-translation="true">Copyright © 경향신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 "AI에이전트로 실무역량 평가"...블루필, 사업 영역 확대 11-17 다음 ‘피아노 칠 시간에 문제집 한 장 더’…알고 보니 악기 배운 아이가 학습도 앞섰다 [후암동 논문 연구소] 11-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.