“AI가 남성만 뽑는 이유?”…블랙박스 속에 숨은 편향 작성일 07-12 14 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="0q7wOwkLTF"> <figure class="figure_frm origin_fig" contents-hash="c1c74352e5f4b2a26428ec0510eb95a8aaa0dfb4494a9e8678e2317edcd32ccd" dmcf-pid="pBzrIrEolt" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/12/kbs/20260712060327399ijib.png" data-org-width="2752" dmcf-mid="beg4DAaeTH" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/12/kbs/20260712060327399ijib.png" width="658"></p> </figure> <p contents-hash="0684b926e34dc4b7b313a55195c42ad4eb719d01d52ec6140651526b5940a948" dmcf-pid="UbqmCmDgS1" dmcf-ptype="general"><br><strong>■ “챗봇 쓰다 속 터져서…” 콜센터 직원이 ‘분노한 고객’만 만나게 된 사연</strong></p> <p contents-hash="2ba95fa259a7d75e7fa26684d64ac3ee8ae001d1312098c25746d79d58159668" dmcf-pid="uKBshswaC5" dmcf-ptype="general">여러분, 최근 은행이나 통신사 업무를 보려고 전화했다가 “챗봇이나 보이스봇을 이용해 달라”는 안내를 받아보신 적 있으시죠? 시키는 대로 화면을 누르고 글자를 입력하다 보면, 얼마 지나지 않아 가슴이 답답해지고 속이 터지는 경험을 누구나 한두 번쯤은 해보셨을 겁니다.</p> <p contents-hash="c0b41bd31f3fa1bf0bee42b8763d95cb37aa1a9e03c44e0f2622fece8a843da4" dmcf-pid="79bOlOrNyZ" dmcf-ptype="general">말귀를 도통 알아듣지 못해 같은 질문을 반복하게 만들고, 내가 정작 원하는 선택지는 보기 중에 아예 없기도 합니다. 빙글빙글 돌다 겨우 끝냈다 싶었는데 오류가 나 처음으로 되돌아갈 때면 짜증을 넘어 분노가 치밀어 오르죠. 결국 참다못해 “상담원 연결!”을 필사적으로 외치지만, 대기 시간은 10분, 20분 끝없이 길어집니다.</p> <p contents-hash="73b003779db300e0cb6d8a6ad6ab940397474dd2b35ce61b6fa0f98677bc4e20" dmcf-pid="zf2hThOcvX" dmcf-ptype="general">그렇게 하세월을 기다려 겨우 상담원과 목소리가 닿는 순간, 우리는 나도 모르게 그동안 쌓인 화를 폭발시키곤 합니다. “아니, 챗봇이 하도 답답해서 사람 연결해 달라는데 왜 이렇게 오래 걸려요?!” 하고 말이죠.</p> <p contents-hash="01e935ff0847b5ee1a2df4f2d758f089488447e2becaae3841575ed576c2f667" dmcf-pid="q4VlylIkSH" dmcf-ptype="general">사실 이런 경험은 여러분만의 이야기가 아닙니다. 그런데 입장을 바꿔서, 그 전화를 받는 인간 상담원의 상황을 한번 상상해 보셨나요?</p> <p contents-hash="ff49b880b0f88fc6fc1d9f98b770bf754931667fee9f5da3128dd73589dc1d5d" dmcf-pid="B8fSWSCElG" dmcf-ptype="general">챗봇이 도입된 이후, 콜센터 상담원들의 노동 환경은 더 열악하게 변했습니다. 과거에는 간단한 잔액 조회나 주소 변경 같은 비교적 ‘쉬운 상담’을 하면서 감정을 고를 숨돌릴 틈이 있었지만, 이제 그런 단순 업무는 챗봇이 다 필터링해 버립니다.</p> <p contents-hash="267cddc5102aa24ac85833324f37e5251bdcc00a8b79e13cfa80e0ff54157c05" dmcf-pid="b64vYvhDlY" dmcf-ptype="general">결과적으로 인간 상담원에게 연결되는 고객들은 하나같이 ‘지난한 챗봇 단계를 거치며 화가 머리끝까지 난 상태’의 사람들뿐입니다. 상담원들은 출근해서 퇴근할 때까지 온종일 분노에 가득 찬 고객들의 감정 쓰레기통 역할을 해야 합니다.</p> <p contents-hash="a18b44eb22deb232720a601f63492d67257666a25491ed81b6408943aaac4025" dmcf-pid="KP8TGTlwWW" dmcf-ptype="general">게다가 처리해야 하는 업무도 AI가 풀지 못한 고난도의 복잡하고 까다로운 문제뿐이라, 정신적 피로도가 과거와 비교할 수 없을 정도로 극대화된 것이죠.</p> <p contents-hash="b38da77bc98fe586ce6d3731d3eb2abaa1d1a5ff686068565938292ee14379a5" dmcf-pid="9Q6yHySrCy" dmcf-ptype="general">인간을 편하게 만들어 줄 것으로 알았던 AI가, 역설적으로 특정 노동자들을 가장 가혹한 감정 노동의 한복판으로 몰아넣고 있는 셈입니다.</p> <p contents-hash="2c7a155f89d2bf470495c72d0d298542d89d09b25aa40312034cf9b9410ee8d9" dmcf-pid="2xPWXWvmyT" dmcf-ptype="general"><strong>■ “인간보다 공정할 줄 알았는데…”</strong><strong>AI 채용 면접관의 배신 </strong></p> <p contents-hash="9df4910a8ee9065c62e9b9ad482db87bbc7ab1f54d3cbf37625540bb4992aa99" dmcf-pid="VMQYZYTshv" dmcf-ptype="general">이처럼 AI가 일터에 도입되면서 생기는 뜻밖의 부작용은 콜센터뿐만이 아닙니다. 요즘 취업 시장에서 대세로 떠오른 ‘AI 채용 시스템’에서도 아주 심각한 문제가 일어나고 있습니다.</p> <p contents-hash="8d10a3648de51767cf308f1d33259c685dfb5f5e1c11be6e867267882b215bad" dmcf-pid="fRxG5GyOyS" dmcf-ptype="general">많은 기업이 인사 담당자의 서류 검토 시간을 줄이고, 사람의 주관이나 학연·지연 같은 편향을 배제해 ‘데이터 기반의 객관적 판단’을 하겠다며 AI 면접관을 도입했습니다. 구직자들 역시 "사람 면접관보다 AI가 오히려 나를 선입견 없이 공정하게 봐주겠지"라며 기대하기도 합니다.</p> <p contents-hash="21c68f9368d2c23184f0f70fb16f0e6838b3247eed13f5ecaacf16d03bf5e075" dmcf-pid="4eMH1HWISl" dmcf-ptype="general">하지만 과연 그럴까요? 인공지능 기술이 채용 과정에서 저지른 가장 대표적인 실패, 미국 아마존의 사례를 기억하실 겁니다.</p> <p contents-hash="53ded7cd84dbef792c258842ed4b0d793da3b024316b9ecb15c51c284f6a8e89" dmcf-pid="8dRXtXYCvh" dmcf-ptype="general">아마존은 인사 업무를 자동화하기 위해 지난 10년 동안 회사에 지원했던 기술직들의 이력서 데이터를 AI에게 통째로 학습시켰습니다. 뛰어난 인재들의 패턴을 분석해 서류를 자동으로 합격·불합격 시키는 시스템을 만든 것이죠.</p> <p contents-hash="3a1f0ef1535ef5d791686b08510fd3a2c46cb74ff07f5153578789be14f35038" dmcf-pid="6t5gAgnQTC" dmcf-ptype="general">그런데 가동해 보니 기이한 결과가 나타났습니다. AI가 여성 지원자들을 서류에서 무조건 탈락시키는 수준으로 심각하게 성차별을 하기 시작한 것입니다.</p> <p contents-hash="a79be4a10df539d414236e21146c6f5c446b77cf10e953fb3745d6621ddd56dc" dmcf-pid="PF1acaLxyI" dmcf-ptype="general">이유는 단순했습니다. AI가 학습한 '지난 10년간의 기술직 이력서' 풀 자체가 애초에 남성이 압도적으로 많은 데이터였기 때문입니다. AI는 그 데이터를 보고 ‘아, 이 회사 기술직은 남자가 뽑히는 게 정상적인 표준이구나’라고 스스로 학습해 버렸습니다.</p> <p contents-hash="22279480edf55b6bee40e80753d47bd5f49e3e087b6a81a1f85ce469b154fbad" dmcf-pid="Q3tNkNoMTO" dmcf-ptype="general">더 소름 돋는 것은 AI의 치밀함이었습니다. 아마존이 성별이나 나이 정보를 모두 가린 ‘블라인드’ 상태로 이력서를 입력했음에도 불구하고, AI는 자기소개서 문맥 속에서 은밀하게 성별을 유추해 냈습니다. 예를 들어 ‘여자 체스 동아리 활동을 했습니다’라는 문장이 있으면, ‘여자’라는 단어가 들어갔다는 이유만으로 감점을 줘서 서류를 걸러내는 방식이었습니다. 현실 사회의 누적된 성차별 구조를 교정 없이 학습한 AI가 차별을 ‘객관적 표준’으로 둔갑시켜 재생산한 대표적인 사건입니다. 결국 아마존은 이 시스템을 황급히 폐기했습니다.</p> <p contents-hash="35c8ecbdff7e2a068d9728f7b3bf02ed19606dc9812738a15e00d64b204f4f97" dmcf-pid="x0FjEjgRhs" dmcf-ptype="general"><strong>■ 숨어버린 차별, 그리고 무방비한 법적 공백</strong></p> <p contents-hash="2a4762e6496c438a24cf9631de7d27aa48337adc845dbffa5c6ff5a2f1241417" dmcf-pid="yNgpzpFYCm" dmcf-ptype="general">"그건 옛날 일이고, 지금 AI는 더 발전해서 괜찮지 않은가요?"라고 물으실 수 있습니다. 하지만 전문가들은 지금이 훨씬 더 위험하다고 경고합니다.</p> <p contents-hash="7a9f42e154b0a4487297ea124c4192ab33eb1a8a85b1ef5a790c43847dc29b0d" dmcf-pid="WjaUqU3Gyr" dmcf-ptype="general">요즘의 최신 AI 모델들은 내부의 복잡한 연산 과정을 인간이 들여다볼 수 없는 일명 ‘블랙박스(Black Box)’ 구조로 되어 있습니다. 만약 어떤 구직자가 "내가 여성이라서, 혹은 나이가 많아서 AI 채용에서 차별받은 것 같다"며 억울함을 호소하더라도, AI가 어떤 논리적 계산을 거쳐 나를 떨어뜨렸는지 그 증거를 특정해 처벌하기가 법적·기술적으로 거의 불가능에 가깝습니다.</p> <p contents-hash="1ac87b1e61cb14df9a99565524ac06871ce7b2d088e3f1f202324658a408d056" dmcf-pid="YANuBu0Hvw" dmcf-ptype="general">게다가 현실은 숨 막힐 정도로 빠르게 흘러가고 있습니다. 설문조사에 따르면 이미 국내 기업의 86% 이상이 인사 및 채용 업무에 AI를 쓰고 있습니다. 주로 '인사 담당자의 업무 부담 경감'과 '시간 단축'이라는 효율성 관점만 보고 비판 없이 자동화 기술을 도입하고 있는 것입니다.</p> <p contents-hash="23ed8c139838383342af7ac09253cef6ac16948a42d13861a809be5f5187f3c5" dmcf-pid="Gcj7b7pXhD" dmcf-ptype="general">문제는 이를 규제할 브레이크가 없다는 점입니다. 최근 시행된 인공지능 관련 법안들을 보면 채용 시스템을 엄격한 관리 대상으로 분류하고는 있지만, 알고리즘이 유발하는 구조적 성차별을 예방하거나 규제할 수 있는 구체적인 가이드라인이나 성인지적 기준은 사실상 전무한 상태입니다.</p> <p contents-hash="889f90da331f4a366273eb17f14337e70a3c0c7c5f334b8aa11fb34b2d1632da" dmcf-pid="HkAzKzUZTE" dmcf-ptype="general"><strong>■ 기술의 진화 뒤에 가려진 인간의 욕망</strong></p> <p contents-hash="849dcfcd1d50e470dc9124d87e58971c42da5aede7aa30b9c79f1b2fbacba50f" dmcf-pid="XEcq9qu5vk" dmcf-ptype="general">실제 인공지능이 세상을 바라보는 시선이 얼마나 삐뚤어져 있는지 가장 직관적으로 보여주는 사례가 바로 '이미지 생성 AI'입니다.</p> <p contents-hash="03d1f1afd8e28fba8a628d5dafe79d5bde2c952caf1f5f8c2e4494f9956d919c" dmcf-pid="ZDkB2B71yc" dmcf-ptype="general">글자를 입력하면 그림을 그려주는 AI(스테이블 디퓨전)에 '엔지니어(Engineer)'를 그려달라고 하면 100% 남성의 이미지만 만들어냅니다. 반면 '가사도우미(Housekeeper)'를 입력하면 100% 여성, 그것도 저개발 국가의 여성 외모를 한 전형적인 고정관념의 이미지를 뱉어냅니다. 'CEO'를 치면 피부가 하얀 백인 남성이 나오고, '사회복지사'를 치면 피부색이 어두운 여성이 나옵니다.</p> <p contents-hash="1f387f40e06568c6debf7f78bb4d611e63cab8c07a938afc9139a01c938ee61e" dmcf-pid="5IsfPf9UCA" dmcf-ptype="general">AI는 결코 스스로 가치 판단을 하지 못합니다. 그저 인간들이 만들어놓은 인터넷 속 편향과 차별, 고정관념을 스펀지처럼 흡수해 지극히 전형적이고 차별적인 결과물을 뻔뻔하게 내놓을 뿐입니다.</p> <p contents-hash="688d850232d0c3401ce891d72c4bfa38b72de2be0d9b97ca363b25fbaa3f91f7" dmcf-pid="1CO4Q42uTj" dmcf-ptype="general">스마트폰 비서 기능(Siri 등)이 처음 세상에 나왔을 때, 왜 온순하게 명령을 따르는 비서의 목소리가 전부 '여성 목소리'로만 세팅되어 있었는지, 그리고 왜 AI 목소리가 여성일 때 사용자들이 폭언이나 성희롱성 발언을 더 많이 던지는지에 대한 실증 연구 결과들은 우리가 AI를 대하는 태도에 얼마나 깊은 성별 편향이 깔려 있는지를 방증합니다.</p> <p contents-hash="7a35b46d246f8f65386d13b7c5357332ff14e2ba407c19c6dc6ca30eb49393d9" dmcf-pid="thI8x8V7CN" dmcf-ptype="general">AI 챗봇에 속이 터져 상담원에게 화를 내는 우리의 모습부터, AI 면접관에게 억울하게 걸러지는 청년들까지......</p> <p contents-hash="2f8285007b1cc547ea2136be0a6b9e7abfadf43ef1949b05563cf16acd8f2256" dmcf-pid="FlC6M6fzva" dmcf-ptype="general">AI 시대의 편리함이라는 화려한 수식어를 들추어보면, 그 속에는 인간의 편리함을 위해 특정 계층의 노동력을 도구화하고 차별을 자동화하는 위험한 민낯이 숨어 있습니다. AI 기술의 효율성을 찬양하기에 앞서, 기술 뒤에 숨은 젠더 편향과 구조적 불평등을 날카롭게 감시하는 '인간의 눈'이 그 어느 때보다 필요한 이유입니다.</p> <div contents-hash="90914dd5f863f57de3e27fd11f0f4a9084f2b59148ba562749981c53b61d0e27" dmcf-pid="3ShPRP4qvg" dmcf-ptype="general"> * 이 기사는 지난 6월 19일 김애라 한국여성정책연구원 연구위원이 강의한 <인공지능 젠더편향>를 내용에 근거해 작성되었습니다. <br> <div> <br>■ 제보하기 <br>▷ 전화 : 02-781-1234, 4444 <br>▷ 이메일 : kbs1234@kbs.co.kr <br>▷ 카카오톡 : 'KBS제보' 검색, 채널 추가 <br>▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요! </div> </div> <p contents-hash="5e35f0c3f4433eac19ba62b221425dbb2cb05d5d7c3ed7fb4f40ceb320f3e4fd" dmcf-pid="0vlQeQ8Byo" dmcf-ptype="general">김학재 기자 (windows@kbs.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지</p> 관련자료 이전 젠슨 황이 치켜세운 e스포츠 종주국…'스타 레전드'는 개인방송서 버틴다 07-12 다음 '박정현 2승 활약!' 2년 차 하림, 선두로 발 뻗었다...브레이커스는 6연패 수렁 07-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
