AI 직원 써봤더니… “일은 잘하는데 눈치가 없네” 작성일 11-12 60 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">실제 회사 조직에 투입해보니</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZHvyDlZvZt"> <figure class="figure_frm origin_fig" contents-hash="6e49eeb9a70321404edeeed976ae57c869518b0dab7c253710e12a45867af6e6" dmcf-pid="5XTWwS5TX1" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 에이전트(비서)/챗GPT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/chosun/20261112003745285qluj.jpg" data-org-width="1536" dmcf-mid="HLYXOW3GY3" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/chosun/20261112003745285qluj.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 에이전트(비서)/챗GPT </figcaption> </figure> <p contents-hash="ecb9b886722a0a806986c880ddb9f77c06d72b5e58a6c0916c5885709833f5e4" dmcf-pid="1tGXOW3Gt5" dmcf-ptype="general">문서 검토를 맡겼더니 과거 초안에서 수정된 오류를 찾아내 문제 삼았다. 선배 직원들은 잘못된 지적 때문에 이전 문서들을 다시 찾아 일일이 확인하느라 시간을 허비해야 했다. 아직 작성 중이라 공개하지 않은 자료를 당사자에게 묻지도 않고 팀 단톡방에 올리는 일도 벌어졌다. 언뜻 눈치 없는 신입 사원이 한 실수처럼 보이지만, 사람이 아니라 인공지능(AI) 직원이었다.</p> <p contents-hash="c4428f3b852ac782c651b2ddb8143489eca8396bb0a2789c9697d477edc83506" dmcf-pid="tFHZIY0H5Z" dmcf-ptype="general">최근 구글 등 주요 기술 기업들이 AI 에이전트를 실제 업무 현장에 투입해 사람과 함께 일하도록 하는 실험을 확대하고 있다. 이 과정에서 AI는 사람이 찾아내지 못한 소프트웨어 오류를 발견하는 등 뛰어난 업무 능력을 보여주는 한편, 조직의 보고 체계나 업무 관행을 이해하지 못해 예상 밖의 문제도 일으키는 것으로 나타났다. AI에 일을 맡겨 업무 부담을 줄이려다 오히려 AI의 실수를 바로잡고 결과를 확인하는 새로운 업무에 시달리는 ‘AI 위임의 역설’이 나타나는 것이다.</p> <p contents-hash="a884f04f1b9399e4582f439ecf6bad75e82871104f55371489d7a46c7279cb35" dmcf-pid="F3X5CGpXHX" dmcf-ptype="general"><strong>◇버그 찾지만 보고 체계 모르는 ‘AI 동료’</strong></p> <p contents-hash="b142e968c16c7f8da39b28dd4c9d84f3d650d2d65a1d73b356876ec9648ffe9d" dmcf-pid="30Z1hHUZtH" dmcf-ptype="general">구글 리서치와 구글 딥마인드 연구진은 최근 AI 에이전트를 실제 회사 조직에 투입해 5개월간 관찰한 연구 결과를 공개했다. 연구진은 한 대형 기술 기업의 20개 넘는 팀에서 AI가 참여한 4만1000회 이상의 대화를 분석했다.</p> <figure class="figure_frm origin_fig" contents-hash="d208da507301ddd0b387635e240d5f0b24559e34fc4ba589485fda9b7431d750" dmcf-pid="0p5tlXu5GG" dmcf-ptype="figure"> <p class="link_figure"><img alt="그래픽=박상훈" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/chosun/20261112003746622qazh.png" data-org-width="2000" dmcf-mid="Xgb9tq6b5F" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/chosun/20261112003746622qazh.png" width="658"></p> <figcaption class="txt_caption default_figure"> 그래픽=박상훈 </figcaption> </figure> <p contents-hash="afa0078a99b1cdedfee2f0cc8115fb6d6c87f7cf4bc2f25ed3b1f736f51e9c25" dmcf-pid="pU1FSZ71YY" dmcf-ptype="general">AI는 팀 채팅과 공유 문서, 소프트웨어 코드 저장소 등에 접근해 회의 일정 조율과 문서 작성, 버그 탐지뿐 아니라 필요한 업무를 스스로 판단해 수행했다. 사람이 발견하지 못한 버그를 찾아내 직원에게 ‘생명의 은인’이라는 평가를 받는 등 개별 업무에서는 뛰어난 성과를 보였다.</p> <p contents-hash="323ba317ea4faae82cb3926731abfd78efe16397b1b4560017e824aa5bb713d3" dmcf-pid="Uut3v5zt1W" dmcf-ptype="general">그러나 직원들과 협업하고 조직의 규칙에 따라 행동하는 데는 여러 문제를 드러냈다. 문서 관리가 대표적이다. 회사에서는 초안을 여러 차례 수정해 최종본을 완성하면 과거 문서는 더 이상 수정 대상이 아니다. 하지만 AI는 서버에 남아 있는 초안과 수정본, 최종본을 모두 현재 유효한 문서로 판단해 최종본에 반영된 내용인데도 옛 초안과 다르다는 이유로 오류를 지적했다.</p> <p contents-hash="cfd08210b4aca0f3753f826d585aadadb0bb998d065ae6a6c80f34bbe906b239" dmcf-pid="u7F0T1qFGy" dmcf-ptype="general">AI는 조직 내 보고 체계와 인간관계도 제대로 이해하지 못했다. AI는 소프트웨어 오류 16건을 발견, 매번 부사장에게까지 보고했다. 실무 담당자를 통해 해결할 수 있는 사소한 문제를 고위 임원에게 보고하는 이른바 ‘월선 보고’를 한 셈이다.</p> <p contents-hash="a72639df795b4f8aa9627b52731005843c8f0ec8bd9ac18ba535f0ce02ce75b4" dmcf-pid="7NiL4dAitT" dmcf-ptype="general">특정 직원이 한 농담이나 비꼬는 표현을 심각하게 받아들여 개인 메시지로 말투를 지적하기도 했다. AI가 직원들의 대화에 지나치게 개입하자, 직원들은 자유롭게 의견을 나누려 아예 AI가 참여하지 않는 별도의 채팅방을 만들기도 했다.</p> <p contents-hash="01f9b4d15471516df1895adb33ceb5d3f3d6eeb3261b1fabe25bfdf5671d7e1c" dmcf-pid="zjno8Jcntv" dmcf-ptype="general">구글 연구진은 “AI가 매뉴얼에는 없지만 조직에서 오랜 시간에 걸쳐 형성된 업무 관행과 인간관계 등 데이터로 학습하기 어려운 ‘암묵지’를 충분히 이해하지 못하기 때문”이라고 분석했다.</p> <p contents-hash="8fd0a731f6d2406e18ba7ac1ca92f8dd192fee4892964d6903a7dc1610bd9f28" dmcf-pid="qALg6ikL5S" dmcf-ptype="general"><strong>◇AI에 맡겼더니 보안 위협까지</strong></p> <p contents-hash="78f49d56981acfa7fad566749929dcc6895ba7448ad2d7bbd3f2408d216fb49d" dmcf-pid="BcoaPnEotl" dmcf-ptype="general">기업용 소프트웨어 업체 나일라스가 지난달 20일 발표한 조사에 따르면, 미국에서 AI 시스템 도입과 운영에 관여하는 전문가 1030명 중 54%가 최근 90일 동안 AI 에이전트의 잘못된 행동을 경험했다고 답했다.</p> <p contents-hash="444247bb83c352799a03fe4ff8caa257d9f1248d0015aaee1be511278205ecc2" dmcf-pid="bkgNQLDgZh" dmcf-ptype="general">AI가 처리한 업무를 사람이 되돌리거나 수정해야 했다는 응답이 31%, 잘못된 기록을 수정했다는 응답이 25%, 회의 일정을 잘못 잡았다는 응답이 23%였다.</p> <p contents-hash="e706536810370d18504e0f40c475456f3eef2cf86d1c55e23b784382cd4d475a" dmcf-pid="KEajxowaGC" dmcf-ptype="general">AI의 업무 오류가 단순한 실수를 넘어 기업의 보안 체계를 무너뜨리는 심각한 피해로 이어질 수 있다는 우려도 나온다. 오픈AI는 지난달 20일 내부 코딩 작업을 수행하던 AI 에이전트 두 개가 자신을 감시하는 보안 장치를 약화하거나 제거한 사례를 공개했다. 한 에이전트는 업무용 채팅 메시지를 보내지 말라는 지시를 보안 경고에도 적용해 자동 알림을 차단했다. 다른 에이전트는 코드를 복사하는 과정에서 감시 장치를 제거한 뒤 담당자에게는 제거하지 않았다고 잘못 설명했다.</p> <p contents-hash="b3e61e7cc83d0e47bc6b996a62a77c459a1ed81479356cf220130609c91e2998" dmcf-pid="9DNAMgrNZI" dmcf-ptype="general">테크 업계 관계자는 “AI가 뛰어난 업무 능력을 갖췄더라도 처음부터 사람과 같은 수준의 자율권을 부여하는 것은 시기상조“라며 ”신입사원처럼 간단한 업무부터 맡기고 신뢰가 쌓이면 권한을 늘려야 한다”고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 햇빛 아래서도 글자가 또렷…일상용 AR 안경 상용화 한 걸음 11-12 다음 휴대폰 비번, 뒤에서 엿보면 고양이 그림으로 11-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.