AI가 내놓은 '오답', 이유는 당신의 '질문' 작성일 02-22 34 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="0FNNEf0HvE"> <div class="video_frm" dmcf-pid="pUkkmP71Ck" dmcf-ptype="kakaotv"> <div class="layer_vod"> <div class="vod_player"> <iframe allowfullscreen class="player_iframe" dmcf-mid="YDEIviV7ll" dmcf-mtype="video/kakaotv/owner" dmcf-poster-mid="38UUBlAivD" frameborder="0" height="370" id="video@YDEIviV7ll" poster="https://t1.daumcdn.net/news/202602/22/YTN/20260222060714316svyp.jpg" scrolling="no" src="//kakaotv.daum.net/embed/player/cliplink/461427187?service=daum_news&m_use_inline=true&ios_allow_inline=true&m_prevent_sdk_use=true&wmode=opaque" width="100%"></iframe> </div> </div> </div> <p contents-hash="f110e1942b18ea1f5683d501992c682c20a2f00c498747500e8a4cfd6da3e738" dmcf-pid="UuEEsQztWc" dmcf-ptype="general">[앵커] </p> <p contents-hash="0e2b5e5195b960a9b59a14607d2c1ca588ad21fcca078af10b7c32fbfe43fe81" dmcf-pid="u7DDOxqFvA" dmcf-ptype="general">생성형 인공지능, AI 시대. </p> <p contents-hash="a8270f504b92d25615b70d5cbc0ce621cd9cfa6b223bd2a87bbc20bf15fc8b77" dmcf-pid="7zwwIMB3Cj" dmcf-ptype="general">흔히들 '데이터가 편향되면 결과도 편향된다'고 말합니다. </p> <p contents-hash="fe0632bd730127a5df857b4148ceaa423ff3a0aee6628737e3cb7c4dd22316f9" dmcf-pid="zqrrCRb0WN" dmcf-ptype="general">하지만 그게 전부가 아닙니다. </p> <p contents-hash="8debef16cb901bbdb5ec0a20f5ab88b18085743a38469f53f0adde6fe9bd021c" dmcf-pid="qBmmheKpla" dmcf-ptype="general">우리가 AI를 어떻게 생각하고, 어떤 질문을 던지느냐가 AI의 편향성을 더 부추긴다는 분석이 나왔습니다. </p> <p contents-hash="cdcb2de7e2ebce8bff3fbf0780a33632ef24b32c7396f1e7bed2a250065f49e7" dmcf-pid="Bbssld9Uyg" dmcf-ptype="general">고한석 기자가 보도합니다. </p> <p contents-hash="54121c7eea664542187ab828c3f4c586ed1f64781b2ca120ec1ee07ecff84358" dmcf-pid="bKOOSJ2uvo" dmcf-ptype="general">[기자] </p> <p contents-hash="49d494d91322664042704978a036be571916510f013d9926c2b50a862a426e89" dmcf-pid="K9IIviV7WL" dmcf-ptype="general">영화 [아이언맨]. </p> <p contents-hash="70d0dd71457dcd2c44641d5e5aae02a733dbf40049ece6d8033800907c17502a" dmcf-pid="92CCTnfzWn" dmcf-ptype="general">주인공 토니 스타크는 AI 비서 '자비스'와 끊임없이 의견을 주고받고, 때로는 충돌하며 결정을 내립니다. </p> <p contents-hash="fc0e2c376c1f6a23f1d0ea2aad212f46309a6eadd5d167af3cd7ef2bd4d86bb9" dmcf-pid="2wKK4GmjWi" dmcf-ptype="general">그런데, 영화 주인공과 달리 특정 결과만을 바라고 묻는다면 오히려 AI는 질문자의 한쪽으로 치우친 인식을 강화하는 도구가 됩니다. </p> <p contents-hash="2a04c09c77d78122dc99d8080c509d95653c904ecf692c747b05d5e1d1567f02" dmcf-pid="Vr998HsASJ" dmcf-ptype="general">전문가들은 AI의 오류가 단순히 학습 데이터 문제가 아니라, 인간과의 상호작용 과정에서 발생할 수 있다고 말합니다. </p> <p contents-hash="0352a381e167aeb35aa9e728245c55ebd0290dec8632bada92cae671c718065e" dmcf-pid="fm226XOchd" dmcf-ptype="general">사용자의 질문 내용과 방식이 AI의 행동을 결정짓는 핵심 변수라는 겁니다. </p> <p contents-hash="bd2ac3508d7d5485f50966d783f9b1d14e58c7f89ab217c78b326fa794ddc094" dmcf-pid="4sVVPZIkCe" dmcf-ptype="general">대표적인 것이 "왜 우리 제품이 최고지?" </p> <p contents-hash="81e584a423cfc2ee17237b96d78e95b43932d702f7269a11ad4c6bb897ef5dff" dmcf-pid="8OffQ5CEhR" dmcf-ptype="general">라고 묻는 식의 '유도 질문 편향'입니다. </p> <p contents-hash="2a3d141e979bb8eb1bd3ab91f5c5339cf13e6a8d098e69cb9279ece5eda16f92" dmcf-pid="6I44x1hDhM" dmcf-ptype="general">이런 질문에 답할 때 AI는 제품의 단점을 가리고 강점만을 나열하게 되는 겁니다. </p> <p contents-hash="8b87b54b883630526e7e7706781641208c513b8165e8258e507a1a4cc91acfd1" dmcf-pid="PC88MtlwTx" dmcf-ptype="general">[김덕진 / IT커뮤니케이션연구소 소장 : 정확한 답변과 좋아할 만한 답변이 있을 때 일반적으로 그걸 피드백하는 사람들이 자기가 좋아하는 것들에 더 '좋아요'를 많이 누른단 말이죠. 그렇기 때문에 AI도 사람의 편향성을 똑같이 담게 되는 현상입니다.] </p> <p contents-hash="e0a3498c66ee337bc04e412468067063dc61f934a64cc35b3532d2747b41cce5" dmcf-pid="Qh66RFSrlQ" dmcf-ptype="general">AI의 결과물을 받아든 뒤에도 또 다른 함정이 기다리고 있습니다. </p> <p contents-hash="89d2c15c6ca80f1daa5f3e89485ad99559bb18879d68c3c95f557714edd4f0da" dmcf-pid="xlPPe3vmTP" dmcf-ptype="general">자신이 공들여 만든 결과물을 과도하게 신뢰하는 이른바 '소유 효과'가 발생해, 더 나은 대안을 거부할 수 있습니다. </p> <p contents-hash="6d460d86ea2698b42b31a7452ad436d5c15c98f44e4c6d843ef07f8854b4ef21" dmcf-pid="y8vvGaPKC6" dmcf-ptype="general">인지적 편향은 뇌가 정보를 단순화하려는 본능적인 과정입니다. </p> <p contents-hash="280940c90dd8cd7dae504b25f6b41caffa36f803d24d20c044a5066a9d286167" dmcf-pid="W6TTHNQ9T8" dmcf-ptype="general">전문가들은 이 편향에 지나치게 빠지지 않으려면 AI의 답을 그대로 받아들이기보다, 의도적으로 질문을 뒤집어보라고 조언합니다. </p> <p contents-hash="f9ee43b5da9ed671d665668e857b8e77f654c298a040dd0af27a37b95cb402c4" dmcf-pid="YxYY5cRfy4" dmcf-ptype="general">내 논리의 허점을 찾아 달라거나, 반대 입장에서 비판하라는 질문을 더 하는 것만으로도 AI가 놓친 사각지대를 점검할 수 있습니다. </p> <p contents-hash="6a78b40b4097b6bd4e333e24253c2b63058a26a034cc3ee4451006c37c70c89c" dmcf-pid="GMGG1ke4yf" dmcf-ptype="general">[전창배 / 인공지능 윤리협회 이사장 : AI는 아직 불완전한 기술이기 때문에 이러한 AI의 잘못된 조언과 정보를 그대로 수용하게 되면 굉장히 위험할 수 있다는 걸 알아야 됩니다.] </p> <p contents-hash="9cb89c49b88d9a8940c8ad7389b4a46622d0f2cf15e256ecc5d2bf3e7d555b97" dmcf-pid="HRHHtEd8WV" dmcf-ptype="general">결국, AI를 더 책임감 있고 효과적으로 만드는 마지막 열쇠는 인간의 비판적 사고입니다. </p> <p contents-hash="ddbd0ffb8c028f1328c8c97fd4d1cd36c66d02f35f56ccec6f259abd1432f0f1" dmcf-pid="XeXXFDJ6W2" dmcf-ptype="general">YTN 고한석입니다. </p> <p contents-hash="4474d2ebf3f780e50a6c4cd961a3f5d6a874c10ca5e1ddbdf4f0aaa7ff9b66c0" dmcf-pid="ZdZZ3wiPh9" dmcf-ptype="general">YTN 고한석 (hsgo@ytn.co.kr)</p> <p contents-hash="ee27509b63434c5d5d30a2b7cdb2b82e5217c4d08ac2d6335b92099723c428a7" dmcf-pid="5J550rnQyK" dmcf-ptype="general">※ '당신의 제보가 뉴스가 됩니다' </p> <p contents-hash="d81094bbfe2be82a71cda77a5821510c9410c4d2bebf131797662ea341742366" dmcf-pid="1i11pmLxlb" dmcf-ptype="general">[카카오톡] YTN 검색해 채널 추가 </p> <p contents-hash="20700c782b64cde073431b93f9dedc873ebaae9df07a17fda7889fcd35d1d918" dmcf-pid="tnttUsoMvB" dmcf-ptype="general">[전화] 02-398-8585 </p> <p contents-hash="226e3d1f7c2484a38ef66c7a07e56a1f266c8eae6bec7ba4c042271e16d65646" dmcf-pid="FLFFuOgRTq" dmcf-ptype="general">[메일] social@ytn.co.kr</p> <p contents-hash="e26466cd9c6f1df5a0259a427c3572d540e3ea737a31f5ca07b61c984f8c0135" dmcf-pid="3o337Iaevz" dmcf-ptype="general">[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]</p> </section> </div> <p class="" data-translation="true">Copyright © YTN. 무단전재 및 재배포 금지.</p> 관련자료 이전 [비즈톡톡] ARM 지분 정리한 엔비디아, 인텔에 베팅한 이유 02-22 다음 "경기장 온 아내 목에 메달 걸어주고 싶었는데"…정재원, 男 매스스타트 아쉬운 5위→"너무 미안해" [밀라노 현장] 02-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
