당신의 SNS는 이미 AI에게 점령됐다, "몰랐던 것이 더 무섭다" 작성일 03-06 36 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xbMuYNvmy0"> <div contents-hash="68358bd7a8fc9b892764707317c99c7e5f8810dbe5d24eb51916d71d76027370" dmcf-pid="yrWcR0PKT3" dmcf-ptype="general"> <ul> <li>클릭 한 번이 만든 함정…전 세계 딥페이크 사기 피해, 1년 새 3배 폭발</li> <li>세계 최초 AI 기본법 시행, 그러나 현장은 여전히 혼란 중</li> </ul> </div> <div contents-hash="ec9a88737b2d38fb2d5a1bb0b4e066a7f6d7dacc85632baf0cbc91eb8f1eadcd" dmcf-pid="WmYkepQ9vF" dmcf-ptype="general"> <em><span>피드를 내리다 보면 어느 순간 내 취향과 너무 잘 맞는 영상 하나가 멈춰 세운다. 좋아요를 누를 것도 없이, 그냥 2초 조금 더 머물렀을 뿐인데 다음 추천은 이미 그 연장선에 있다. 내가 선택했다고 느끼지만, 사실 그 선택의 설계자는 내가 아니다.</span> </em> </div> <figure class="figure_frm origin_fig" contents-hash="a18e7a807eb2a6d347330c4205f1aa22ad24ed469403c73d22a3e0eb23d09373" dmcf-pid="YtKHsMDgyt" dmcf-ptype="figure"> <p class="link_figure"><img alt="소셜미디어와 AI의 결합은 이제 실험 단계가 아니다. (사진=생성형 AI)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/06/552816-OGTrtXj/20260306112955122jujc.png" data-org-width="1024" dmcf-mid="6BozHAyOlu" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/06/552816-OGTrtXj/20260306112955122jujc.png" width="658"></p> <figcaption class="txt_caption default_figure"> 소셜미디어와 AI의 결합은 이제 실험 단계가 아니다. (사진=생성형 AI) </figcaption> </figure> <p contents-hash="9684bfe5ba51c203d0b259ca4c575fb4937930bae2acc9d31af52262c40d992a" dmcf-pid="GF9XORwaC1" dmcf-ptype="general"><em>당신은 오늘 몇 번이나 스마트폰을 켰는가. 그리고 그때마다 화면에 나타난 영상과 글은, 과연 누가 골랐는가. 플랫폼이 AI를 내세우기 시작한 이후, 우리는 스스로 콘텐츠를 '선택'한다는 착각 속에서 살아왔다. 그러나 실제로는 반대다. AI가 먼저 우리를 읽고, 우리 앞에 '선택하고 싶게 만들어진 것'들을 배치한다. 이 구조는 더 이상 실험적이거나 선택적이지 않다. 2026년 현재, 지구에서 SNS를 쓰는 52억 명이 이 설계 안에 놓여 있다.</em> </p> <p contents-hash="c23da22fafc26ecc19190a1b27eb991258f0c42b87d78777b07cbb6fd9181933" dmcf-pid="H32ZIerNC5" dmcf-ptype="general"><strong>■ SNS 속으로 들어간 AI, 시장 규모부터 다르다</strong> </p> <p contents-hash="2b0499c205417c6b4f70a2a41ed9f23c7c207df5b6753c8739fa577c0b85a4a6" dmcf-pid="X0V5CdmjWZ" dmcf-ptype="general">숫자부터 꺼내자. 글로벌 리서치 기관 포춘 비즈니스 인사이트(Fortune Business Insights)가 내놓은 전망을 보면, 소셜미디어 내 AI 시장은 2025년 약 41억 2천만 달러 수준이었지만 올해인 2026년에는 56억 5천만 달러로 불어나고, 2034년에는 705억 3천만 달러까지 치솟는다. 연평균 성장률이 30%를 웃돈다는 뜻은, 이 시장이 매 2~3년마다 규모를 두 배씩 키운다는 의미와 같다. </p> <p contents-hash="31b62bc33a5e1da75eff8712b4da8ea98433ad65f18b70f1d11895d9ee5e4785" dmcf-pid="Zpf1hJsASX" dmcf-ptype="general">이 폭발의 뇌관은 광고 수익 구조의 재편이다. 메타(Meta)는 2025년 4분기 매출로 598억 9천만 달러를 거뒀는데, AI 기반 알고리즘으로 광고 배치를 고도화하면서 인스타그램 릴스(Reels) 내 광고 비중이 2024년 35%에서 2025년 50% 이상으로 뛰어오른 것이 결정적이었다. 메타 CEO 마크 저커버그는 2025년 5월 주주총회에서 메타 AI의 월간 활성 사용자가 10억 명을 넘어섰다고 직접 공개했다. AI가 단순한 기능을 넘어 플랫폼의 핵심 수익 엔진으로 자리 잡았다는 가장 선명한 증거다. </p> <p contents-hash="65decd5fb58a93c6763a405ca7d09a3338c038db2245b473b48c5ec13221973b" dmcf-pid="5U4tliOcSH" dmcf-ptype="general">플랫폼들의 내부 변화도 빠르다. 틱톡이 자체 발표한 보고서가 집계한 수치를 보면, 사용자의 71.2%가 피드에서 발견한 제품을 실제 구매한 것으로 나타나 단순 콘텐츠 소비 앱이 AI 쇼핑 엔진으로 진화했음을 보여준다. 인스타그램은 2025년 12월 자신의 추천 알고리즘을 직접 조정할 수 있는 'Your Algorithm' 기능을 선보였다. 알고리즘에 대한 불신을 플랫폼이 먼저 인식하기 시작했다는 신호다. </p> <p contents-hash="1506748a72f622c55c0f3cdd654efc6f48892381df51b0c4a0251480a458610f" dmcf-pid="1u8FSnIkWG" dmcf-ptype="general">마케팅 현장의 수용 속도 역시 가파르다. 소셜미디어 솔루션 기업 엠플리파이(Emplifi)가 2025년 9월 마케터 564명을 대상으로 실시한 설문에서 82%가 AI 도구 도입 이후 업무 효율이 개선됐다고 응답했다. 다만 35%만이 확실히 좋아졌다고 했고, 나머지 47%는 조금 나아진 수준에 그쳤다는 점은 AI 도입이 즉각적 혁신이 아닌 점진적 변화임을 드러낸다. 마이크로소프트가 분석한 결과, 생성형 AI 활용률은 2025년 하반기 기준 전 세계 인구의 16.3%로 여섯 명 중 한 명꼴이다. </p> <p contents-hash="ea7b9f29f972d756c07838156f6f8236863e0133ea7b92eec7ed9f0a60560a93" dmcf-pid="t763vLCESY" dmcf-ptype="general"><strong>■ 한국의 AI 소셜 생태계…열광과 그림자 사이</strong> </p> <p contents-hash="31d6c1ee46b324f133378ac2de6aa3cc478ebae05e32ed8aa4e3c4bfa7e1d27a" dmcf-pid="FzP0TohDhW" dmcf-ptype="general">한국은 SNS 밀도로 따지면 세계 최상위권이다. 모바일 데이터 분석 업체 집계 기준 2025년 카카오톡의 월간 활성 사용자는 4,823만 명으로 국내 스마트폰 이용자 대부분이 매일 접속하는 플랫폼이 됐다. 유튜브는 이용 빈도 1위를 유지하고 있으며, 인스타그램은 같은 해 11월 2,468만 명의 사용자를 기록하며 꾸준히 영역을 넓히고 있다. </p> <p contents-hash="b17201d0b4d3e284e9a0bbf724c9360500e5e15a7c1733cefb1c38324a9e19cf" dmcf-pid="3qQpyglwhy" dmcf-ptype="general">이 거대한 이용자 기반 위로 AI가 조용히 스며들었다. 카카오는 2025년 초 약관을 개정해 이용자의 서비스 이용 기록과 행동 패턴을 수집해 AI 추천과 맞춤 광고에 활용하는 구조를 공식화했다. 우리가 카카오톡에서 주고받는 대화와 소비 흔적이 이제 AI 학습 데이터로 이어진다. </p> <p contents-hash="c0af16d29e559d25ae470493ebab59ae30e865ea93d3e70a9fc7db7750604b1a" dmcf-pid="00V5CdmjhT" dmcf-ptype="general">서울시가 발표한 2025 서울서베이는 시민의 86.3%가 AI 서비스를 써봤다고 답했음을 확인했으며, 20대 이하에서는 이 비율이 98.8%까지 올라갔다. AI 활용이 세대를 넘어 보편화되고 있다는 뜻이다. 국내 10대가 유튜브와 인스타그램에 하루 평균 2시간 30분 이상을 쓰는 현실과 맞닿아, 알고리즘이 설계한 시간이 삶 속 깊이 녹아들고 있다. </p> <div contents-hash="06528f1b8afa708ba05ff731b49d3082d9f785afd260addda8fedaa41d645bf4" dmcf-pid="ppf1hJsAvv" dmcf-ptype="general"> 네이버와 카카오는 각각 'Agent N'과 'Kanana'를 내세워 검색·커머스·메신저에 AI 기능을 순차 탑재하는 전략을 공식화했고, 네이버는 2026년까지 GPU 인프라에 1조 원을 투자하겠다고 밝혔다. 국내 플랫폼 생태계에서 AI 없는 SNS는 이미 상상하기 어렵다. </div> <figure class="figure_frm origin_fig" contents-hash="3ba58f8eb728f785a53ef39bfe8f666801632fac932288dad901fe8d050eee59" dmcf-pid="UU4tliOclS" dmcf-ptype="figure"> <p class="link_figure"><img alt="네이버는 '에이전트 N'을 통해 ‘검색’에서 ‘실행’으로 네이버의 정체성을 바꾸겠다고 선언했다. (사진=네이버)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/06/552816-OGTrtXj/20260306112956697kdqh.png" data-org-width="1024" dmcf-mid="PA7TE8jJSU" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/06/552816-OGTrtXj/20260306112956697kdqh.png" width="658"></p> <figcaption class="txt_caption default_figure"> 네이버는 '에이전트 N'을 통해 ‘검색’에서 ‘실행’으로 네이버의 정체성을 바꾸겠다고 선언했다. (사진=네이버) </figcaption> </figure> <p contents-hash="a66ffbe0a5f334a8393660636832da9ef9bd51b8fad4e23db38ce6940b526667" dmcf-pid="uu8FSnIkSl" dmcf-ptype="general"><strong>■ AI가 흉기로 바뀔 때, 딥페이크·필터버블·가짜뉴스</strong> </p> <p contents-hash="77969c1edf6d9cb3ba90c6054991ee937f9437ab2a60fd352fa1f1409e19af8d" dmcf-pid="7763vLCEvh" dmcf-ptype="general">경고음이 울린 지 오래됐지만, 속도가 상상을 초과하고 있다. 사이버보안 업체 서프샤크(Surfshark)가 집계한 데이터는 2025년 한 해 전 세계 딥페이크 사기 피해액이 약 11억 달러에 달했음을 가리킨다. 2024년의 3억 6천만 달러와 비교하면 정확히 세 배로 불어난 셈이다. 그리고 이 피해의 80% 이상이 소셜미디어에서 발생했다. </p> <p contents-hash="a715d60369cb37dd417d1fb512762fb658233f5a4ff1f11bfa2fa0fda2659c57" dmcf-pid="zzP0TohDWC" dmcf-ptype="general">수법은 진화했다. 단순한 얼굴 합성 수준을 지나, 실제 정치인의 연설 영상을 실시간으로 가공해 투자 권유 방송으로 만드는 사례가 유럽에서 잇따랐다. 폴란드 대통령과 독일 총리의 얼굴이 SNS 투자 사기 광고에 등장했고, 프랑스에서는 AI로 구현된 브래드 피트와 로맨스를 나눈 한 여성이 83만 유로를 건넨 사건이 현지 주요 언론을 뒤흔들었다. 미국 신용정보 기업 익스페리안(Experian)은 2025년 AI 사기로 인한 미국 소비자 피해가 125억 달러를 기록했으며, 2026년에는 피해 규모가 더 가파르게 확대될 것이라고 경고했다. </p> <p contents-hash="14e17ebaeb8100752e2afc9d7655d32083f3754275ef66f8655639ea2d16be48" dmcf-pid="qqQpyglwWI" dmcf-ptype="general">국내 상황은 또 다른 국면을 보여준다. 한국여성인권진흥원 디지털성범죄피해자지원센터가 집계한 수치를 들여다보면, 2024년 디지털 성범죄 피해자는 1만 305명으로 전년 대비 14.7% 더 늘었다. 이 가운데 딥페이크 피해 건수는 한 해 사이 227% 가까이 치솟았고, 피해자 중 72.1%가 여성이었다. 경찰청 국가수사본부가 1년간 벌인 집중단속 결과는 더 충격적이다. 검거된 사이버 성폭력 피의자 3,557명 중 절반에 가까운 47%가 10대였으며, 20대까지 합산하면 가해자의 90%를 넘었다. 동창의 SNS 사진 한 장으로 스마트폰 앱만으로 딥페이크 성착취물을 만드는 일이, 일부 10대 사이에서 놀이처럼 퍼졌다고 경찰은 분석했다. </p> <p contents-hash="8815475bee795c1bb6a5199c781136540cd8cf27ee4164c5027a80f3833dcaf4" dmcf-pid="BBxUWaSrlO" dmcf-ptype="general">금융 사기의 얼굴도 달라졌다. 경찰청이 내놓은 피해 통계를 보면, 2025년 상반기 보이스피싱 피해액은 6,421억 원으로 상반기 기준 역대 한 번도 기록되지 않았던 규모를 경신했다. 이 추세라면 연간 피해가 사상 처음 1조 원을 돌파할 것이라는 전망도 나왔다. AI 기반 음성·영상 합성으로 가족이나 금융기관 직원을 흉내 내는 수법이 갈수록 정교해지고 있기 때문이다. </p> <p contents-hash="8146280a6c5909b2992b623a5e0dd3396b862633d4be6370579b852c3b18ba5c" dmcf-pid="bbMuYNvmTs" dmcf-ptype="general">위험은 금전 피해에 그치지 않는다. 연합뉴스가 2025년 9월 공개한 팩트체크 분석은 SNS 개인화 알고리즘이 만들어내는 필터버블 현상이 측정 가능한 수준으로 실재함을 확인했다. 알고리즘이 적용된 검색 결과에서 편향도 지수가 0.5를 넘었고, 이용 기간이 길어질수록 같은 성향의 정보에만 노출되는 비율이 계속 높아졌다. 자신의 신념에 반하는 관점을 만날 기회가 알고리즘 설계에 의해 조용히 차단되는 것이다. 여론조사 기관 엠브레인 트렌드모니터 조사에서 국민 76.4%가 알고리즘 추천 서비스 규제가 필요하다고 응답한 것은, 이 불안이 사회 전반에 공유되고 있음을 드러낸다. </p> <p contents-hash="51e2735b042f074d089c0cfed241643f8b39800700162596823fee1ed5eacc48" dmcf-pid="KKR7GjTshm" dmcf-ptype="general">이에 2026년 2월 26일, 검찰과 경찰이 이례적으로 합동 담화문을 내놓았다. AI를 악용한 가짜뉴스가 6월 지방선거를 앞두고 소셜미디어를 통해 빠르게 번지고 있다는 현실 인식을 바탕으로, 딥페이크 허위조작정보를 엄정 대응하겠다는 공개 선언이었다. </p> <p contents-hash="e43c0e5c66404e1c8465581cca4d15e6e34c1b29edadf933138c4dde26160517" dmcf-pid="99ezHAyOvr" dmcf-ptype="general"><strong>■ 세계 최초 AI 기본법, 그 첫걸음</strong> </p> <div contents-hash="f9d6eb57438518b935d2741596f2a70d82ff0eea397f6133351b0b9f1fa55269" dmcf-pid="2ecP7h0Hyw" dmcf-ptype="general"> 2026년 1월 22일, 한국은 세계 최초로 포괄적 AI 규제법인 'AI 기본법'을 전면 시행했다. EU의 AI Act가 단계적 시행을 거치고 있는 가운데, 단일 포괄 법제를 전국에 동시 적용한 것은 한국이 처음이다. </div> <figure class="figure_frm origin_fig" contents-hash="c76f399563ed1ee2624a3171ea2e7558ab78ecde503f5cd5b806bd2fdc55f465" dmcf-pid="VdkQzlpXlD" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI기본법 솔루션 개요. (사진=DEEPBRAIN AI)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/06/552816-OGTrtXj/20260306112958312gvpd.png" data-org-width="1024" dmcf-mid="QBV5CdmjTp" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/06/552816-OGTrtXj/20260306112958312gvpd.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI기본법 솔루션 개요. (사진=DEEPBRAIN AI) </figcaption> </figure> <p contents-hash="a3c613104c2a232e1c10f351c1c20b1f222f0de65f84c184d1ec464ede13c3f2" dmcf-pid="fJExqSUZCE" dmcf-ptype="general">법의 핵심은 AI 생성물 표시 의무화다. 생성형 AI로 만들어진 음성·이미지·영상에는 반드시 AI 생성 사실을 고지해야 하며, 딥페이크처럼 진위 구별이 어려운 콘텐츠는 영상 전 구간에 걸쳐 워터마크를 달아야 한다. 이를 어기면 최대 3,000만 원의 과태료가 부과된다. 다만 정부는 현장 혼란을 줄이기 위해 처벌 유예 기간을 1년 이상 두기로 했다. </p> <p contents-hash="f9dc001380fc01cbb006499b1bc1bcb0d73e80faec5d4d8fc9b6d9d1770b94c8" dmcf-pid="4iDMBvu5Tk" dmcf-ptype="general">AI 기본법 시행 한 달째, 국내 주요 플랫폼들은 제각기 첫발을 내딛기 시작했다. 네이버는 이용자 생성 콘텐츠 전반에 'byCLOVA' 워터마크를 적용했고, 커머스 부문으로의 확장도 준비 중이다. 카카오는 약관 개정을 통해 AI 창작물에 'kanana' 워터마크를 자동 삽입하는 기술을 카카오톡 내에 탑재했다. 구글 역시 이미지 생성 서비스에 워터마크를 기본 적용하며 보조를 맞추고 있다. </p> <p contents-hash="d8ffd26629e6194f07e5b8a83634095d906c46c72599b2859c446f3d0a9cf527" dmcf-pid="8nwRbT71Wc" dmcf-ptype="general">과학기술정보통신부 지원데스크가 집계한 결과, 법 시행 열흘 동안 기업들이 접수한 질문의 절반 이상이 워터마크 관련이었다. 이 규제가 기업들에게 실질적인 준비 부담으로 다가오고 있음을 드러내는 수치다. 일부 스타트업들은 세부 가이드라인이 아직 불명확하다며 추가 지침 마련을 촉구하고 있다. </p> <p contents-hash="703018d41685e58f6c68f4fa183d3ce2d392bb6b88578f33feb70104e4dd65d1" dmcf-pid="6LreKyztlA" dmcf-ptype="general">글로벌 플랫폼들도 자체 규제를 강화하고 있다. 유튜브는 2025년부터 AI로 제작한 현실적 가짜 콘텐츠에 대해 AI 사용 여부를 의무 고지하도록 정책을 바꿨고, 기존 콘텐츠 식별 시스템에 AI 음성 모방 감지 기능을 추가했다. 틱톡은 AI 음성·영상 사용 시 가이드라인 점검을 강화했으며, 인스타그램은 AI 생성 콘텐츠 라벨링을 플랫폼 단위에서 의무화하는 방향으로 정책 기조를 바꿨다. </p> <p contents-hash="836ed9078cfcdea230529356d922ce69b61cbb04b8b6130fcee98d838ea7b78c" dmcf-pid="Pomd9WqFlj" dmcf-ptype="general"><strong>■ 기회와 과제 앞에서</strong> </p> <p contents-hash="2db689ddd1a7b2ec3e59d67f672b2e306d6d72a716c71e6ce7cf38e4b374ad40" dmcf-pid="QgsJ2YB3lN" dmcf-ptype="general">포춘 비즈니스 인사이트는 AI 소셜미디어 시장이 2026년 56억 달러에서 2034년 705억 달러로 팽창하는 궤도에 올랐다고 전망했다. 플랫폼은 더 많은 데이터로 더 정밀한 추천을 내놓을 것이고, 광고는 한층 더 개인화될 것이며, AI가 만든 가상 인플루언서와 실제 사람의 경계는 지금보다 훨씬 흐려질 것이다. 엠플리파이 조사에서 마케터의 58%가 2026년 가상 인플루언서 협업을 늘릴 계획이라고 밝힌 것은, 이 흐름이 선택이 아닌 표준이 돼가고 있음을 보여준다. </p> <p contents-hash="196617042ee1f70479c310e3b3cff57b0f5133d0ce071485e291d7f5be58f659" dmcf-pid="xaOiVGb0ya" dmcf-ptype="general">그러나 가장 중요한 변수는 기술이 아니다. AI가 만든 정보와 사람이 만든 정보를 구분하는 능력, 알고리즘이 그려준 세계 밖을 스스로 찾아보는 습관, 그리고 SNS 위에 돌아다니는 모든 것을 의심하고 검증하는 태도다. 규제와 기술이 뒤쫓아가는 속도보다 AI의 진화가 빠른 이상, 결국 최후의 방어선은 개인의 '디지털 리터러시' 능력이다. </p> <p contents-hash="01c9a3f9e6e055b112e6cea31c0ed5361f87fec2e990631c2346d9bdad9aa1b6" dmcf-pid="y32ZIerNWg" dmcf-ptype="general">저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지</p> </section> </div> 관련자료 이전 구글서 BTS·블랙핑크·아이브 검색했더니…팡팡 터졌다 03-06 다음 퀘스트소프트웨어 CEO 방한..."한국은 전략 시장" 03-06 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
