'초거대' 경쟁에서 '작은 모델' 경쟁으로···빅테크·AI기업, '경량화' 싸움 돌입 작성일 07-03 36 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">초거대 모델 고도화 속 운영 비용 부담 커져 <br>온디바이스·생활형 서비스 확산에 경량화 수요 확대 <br>“중요한 건 파라미터보다 비용 대비 성능”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KbZvWVcnRG"> <figure class="figure_frm origin_fig" contents-hash="da5658694c421696bebddb198921452d7cbb1028a64627782cd87629666666e1" data-idxno="236742" data-type="photo" dmcf-pid="9K5TYfkLRY" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능(AI) 시장에서 초거대언어모델(LLM) 고도화가 이어지는 동시에 서비스 효율성을 높이기 위한 모델 경량화 수요도 확대되고 있다. / 사진=생성형AI(챗GPT) 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/03/552777-a6ToU27/20260703181052547keot.png" data-org-width="960" dmcf-mid="8nRIlBgRdP" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/03/552777-a6ToU27/20260703181052547keot.png" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능(AI) 시장에서 초거대언어모델(LLM) 고도화가 이어지는 동시에 서비스 효율성을 높이기 위한 모델 경량화 수요도 확대되고 있다. / 사진=생성형AI(챗GPT) 이미지 </figcaption> </figure> <p contents-hash="7d49885aef34b6aef181dad4192b73df8f84407fceb9c5cccde519eaff960a1b" dmcf-pid="291yG4EoJW" dmcf-ptype="general">[시사저널e=김도영 기자] 인공지능(AI) 시장에서 초거대언어모델(LLM) 고도화가 이어지는 동시에 서비스 효율성을 높이기 위한 모델 경량화 수요도 확대되고 있다. 생성형AI 발전단계 초기에는 파라미터 규모와 범용 성능을 키우는 '큰 모델' 개발이 중심이었다면, 최근에는 서비스 운영 비용과 상용화 효율성이 중요해지면서 적은 연산 자원으로도 성능을 유지할 수 있는 소형언어모델(SLM) 활용이 빠르게 늘고 있다.</p> <p contents-hash="9d3cf5afa6caa4fb625be883dce9ff28f506886b927b0d743ece5a0f51bb5b82" dmcf-pid="V2tWH8Dgey" dmcf-ptype="general">3일 관련업계에 따르면 주요 빅테크와 AI 기업들은 초거대 모델 고도화와 함께 경량 모델 개발과 최적화 작업을 병행하고 있다. 최상위 성능을 겨루는 프론티어 모델 개발은 이어가면서도 실제 서비스에는 목적에 맞게 줄인 모델이나 작은 모델 조합을 적용하는 방식이다. 한 AI기업 임원은 "기업들이 비용보다 성능 우위가 중요한 '프론티어 모델' 영역에서도 초거대 모델과 경량형 모델을 동시에 운영하는 '라인업 다변화' 전략을 택하고 있는 상황"이라고 진단했다.</p> <p contents-hash="6c82bd34d8e8bbeeb67700185605c9b7547284ba301aaaff4c9a431bab9cb74a" dmcf-pid="fIgRJSB3dT" dmcf-ptype="general">이 같은 흐름은 글로벌 AI 기업들의 전략에서도 나타난다. 오픈AI는 GPT 최고급 모델과 별도로 경량 모델 라인업을 세분화하고 있고, 구글도 제미나이 프로와 플래시 버전을 함께 운영하고 있다. 앤트로픽 역시 고성능 모델과 함께 상대적으로 가벼운 API 모델을 공급 중이다. 최고 성능 모델은 유지하되 서비스별 비용 구조에 맞춰 모델을 나누는 방식이다.</p> <p contents-hash="10d04fca16517a4604681c147ae81d643063760bd2465ab3a13f6538fedf8dca" dmcf-pid="4Caeivb0Rv" dmcf-ptype="general">국내 기업들도 마찬가지다. 네이버는 최근 AI 검색 서비스 'AI탭'에 작업별로 최적화된 작은 모델을 조합하는 분업형 구조를 적용했다. 하나의 대형 모델로 질의 이해부터 답변 생성, 도구 호출까지 모두 처리하는 대신 단계별로 맞춤형 모델을 붙이는 방식이다. 이를 통해 네이버는 모델의 응답 속도를 기존 대비 2배 높이고 운영 비용은 최대 3배 줄이는 성과를 낸 것으로 알려졌다. </p> <p contents-hash="7f46e1528b7f76155e9fb8c54df6b831a2442cf416d95aa3bb4ffdb344b4413e" dmcf-pid="8hNdnTKpLS" dmcf-ptype="general">카카오도 자체 AI 모델 '카나나'를 중심으로 경량 모델 개발을 병행하고 있다. 카카오톡과 주요 서비스에 AI 기능을 붙이려면 대형 모델 하나로 모든 요청을 처리하기 어려울 뿐만 아니라 이용자 접점이 넓을수록 호출량이 많아져 토큰 비용 부담도 커지기 때문이다. 서비스 성격에 따라 여러 작은 모델을 조합하는 구조로 가는 이유다.</p> <p contents-hash="f3955ad6dbaed27f211a756660ba6122c984cf2ca6e83c6f45833e9edd57bc63" dmcf-pid="6ljJLy9Uel" dmcf-ptype="general">LG AI연구원은 엑사원 기반 소형 모델 고도화와 산업 특화형 경량화 작업을 확대하고 있다. LG유플러스의 AI 통화 서비스 '익시오'처럼 통화 연결이나 요약, 음성 처리 등 비교적 명확한 기능을 수행하는 서비스에서는 경량 모델 최적화 수요가 커지고 있어서다. 특히 온디바이스AI 확산과 맞물리며 스마트폰과 통신, 제조 현장 등 기기 안에서 직접 작동하는 AI 수요가 커지면서 모델을 더 작고 효율적으로 만드는 흐름이 빨라지고 있다.</p> <p contents-hash="f1857ef77f65a19640b7ad019e8d2b6df5e663115b160c54b5f74544d72854a3" dmcf-pid="PSAioW2udh" dmcf-ptype="general">LG AI연구원 관계자는 "예전에는 큰 모델 만들기 경쟁이었다면 지금은 실제로 잘 쓰이는 게 더 중요해졌다"며 "1B부터 8B 정도 모델도 특정 분야에 잘 학습시키면 충분한 성능이 나온다"고 설명했다.</p> <p contents-hash="abe2540c1095677870731e4ab2b916a67953ac75cd46b73ba187d1265ae2bcd8" dmcf-pid="QvcngYV7nC" dmcf-ptype="general">이같은 흐름 배경에는 비용 문제가 있다. 초거대 모델은 학습 단계부터 막대한 GPU와 데이터, 인력 비용이 들어간다. 학습 이후에도 추론 비용은 지속적으로 발생하는 구조다. 한 AI기업 임원은 "큰 모델은 성능이 좋지만 모든 문제에 최고 성능 모델을 쓸 필요는 없다"며 "생활형 서비스로 갈수록 결국 비용 효율 중심으로 모델이 나뉠 수밖에 없다"고 말했다.</p> <p contents-hash="48fb7dcf8aba30d703b0c56855238f9e7200c9910596fa6203601c1f0a6d374f" dmcf-pid="xTkLaGfzeI" dmcf-ptype="general">업계에서는 이 같은 흐름이 단기적 비용 절감 차원을 넘어 AI 서비스 확산 과정에서 불가피한 변화로 보고 있다. 최병호 고려대 휴먼인스파이어드 AI연구원 교수는 "AI가 일상 서비스 전반으로 확산될수록 운영 비용을 낮추는 구조가 중요해질 수밖에 없다"며 "지금처럼 무거운 모델만으로는 서비스 확대에 한계가 있어 경량화 흐름은 더 빨라질 것"이라고 말했다.</p> <p contents-hash="321e82a4fd59b43393f1b2c9763dc1458f93e185ffde96eb4e5995ed95667987" dmcf-pid="yQ713eCEiO" dmcf-ptype="general">다만 경량화 과정에서 성능 저하를 막는 것은 여전히 과제로 꼽힌다. 모델 크기를 줄이면 처리 비용과 속도 측면에서는 유리하지만, 무작정 줄이면 답변 품질이 떨어질 수 있기 때문이다. LG AI연구원 관계자는 "모델은 줄이면 줄일수록 성능 저하가 발생할 수 있다"며 "똑똑한 부분만 잘 살려놓는 기술을 계속 만들어야 한다"고 말했다.</p> <p contents-hash="6ced251f19fbe3d96d18d557d3f3616ad4db8519c7739204aa98f305d6de7ae7" dmcf-pid="Wxzt0dhDis" dmcf-ptype="general">모든 AI 서비스가 작은 모델 중심으로 재편되는 것은 아니라는 분석도 나온다. 대규모 연구개발(R&D)이나 복잡한 과학 연산처럼 최고 수준의 추론이 필요한 영역에서는 여전히 대형 모델과 막대한 연산 자원이 필요하기 때문이다. 최 교수는 "R&D처럼 장시간 복잡한 추론이 필요한 영역은 경량 모델이 맞지 않는다"면서도 "산업 현장의 대부분은 결국 비용 대비 성능이 중요하기 때문에 경량화 흐름을 피하긴 어려울 것"이라고 설명했다.</p> <p contents-hash="95101483883a1bf11e6381ad8e1947986dc6caa560a106b8e6bb50732e2cd5b5" dmcf-pid="YMqFpJlwMm" dmcf-ptype="general">이에 따라 업계에서는 AI 경쟁력이 초거대 모델 자체보다 이를 실제 서비스에 맞게 얼마나 효율적으로 줄이고 적용하느냐에 달릴 것으로 보고 있다. 한 AI업계 관계자는 "지금은 큰 모델이냐 작은 모델이냐가 아니라 어떤 용도에 어떤 모델을 쓰느냐가 중요한 시점"이라며 "토큰 비용이 높은 상황에서 기업들은 결국 가장 최적화된 모델을 찾을 수밖에 없다"고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 시사저널e 무단전재 및 재배포 금지</p> 관련자료 이전 머스크가 흔든 우주 통신판…한국, 독자 위성망 승부수 07-03 다음 '한국판 스타링크' 구축 어떻게? "최대 512기 구축···14조원 소요" 07-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
