[우리가 AX 주역]〈68〉프렌들리AI, 'AI 에이전트' 간편 구성·배포도 지원한다

작성일 09-03

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="5XDHSYQ0Iw">
 <figure class="figure_frm origin_fig" contents-hash="f0177aa900c49c77ccea40563f04f83a7c3683787d0ef617a782016037000f60" dmcf-pid="1ZwXvGxpwD" dmcf-ptype="figure">
 <img alt="전병곤 프렌들리AI 대표. ⓒ박종진기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/03/etimesi/20250903170340633zmub.png" data-org-width="700" dmcf-mid="Xyvu1pg2wm" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/03/etimesi/20250903170340633zmub.png" width="658">
 <figcaption class="txt_caption default_figure">
 전병곤 프렌들리AI 대표. ⓒ박종진기자
 </figcaption>
 </figure>
 인공지능(AI) 추론 플랫폼 전문기업 프렌들리AI가 기업이 원하는 'AI 에이전트'를 간편하게 구성해 쉽게 배포할 수 있는 플랫폼 서비스를 4분기 출시한다.
 본격 출시될 AI 에이전트 서비스의 추론 기능을 가속화하는 것은 물론, 템플릿 제공으로 기업에서 원하는 조합으로 맞춤형 AI 에이전트 서비스를 구현하도록 지원할 예정이다.
 오픈AI '챗GPT', 구글 '제미나이' 등과 같이 언어·이미지·영상·코딩 등을 생성해주는 생성형 AI 서비스 모델에서 나아가, 스스로 판단해 행동할 수 있는 에이전틱 AI와 범용 AI(AGI) 등으로 기술과 서비스 발전 속도를 감안한 비즈니스모델(BM) 다각화 차원이다.
 프렌들리AI는 현재 초대형 AI 모델을 배포할 때 직면하는 높은 인프라 비용, 사용자 경험과 밀접한 추론 속도, 모델 운영과 관리 복잡성 등 핵심 과제를 해결해주는 '프렌들리 스위트'와 '프렌들리 엔진'을 지원한다. AI 모델을 보다 신속하고 저렴하게 안정적으로 제공할 수 있는 기반을 제공하는 것이다.
 또 GPU 자원을 최대한 활용할 수 있도 독자 개발한 '컨티뉴어스 배칭' 기술도 강점이다. GPU 계산 코어를 최대로 활용, 거대언어모델(LLM) 등 추론 처리량이 수십배 증가된다. 
 <figure class="figure_frm origin_fig" contents-hash="72e3958796eaa7e28d6d024931f1241bcfe27f12c605074f6ee11c21bf8d5b9c" dmcf-pid="UuSU50o9wN" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/03/etimesi/20250903170340877uweo.png" data-org-width="700" dmcf-mid="ZWQkoA3IDr" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/03/etimesi/20250903170340877uweo.png" width="658">
 </figure>
 &lt;인터뷰&gt;전병곤 프렌들리 AI 대표, “가속화된 AI를 누구나 사용할 수 있게 만들겠다”
 전병곤 프렌들리 AI 대표는 개발자들이 가속화된 AI 모델을 쉽게 사용할 수 있도록 접근성 강화를 목표로 한다. 학습된 AI 모델이 새로운 데이터로부터 결론을 도출하는 AI 인퍼런스 기술 고도화와 가속화에 집중하고 있다. AI를 빠르게 호출하고 신속한 응답을 제공하는 인프라를 지원하는 것이다.
 전 대표는 “신속한 추론 못지 않게 정확한 추론이 중요하다”며 “프렌들리 엔진을 통해 16비트 모델을 상황에 맞게 8비트나 4비트로 바꾸는 양자화 기법 등을 적용, 메모리 효율을 높여 모델 품질 저하 없이 고속 추론을 지원한다”고 설명했다.
 언어·멀티모달 모델 등의 빠른 추론 성능을 지원하는 데 양자화 기법과 컨티뉴어스 배칭 기술이 활용되고 있다. GPU 비용도 최대 50% 이상 절감해준다. IBM 리서치에 따르면 AI 모델 비용 최대 90%가 추론단계에 소요된다. 프렌들리AI가 추론과정을 합리화해 비용 절감에 기여하는 것이다.
 프렌들리AI는 이같은 강점을 바탕으로 LG AI연구원, 업스테이지, SK텔레콤, KT, 트웰브랩스, 스케터랩 등 국내 주요 AI 기업을 고객사로 확보했다. 최근에는 미국 실리콘밸리 벤처캐피털(VC) 등 국내외 투자사로부터 2000만달러(약 275억원) 규모 시드 익스텐션 라운드 투자도 유치했다.
 전 대표는 “AI산업이 발전할수록 GPU 수요도 늘어나고 회사 성장 기회도 많아질 것”이라며 “엔비디아 GPU뿐만 아니라 AMD 등 타사 GPU는 물론, 신경망처리장치(NPU) 등 다른 AI컴퓨팅의 인퍼런스도 지원할 수 있게 기술 개발을 지속할 것”이라고 말했다.
 박종진 기자 truth@etnews.com
 </section> 
 </div> 
 Copyright © 전자신문. 무단전재 및 재배포 금지.

이전

세계 한 대뿐인 5000억 반도체 장비, SK하이닉스가 끌어안았다

09-03
다음

공공 최대 DaaS 우본 사업 다시 뜬다…치열한 경쟁 예고

09-03

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

[우리가 AX 주역]〈68〉프렌들리AI, 'AI 에이전트' 간편 구성·배포도 지원한다

멤버랭킹

관련자료

멤버랭킹