‘친구 같은 나만의 AI’ 구현…AI 반도체 ‘소울메이트’ 선봬 작성일 03-17 30 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">유회준 KAIST 교수팀, 개인화 LLLM 가속기 ‘소울메이트’ 개발<br>사용자 말투·감정까지 학습...온디바이스서 구현 개인정보 유출 차단<br>응답과 학습을 0.2초에 수행..초저전력 구현해 스마트폰 등 AI 에이전트 활용</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1v2scalwvE"> <figure class="figure_frm origin_fig" contents-hash="3992461539376eee2410913f8a74966192355c5bc0a5d19f54986e6f9e55bc23" dmcf-pid="tTVOkNSrvk" dmcf-ptype="figure"> <p class="link_figure"><img alt="유회준(왼쪽) KAIST 교수와 홍성연 KAIST 박사과정 연구원. 사진=이준기기자." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/17/dt/20260317161702765baha.jpg" data-org-width="640" dmcf-mid="XJ7cLdrNSr" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/17/dt/20260317161702765baha.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 유회준(왼쪽) KAIST 교수와 홍성연 KAIST 박사과정 연구원. 사진=이준기기자. </figcaption> </figure> <p contents-hash="55399ce5f376bff8a80f6ec7c73d06e4251ec8c754074dca01c7bf29cb629dff" dmcf-pid="FyfIEjvmlc" dmcf-ptype="general"><br> “나를 알고, 나를 기억하고, 나에 맞춰 성장하는 ‘친구 같은 나만의 인공지능(AI)’을 구현하기 위해 칩 개발을 시작했죠.”(홍성연 KAIST AI대학원 박사과정생)</p> <p contents-hash="1740439dedf2d26d4bb81f30ba5ec8dcaf15a6cbba8b42c20b4e04c95b3efa67" dmcf-pid="3W4CDATshA" dmcf-ptype="general">“거대언어모델(LLM)을 사용자가 학습시켜 온디바이스 환경에서 개인정보 유출 우려 없이 사용할 수 있게 만든 AI 반도체입니다.”(유회준 KAIST AI반도체대학원 교수)</p> <p contents-hash="d0717a75efce5467068bfc9dd953005c027daad8899d8496e3201c4b89ad6df5" dmcf-pid="0Y8hwcyOlj" dmcf-ptype="general">챗GPT, 제미나이, 클로드 등 LLM이 점점 일상 생활 깊숙이 들어오고 있지만, 정작 사용자의 습관이나 이전 대화 맥락 등은 완벽히 파악하지 못해 가끔 엉뚱한 답변을 내놓곤 한다.</p> <p contents-hash="8d00c883de10d045a2b29f1430b80c7ac27034b55451432fe4d5e42c3c0adcc1" dmcf-pid="pG6lrkWIlN" dmcf-ptype="general">이는 LLM이 개별 사용자에 대한 구체적인 정보나 선호도 등을 알지 못하는 한계를 지니고 있기 때문이다.</p> <p contents-hash="095ec2a09c841cd757668ff8561e78984974d6d2c8f863ec1ad7c3a72a622e7e" dmcf-pid="UHPSmEYCva" dmcf-ptype="general">하지만 앞으로는 사용자 말투와 취향, 감정까지 배우고 닮아가는 이른바 ‘친구 같은 LLM’이 구현될 전망이다.</p> <p contents-hash="c5f300067ba38aef905eb18ec9ae2d32eb9cb814ba2c2e16f5a9b7fa887a7d2b" dmcf-pid="uXQvsDGhvg" dmcf-ptype="general">유회준 KAIST 교수 연구팀은 지난 16일 KAIST 대전 본원 KI빌딩에서 시연회를 열고, 사용자 특성에 맞춰 스스로 진화하는 개인 맞춤형 LLM 가속기 ‘소울메이트’를 선보였다.</p> <figure class="figure_frm origin_fig" contents-hash="f988a94a081648b4890ce48dcf82d2c74a09353a868cd74bb43e37231eda1b1d" dmcf-pid="7PO9u38Byo" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 반도체 ‘소울메이트’를 탑재한 데모 보드 모습. 사진=이준기기자." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/17/dt/20260317161704068ntxu.jpg" data-org-width="640" dmcf-mid="Zro1WSpXhw" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/17/dt/20260317161704068ntxu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 반도체 ‘소울메이트’를 탑재한 데모 보드 모습. 사진=이준기기자. </figcaption> </figure> <p contents-hash="443d2ee585b6e391f540cc2206166e15563aea7f92d582d80ff9521d17cb37e6" dmcf-pid="zQI2706bhL" dmcf-ptype="general"><br> 유 교수는 이날 “소울메이트는 LLM을 데이센터가 아닌 사용자가 직접 학습시킬 수 있다는 게 가장 큰 특징”이라며 “온디바이스 환경에서 사용자가 원하는 대로 LLM을 학습시켜 적은 전력으로 짧은 시간에 학습을 마칠 수 있다”고 설명했다.</p> <p contents-hash="26b4b841e925908a74bb9787857e44b7a2c86fed288687373ce4332a8450e3bf" dmcf-pid="qxCVzpPKTn" dmcf-ptype="general">기존 LLM 시스템은 데이터센터에서 학습된 데이터를 기반으로 추론하며, 대부분의 서비스 연산을 클라우드 서버에 의존한다. 사용자와 상호작용을 통한 추가 학습 과정이 없어 개인화된 LLM 구현이 기술적으로 어렵고, 사적인 정보와 위치 정보 등 민감한 개인 데이터가 서버로 전송되면서 개인정보 유출 우려도 있다.</p> <p contents-hash="a94a8345d290bf840e312c24d641fcdf8c2f3dfbd6ba137bb8ccce27226164f4" dmcf-pid="BMhfqUQ9vi" dmcf-ptype="general">소울메이트는 사용자 정보와 대화 기록 등 기억된 내용을 바탕으로 맞춤형 답변을 생성하는 ‘검색증강생성’(RAG) 기술과 사용자 피드백을 즉각 반영해 학습하는 ‘로우 랭크 미세조정’(LoRA) 기술을 반도체 칩에 구현했다.</p> <p contents-hash="736828826cb9749d63d11d12b213b3ba9383b111485d7cc7f7909e1d8b9e18e5" dmcf-pid="bRl4Bux2lJ" dmcf-ptype="general">문장 내 토큰(단어)별 중요도를 실시간으로 판단해 중요도가 높은 핵심 토큰은 정밀하게 처리하고, 중요하지 않은 토큰은 저차원 연산으로 대체해 0.2초의 빠른 속도로 사용자에게 응답과 학습을 동시에 수행한다.</p> <p contents-hash="247b7138c45a34982d704330cd4f2469b29f6c5ded1804ed7de57927e5e291b2" dmcf-pid="KeS8b7MVTd" dmcf-ptype="general">전력소모도 획기적으로 줄였다. 사용자 피드백을 학습하는 과정에서 중복 연산을 제거해 스마트폰 프로세서 소비전력의 500분의 1 수준인 9.8㎽(밀리와트)의 초저전력으로 복잡한 학습과 추론을 동시에 수행할 수 있다.</p> <p contents-hash="f1c321ce68a090c9ead234e8b4b225a121c7acf6a9372e1b0c7e77c47cb57887" dmcf-pid="9dv6KzRfSe" dmcf-ptype="general">특히 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 ‘온디바이스 AI’ 기술을 적용해 개인정보 유출 우려를 근본적으로 차단해다.</p> <p contents-hash="9480dc6a521a7a39112f28b0bd3c8c8811341eb43739462aec7d9cd7e4c71c81" dmcf-pid="2JTP9qe4CR" dmcf-ptype="general">유회준 교수는 “생텍쥐베리의 소설 ‘어린왕자’에서 사막여우가 어린왕자에게 ‘나를 깃들이면 친구가 될 수 있다’고 말한 것에 착안해 어떻게 하면 ‘개인화된 AI’를 만들 수 있을까를 고민하다가 소울메이트 개념을 떠올리게 됐다”고 말했다.</p> <p contents-hash="3cc879e4046db6f937acb51d2d074a35a1dfc4593391b59136ecb6fac57b9eb9" dmcf-pid="ViyQ2Bd8vM" dmcf-ptype="general">이어 “사람들이 서로 우정을 쌓아가는 과정을 모방해 AI가 사용자의 진정한 동반자이자 친구로서 발전할 수 있는 기술적 기반을 마련한 게 소울메이트”라며 “미래의 AI는 단순한 도구를 넘어 개인 프라이버시를 완벽히 보호하면서 언제 어디서나 나를 가장 잘 이해하는 ‘베프’(베스트 프렌드)와 같은 존재가 될 것”이라고 덧붙였다.</p> <p contents-hash="40355bc3293d818ad5ffd950a17e1bbbd34110be9af2d818eb6853f7d2bf99c5" dmcf-pid="fnWxVbJ6Sx" dmcf-ptype="general">홍성연 박사과정 연구원은 “소울메이트는 다른 AI 가속기에 비해 25% 향상된 정확성을 보여 웨어러블 기기나 스마트폰 등에 적용해 나만을 위한 ‘AI 에이전트’로 활용할 수 있을 것”이라며 “앞으로 사용자를 보다 심도 있게 이해하고 초개인화된 AI를 초저전력으로 구현하기 위한 연구를 지속해 나갈 계획”이라고 말했다.</p> <p contents-hash="3ed408a163230cd8d06cd9de2f57f9780f12931b39a9fc499de311914d0ed8dc" dmcf-pid="4LYMfKiPSQ" dmcf-ptype="general">연구팀은 교원 창업기업 온뉴로AI를 통해 소울메이트를 제품화할 예정이다.</p> <p contents-hash="7e53972878fb0c5b779de5912ec7e2ed30aa7c5b2e8a2144ba1ba80ac8e9879f" dmcf-pid="8oGR49nQCP" dmcf-ptype="general">연구결과는 지난달 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 ‘하이라이트 논문’으로 선정됐다.</p> <figure class="figure_frm origin_fig" contents-hash="a0a520107b3099494a6bc6010e41d85e0d4f7fdae820ca18e91f66d1c66fb0da" dmcf-pid="6gHe82Lxv6" dmcf-ptype="figure"> <p class="link_figure"><img alt="홍성연 박사과정 연구원이 소울메이트 시연을 하고 있다. 사진=이준기기자." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/17/dt/20260317161705330qywo.jpg" data-org-width="640" dmcf-mid="5G0adxkLSD" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/17/dt/20260317161705330qywo.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 홍성연 박사과정 연구원이 소울메이트 시연을 하고 있다. 사진=이준기기자. </figcaption> </figure> <p contents-hash="b9304ecbb53cafe2dd4f7dc623db6b4415a2cd8e15768e9c2586a8f309c0783d" dmcf-pid="PaXd6VoMW8" dmcf-ptype="general"><br> 이준기 기자 bongchu@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 “여의도 8배로 짓는다”…정용진의 AI 승부수, 韓 최대 데이터센터 어디로? 03-17 다음 '대형 폭탄 발언' 황대헌, 예고한 세계선수권 끝냈다…"더 늦기 전에 바로 잡아야" 해명은 팀킬일까 린샤오쥔일까 03-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
