![[AI 도구 해부학] 예진 8B v3 해부, GPU 한 장으로 도는 한국어 sLM의 실력 대표 이미지](https://n9zmwl2tpzncwawb.public.blob.vercel-storage.com/images/2026/11/6500d1b3-9402-4b4b-80fa-e31b9f4ac308.png)
국내 AI 기업 예진이 해외 공개 모델의 가중치를 빌리지 않고 처음부터 학습한 한국어 특화 파운데이션 모델 '예진 8B v3'를 공개했습니다. 서버 한 대에 탑재된 엔비디아 H200 GPU 8장으로 1384억 토큰을 학습했고, 완성된 모델은 24GB급 GPU 한 장에 올라갑니다. 수천억 개 매개변수 경쟁이 한창인 국내 AI 판에서, 작은 체급으로 어디까지 갈 수 있는지를 보여주는 실험이라는 점에서 눈여겨볼 만합니다. 다만 회사가 제시한 성적표에는 아직 독립적인 검증이 필요한 대목도 함께 담겨 있습니다.
「거인들의 수천억 매개변수 경쟁, 그 반대편에 선 80억 개」
올해 국내 AI 업계의 관심은 단연 '독자 AI 파운데이션 모델' 프로젝트에 쏠려 있습니다. 2차 단계평가에 오른 모델의 매개변수 규모는 LG AI연구원의 'K-엑사원 2.0'이 750B, SK텔레콤의 'A.X K2'가 688B, 모티프테크놀로지스의 '모티프 3'가 314B, 업스테이지의 '솔라 오픈 2'가 250B입니다. 국가대표급 모델 대부분이 수천억 개 단위에서 체급을 겨루고 있다는 뜻입니다. 이런 거대 모델은 성능의 천장을 끌어올리지만, 개별 기업이나 기관이 자체 서버에서 돌리기에는 문턱이 높습니다.
예진 8B v3는 정반대 지점을 겨눕니다. 허깅페이스에 공개된 모델 카드에 따르면 실제 매개변수는 약 75.2억 개이고, 32개 층과 그룹 쿼리 어텐션 구조를 갖춘 디코더형 트랜스포머입니다. 시장도 이 방향에 주목하고 있습니다. 시장조사기관 글로벌마켓인사이트는 전 세계 소형 언어모델 시장이 2024년 65억 달러에서 2034년 640억 달러로 커져 연평균 25.7% 성장할 것으로 내다봤습니다. 거대 모델이 '할 수 있는 일'의 범위를 넓힌다면, 소형 모델은 '실제로 돌릴 수 있는 곳'을 넓히는 역할을 맡고 있는 셈입니다.
「1384억 토큰의 설계도, 양보다 선별을 택하다」
이 모델의 학습 기반은 과학기술정보통신부와 정보통신산업진흥원(NIPA)의 '고성능 컴퓨팅 지원사업'으로 확보한 케이티클라우드의 H200 GPU 8장입니다. 2026년도 사업 공고에 따르면 GPU 자원은 505개 내외 기업에 지원되며, 기업당 H100 또는 H200을 최대 16장까지 배정합니다. 예진은 이 자원을 연말까지 약 4개월간 지원받습니다. 중소기업이 수십억 원대 학습 인프라를 직접 갖추지 않고도 파운데이션 모델 개발에 뛰어들 수 있는 통로가 정책으로 열려 있다는 뜻입니다.
학습 전략의 핵심은 '많이'보다 '골라서'입니다. 예진은 약 2.7TB의 원천 자료에서 중복되거나 유해한 문서를 걸러냈습니다. 웹 문서는 자체 '교육 가치 분류기'로 상위 약 4%만 남겼고, 법률·의료·특허·교육 분야 전문 지식은 AI허브의 공공 데이터에서 주로 끌어왔습니다. 6만4천 어휘 규모의 토크나이저도 직접 설계해 숫자를 따로 분리하도록 했습니다. 공개 모델 6종과 가중치를 비교한 코사인 유사도는 0.0014 이하로, 회사는 이를 해외 모델 가중치를 쓰지 않았다는 근거로 내세웁니다. 다만 가중치 유사도만으로 학습 과정 전체의 독립성이 완전히 입증되지는 않는 만큼, 추가 기술 자료 공개가 뒤따라야 합니다.
「0.366점의 무게, 앞선 점수와 '시범 운영'이라는 단서」
AI허브의 K-AI 리더보드 중소형 부문에서 예진 8B v3 기반 대화형 모델은 11월 4일 제출 기준 평균 0.366점을 받았습니다. 마이크로소프트의 '파라-7B'(0.346점)와 '엑스 리즈너-7B'(0.342점), 카카오의 '카나나 1.5 8B 인스트럭트'(0.331점), 엔씨소프트의 '라마 바르코 8B 인스트럭트'(0.294점)보다 높은 점수입니다. 1위 모델과 4위 모델의 격차는 0.072점입니다. 같은 7~8B급 안에서 처음부터 직접 학습한 한국어 모델이 해외 기업 모델과 국내 대기업 모델을 앞섰다는 점에 의미가 있습니다.
그러나 이 점수를 해석할 때는 단서가 여럿 붙습니다. K-AI 리더보드는 2025년 12월 31일 시범 운영을 시작했고, 지금도 '성능은 참조용'이라고 안내하고 있습니다. 평가는 한국어 지식, 문화 이해, 고난도 추론, 다단계 추론, 대화 의도 파악 등 5개 지표로 이뤄지고 데이터셋은 비공개입니다. 중소형 부문은 30B 이하 모델 전체를 아우르기 때문에, 이번 비교는 그 가운데 7~8B급 4종을 골라 견준 결과입니다. 카카오가 이미 2025년 12월 차세대 '카나나-2'를 공개하고 올해 1월 4종을 추가로 내놓은 만큼, 비교 상대가 직전 세대 모델이라는 점도 함께 고려해야 합니다.
「15GB에 담긴 온프레미스의 셈법, 4096토큰이라는 천장」
실무자에게 더 직접적인 숫자는 배포 비용입니다. 원본 가중치는 BF16 형식 기준 약 15GB로, 24GB급 GPU 한 장의 메모리에 들어갑니다. 회사는 남는 메모리로 4천 토큰 길이의 대화 약 10건을 동시에 처리할 수 있다고 설명합니다. 한국어 법령 문서를 처리할 때 필요한 토큰이 메타의 라마 3 등 일부 해외 모델보다 24~38% 적다는 자체 비교도 내놨습니다. 같은 문서를 더 적은 토큰으로 표현하면 연산량과 메모리 부담이 줄어드는 것은 맞지만, 실제 속도와 비용 절감 폭은 하드웨어와 추론 소프트웨어에 따라 달라집니다.
모델은 아파치 2.0 라이선스로 공개돼 상업적 이용, 수정, 추가 학습이 모두 허용됩니다. 외부 클라우드로 데이터를 보내기 어려운 공공기관이나 기업이 내부망에서 온프레미스 AI 구축을 검토할 때 선택지가 될 수 있는 이유입니다. 예진은 실제로 법령 조문 239만 건, 판례 16만8천 건, AI허브 법률 질의응답 12만6천여 건을 추가 학습한 모델을 무료 서비스 '젤리법령 도우미'에 탑재했습니다. 다만 모델 카드 기준으로 컨텍스트 길이는 4096토큰이어서 긴 계약서나 보고서를 한 번에 넣기에는 제약이 있습니다. 허깅페이스에 현재 공개된 버전도 지시 정렬을 거치지 않은 기본 모델이어서, 바로 대화형으로 쓰려면 정렬 버전이 나오기를 기다리거나 직접 미세조정해야 합니다.
예진은 기초 사전학습 규모를 839억 토큰에서 약 2093억 토큰으로 2.5배 늘린 차세대 '예진 8B v4'를 연말에 공개하는 것을 목표로 하고 있습니다. v3가 기초 학습 뒤에 전문 지식을 몰아서 학습했다면, v4는 처음부터 법률·의료·특허 데이터를 섞고 문서 품질에 따라 학습 비중을 달리하는 방식입니다. 학습량을 늘리는 것만큼이나, 4096토큰이라는 문맥 한계를 얼마나 넓히느냐가 실무 활용도를 가를 변수입니다.
"작은 모델의 경쟁력은 매개변수 수가 아니라 어떤 데이터를 버리고 무엇을 남겼는지에서 결정됩니다. 다만 그 선택이 옳았는지는 회사가 아니라 독립적인 평가와 현장이 판정합니다."
「맺음말」
예진 8B v3는 정부의 컴퓨팅 지원과 공공 학습데이터가 중소기업의 독자 모델 개발로 이어질 수 있음을 보여준 사례입니다. 거대 모델 중심의 국가대표 경쟁과 별개로, 한국어 sLM이 공공과 중소기업 현장의 '현실적인 엔진'으로 자리 잡을 수 있을지가 다음 관전 포인트입니다. 도입을 검토하는 조직이라면 리더보드 점수 하나보다 자체 업무 문서로 직접 평가해 보고, 문맥 길이와 정렬 버전 공개 여부, 보유한 GPU 사양을 함께 따져보는 것이 순서입니다. 한국어 LLM 모델 생태계가 거대 모델과 소형 모델의 두 축으로 나뉘는 흐름 속에서, 한국어 파운데이션 모델의 성패는 결국 현장에서 재현되는 성능으로 판가름 날 것입니다.
