외산 모델 가중치 없이 처음부터 학습한 ‘Yejin 8B v3’ 공개…한국어 법령 문서 처리 토큰 24~38% 절감
국내 인공지능(AI) 기업 예진(대표 고종현)이 해외 공개 모델의 가중치를 활용하지 않고 처음부터 자체 학습한 한국어 특화 80억 매개변수(8B)급 파운데이션 모델을 개발했다. 약 1,384억 토큰을 학습하고 24GB급 그래픽처리장치(GPU) 한 장으로 구동할 수 있도록 설계해 기업과 공공기관의 AI 도입 비용을 낮추는 데 초점을 맞췄다.
특히 한국어 법령 문서 처리에 필요한 토큰 수를 일부 해외 모델보다 24~38% 줄이고, 국내 AI 성능 평가에서도 같은 규모의 주요 모델보다 높은 점수를 기록했다고 6일 밝혔다. 모델을 상업적 이용이 가능한 라이선스로 공개해 기업과 공공기관이 자체 업무 환경에 맞게 수정하거나 추가 학습할 수 있도록 했다.
예진은 한국어 특화 파운데이션 모델 '예진 8B v3(Yejin 8B v3)'를 독자 개발하고, 공공기관과 기업의 내부 시스템에서 활용할 수 있는 경량 AI 모델 보급에 나선다. 이 모델은 기존에 공개된 해외 AI 모델을 추가 학습하거나 수정하는 방식이 아니라, 무작위 초기 가중치에서 출발해 토크나이저 설계부터 사전학습까지 전 과정을 자체 수행한 프롬스크래치(From-Scratch) 방식으로 개발됐다.
예진에 따르면 공개 모델 6종과 가중치를 비교한 결과 코사인 유사도가 0.0014 이하로 나타났다. 회사는 이를 기존 공개 모델의 가중치를 활용하지 않았다는 근거로 제시했다. 다만 가중치 유사도 비교만으로 전체 학습 과정의 독립성이 완전히 검증되는 것은 아니며, 추가적인 기술 자료와 독립적인 검증이 필요하다.
학습에는 과학기술정보통신부와 정보통신산업진흥원(NIPA)의 '고성능 컴퓨팅 지원사업'을 통해 확보한 케이티클라우드(KT Cloud)의 엔비디아(NVIDIA) H200 GPU 8장이 활용됐다. 서버 한 대에 탑재된 GPU 8장으로 모델의 기초 학습부터 전문 지식 학습까지 수행했다.
학습 데이터는 약 2.7TB의 원천 자료에서 중복되거나 유해한 문서를 제거한 뒤 선별했다. 기초 사전학습에는 839억 토큰, 전문 지식 집중 학습에는 545억 토큰을 사용해 총 1,384억 토큰을 학습시켰다.
특히 과학기술정보통신부와 한국지능정보사회진흥원(NIA)이 운영하는 AI 학습데이터 플랫폼 'AI허브(AI Hub)'의 법률·의료·특허·교육 분야 공공 데이터를 전문 지식 학습의 주요 원천으로 활용했다.
데이터 품질을 높이기 위한 자체 정제 기술도 적용했다. 웹 문서는 자체 개발한 '교육 가치 분류기'를 통해 학술·교양 가치가 높은 상위 약 4%를 선별했으며, 일반 웹에서 확보하기 어려운 한국어 학술 문서와 보고서는 문서 구조 인식 기술을 활용해 텍스트로 변환했다.
하준호 예진 인공지능연구소장(CTO)은 "모델의 실력은 결국 어떤 데이터로 배웠느냐에서 나온다"며 "수조 개 토큰을 쏟아붓는 대신 좋은 한국어 데이터를 골라내고 다듬는 데 가장 많은 시간을 썼다"고 설명했다.
한국어 처리 효율성을 높이기 위해 자체 설계한 6만4천 어휘 규모의 토크나이저도 적용했다. 숫자를 별도로 분리하는 방식을 도입해 한국어 문서의 특성을 반영한 것이 특징이다. 예진의 자체 비교에 따르면 동일한 한국어 법령 문서를 처리할 때 메타(Meta)의 라마 3(Llama 3) 등 일부 해외 모델보다 필요한 토큰 수가 24~38% 적었다.
토큰은 AI 모델이 텍스트를 처리하는 기본 단위다. 동일한 문서를 더 적은 토큰으로 표현하면 입력 처리에 필요한 연산량과 메모리 사용을 줄일 수 있다. 다만 실제 응답 속도와 운영 비용 절감 효과는 모델 구조와 하드웨어, 추론 환경 등에 따라 달라질 수 있다.
모델의 원본 가중치는 BF16 형식 기준 약 15GB로, 24GB급 GPU 한 장의 메모리에 적재할 수 있다. 예진은 모델을 탑재한 뒤 남는 메모리를 활용하면 4천 토큰 길이의 대화 약 10건을 동시에 처리할 수 있다고 설명했다.
이러한 경량 구조는 외부 클라우드로 민감한 데이터를 전송하기 어려운 기업과 공공기관에서 활용 가능성이 높다. 자체 서버에 AI 모델을 설치하고 내부망에서 운영하는 온프레미스(On-premise) 환경에 적용할 수 있기 때문이다. 다만 실제 동시 처리 성능은 입력과 출력 길이, 추론 소프트웨어 및 메모리 관리 방식에 따라 달라진다.
성능 평가에서도 일정 수준의 경쟁력을 확인했다고 회사는 밝혔다. 예진이 공개한 자료에 따르면 AI허브에서 시범 운영 중인 'K-AI 리더보드'의 중소형 모델 부문에서 예진 8B v3 기반 대화형 모델은 11월 4일 제출 기준 평균 0.366점을 기록했다.
이는 마이크로소프트(Microsoft)의 '파라-7B(Fara-7B)' 0.346점과 '엑스 리즈너-7B(X-Reasoner-7B)' 0.342점, 카카오의 '카나나 1.5 8B 인스트럭트(Kanana-1.5-8B-Instruct)' 0.331점, 엔씨소프트의 '라마 바르코 8B 인스트럭트(Llama-VARCO-8B-Instruct)' 0.294점보다 높은 수치다.
해당 결과는 2026년 11월 5일 조회 기준으로, 평가 대상 모델들이 동일한 7~8B급 규모라는 점에서 의미가 있다. 다만 리더보드가 시범 운영 단계인 만큼 점수는 참고 지표로 해석해야 하며, 특정 평가 결과만으로 모든 언어 이해와 추론, 전문 업무 수행 능력에서 우위를 확보했다고 단정하기는 어렵다.
예진은 개발한 모델을 실제 서비스에도 적용했다. 무료 법령 안내 서비스 '젤리법령 도우미'에 법령 조문 239만 건과 판례 16만8천 건, AI허브 법률 질의응답 12만6천여 건을 추가 학습한 모델을 탑재했다.
이는 범용 언어모델에 특정 분야의 전문 데이터를 추가 학습시켜 실제 업무 서비스로 연결한 사례다. 법률 정보처럼 한국어의 정확한 이해와 전문 용어 처리가 중요한 분야에서 경량 AI 모델의 활용 가능성을 확인하려는 시도다.
모델의 개방성도 강조했다. 예진은 예진 8B v3를 아파치 2.0(Apache-2.0) 라이선스로 공개(다운)해 상업적 이용과 수정, 추가 학습을 허용했다. 이에 따라 기업과 공공기관은 별도의 모델 라이선스 이용료 없이 가중치를 내려받아 자체 업무 문서와 내부 규정에 맞게 AI 서비스를 구축할 수 있다. 외부 인터넷 연결이 제한되는 환경에서도 자체 서버를 통해 운영할 수 있어 데이터 보안과 운영 비용을 중시하는 기관의 활용이 기대된다.
이 같은 접근은 국내 공공·산업 현장의 AI 도입 수요와도 맞닿아 있다. 정부가 국가망 보안체계(N2SF)와 범정부 AI 공통기반 등을 통해 공공부문의 AI 활용 환경을 확대하는 가운데, 외부 클라우드에 대한 의존도를 낮추고 기관별 요구사항에 맞게 운영할 수 있는 경량 모델의 필요성이 커지고 있다.
특히 AI 도입에 필요한 초기 구축 비용과 운영 인력, 데이터 보안 문제는 중소기업이 AI를 실제 업무에 적용하는 과정에서 해결해야 할 주요 과제로 꼽힌다. 자체 서버에서 운용할 수 있는 공개형 한국어 모델은 이러한 부담을 줄이는 대안 가운데 하나가 될 수 있다.
예진은 차세대 모델 '예진 8B v4(Yejin 8B v4)' 개발도 진행하고 있다. 새 모델은 기초 사전학습 규모를 기존 839억 토큰에서 약 2,093억 토큰으로 2.5배 확대하는 것이 특징이다.
기존 v3가 기초 사전학습 이후 전문 지식을 집중적으로 학습하는 방식이었다면, v4는 법률·의료·특허·학술 문서 등 전문 분야 데이터를 학습 초기부터 포함하도록 설계했다. 또한 문서의 품질에 따라 학습 비중을 차등 적용해 가치가 높은 데이터는 더 자주 활용하고 품질이 낮은 데이터의 사용은 최소화하는 방식으로 학습 효율을 개선할 계획이다.
예진은 올해 말 v4 공개를 목표로 개발을 진행하는 한편, 기업과 공공기관이 자체 서버에 설치해 인터넷 연결 없이 사용할 수 있는 온프레미스 패키지도 순차적으로 공급할 예정이다.
고종현 예진 대표는 "공공 데이터와 컴퓨팅 지원을 바탕으로 만든 독자 모델을 누구나 쓸 수 있게 공개해 국내 기업과 공공기관이 외산 AI에 기대지 않고도 자기 환경에 맞는 한국어 특화 AI를 도입할 수 있도록 하겠다"며 "정부 지원의 성과가 현장의 AI 확산으로 이어지는 선순환 사례를 만들겠다"고 밝혔다.
이번 개발은 대규모 컴퓨팅 자원을 확보하기 어려운 국내 중소 AI 기업도 한국어 데이터의 품질과 학습 효율을 중심으로 독자적인 파운데이션 모델 개발을 추진할 수 있음을 보여주는 사례다.
특히 정부의 컴퓨팅 지원과 공공 학습데이터를 활용한 기술 개발 성과를 공개 모델과 실제 서비스로 연결했다는 점에서 의미가 있다. 향후에는 공개된 모델의 성능과 운영 효율이 독립적인 평가와 다양한 산업 현장에서 얼마나 재현되는지가 경쟁력을 판단하는 중요한 기준이 될 전망이다.