소형 언어모델(sLLM)의 시대: 프론티어급 지능이 딥가젯 서버 한 대 값까지 내려왔다

7월 마지막 주부터 8월 말까지 한 달 남짓한 사이에 오픈웨이트 AI 모델이 잇달아 공개됐다. 7월 29일 SK텔레콤이 A.X K2를 공개했고 이틀 뒤 LG AI연구원이 K-EXAONE 2.0을, 같은 날 DeepSeek가 V4-Flash 정식판을 내놨다. 8월 14일에는 모티프테크놀러지스가 Motif-3를, 26일에는 Alibaba Qwen 팀이 Qwen3.8-Flash-Next를, 27일에는 Zhipu가 GLM-5.3-Flash를 공개했다.

이 모델들의 총 파라미터는 284B부터 750B까지다. 결코 작은 모델들이 아니다. 그런데 목록을 관통하는 공통점은 "작다"는 것이다. 활성 파라미터는 토큰 하나를 처리할 때 실제로 계산에 참여하는 몫인데, 이 값이 6B부터 18B 사이에 몰려 있다. 가중치는 누구나 내려받을 수 있고 API 가격은 플래그십의 10분의 1 수준이다. 총 파라미터만 보면 이상한 목록이다.

이 글은 소형 언어모델(sLLM)을 둘러싼 이번 출시 러시가 왜 지금 일어났는지 정리하고 이 모델들이 GPU 몇 장짜리 서버에 들어가는지 분석한다. 프론티어급 지능을 조직이 직접 소유하는 비용은 이 한 달 남짓 사이 서버 한 대 값까지 내려왔다.

작아진 것은 총 파라미터가 아니라 활성 파라미터다

소형 언어모델, sLLM이라는 말은 원래 파라미터 수십억 개짜리 모델을 가리켰다. 스마트폰이나 노트북에서 도는 온디바이스 모델이 대표적이다. 2026년의 "소형"은 다른 뜻으로 쓰인다. 위 목록의 모델들은 총 파라미터가 수백B인데도 소형 모델처럼 값이 매겨지고 소형 모델처럼 빠르다.

이 간극은 MoE(Mixture of Experts) 구조에서 나온다. 모델 내부를 수백 개의 전문가(expert) 블록으로 나누고 토큰마다 라우터가 그중 몇 개만 골라 계산에 참여시킨다. GLM-5.3-Flash는 총 320B 중 18B만, Qwen3.8-Flash-Next는 125B 본체 중 6B만 활성화한다.

이 구조에서 비용은 둘로 갈라진다. 연산량, 그리고 연산량이 결정하는 속도, 전력, API 가격은 활성 파라미터에 비례한다. GPU 메모리 요구량은 총 파라미터에 비례한다. 계산에 참여하지 않는 전문가도 메모리에는 올라가 있어야 한다.

즉 활성 파라미터를 줄인 MoE는 지능의 단가를 소형 모델 수준으로 낮추면서 지식의 총량은 대형 모델 수준으로 유지하는 설계다. 이번 러시의 모델들이 플래그십에 가까운 벤치마크 점수를 내면서 10분의 1 가격을 붙일 수 있는 이유가 여기에 있다. 대신 부담은 메모리로 옮겨 온다. 그 부담이 GPU 몇 장 분량인지는 아래에서 따져 보기로 하자.

지능의 단가는 3년 사이 얼마나 떨어졌나

LLM 추론 서비스의 가격을 추적한 연구에 따르면, 추론 API의 중앙값 가격은 2023년 1분기 백만 토큰당 약 30달러에서 2026년 1분기 0.5달러 아래로 내려왔다. 3년 사이 60분의 1이다.

올여름 출시들은 이 곡선의 최신 지점이다. OpenAI가 7월 9일 공개한 GPT-5.6 Luna는 출시 3주 만에 가격을 80% 내려 현재 입력 백만 토큰당 0.20달러, 출력 1.20달러다(OpenRouter 기준). GLM-5.3-Flash는 입력 백만 토큰당 0.15달러, 출력 0.50달러로 플래그십 GLM-5.3의 10분의 1 가격이 붙었고 공개 직후에는 그 절반의 프로모션 가격으로도 풀렸다.

활성 파라미터 18B 모델은 700B급 전체를 계산하는 모델보다 토큰당 연산이 수십 분의 1이다. 가격을 내려도 마진이 유지되니 다시 올라갈 이유가 없다. 프로모션 인하가 아니라 원가 구조에서 나온 하락이다. 이 가격 곡선이 추론 서비스 공급자의 마진을 어떻게 무너뜨리고 있는지는 앞서 GLM-5.2 쇼크에서 다뤘다. 이번 글은 그 반대편, 즉 지능을 소유해야 하는 조직이 관심을 가질 만한 이야기다.

에이전트가 토큰 수요의 상한을 없앴다

채팅 시대의 토큰 수요에는 자연스러운 상한이 있었다. 사람이 읽는 속도보다 빨리 답해 봐야 체감이 없고 사람이 하루에 읽는 양도 정해져 있다.

에이전트는 계획을 세우고 도구를 호출하고 결과를 읽고 다시 시도하는 루프를 돈다. 이 상한은 거기서 사라진다. 루프에서 오가는 토큰 대부분은 사람이 읽지 않는다. AI 에이전트의 작동 원리에서 설명했듯 도구 호출 한 번마다 대화 맥락 전체가 다시 모델을 통과하므로 같은 일을 시켜도 태스크당 토큰 소비는 챗봇의 수십 배가 된다.

루프의 대부분은 형식이 정해진 반복 작업이라 작은 모델로 충분하다. 계획 수립처럼 어려운 소수 스텝만 큰 모델에 맡기면 된다. 토큰을 이렇게 쓰는 워크로드에서 매 스텝에 프론티어 모델을 쓸 이유는 없다. NVIDIA 연구진이 2025년 논문 "Small Language Models are the Future of Agentic AI"에서 편 주장이 이것이다. 올여름의 출시 러시는 모델 공급자들도 같은 결론을 냈다는 신호다. 활성 파라미터가 작고 값이 싼 모델들이 일제히, 에이전트 도구 호출 성능을 앞세워 나오고 있다.

2026년 여름 한 달 남짓 동안 풀린 오픈웨이트 모델들

7월 말부터 공개된 주요 오픈웨이트 모델이다. 2026년 8월 28일 기준으로 각 모델 카드와 공식 발표, 보도로 확인한 값이고 빈칸은 이 글에서 1차 자료로 확인하지 못한 항목이다.

*Qwen3.8-Flash-Next의 180B는 본체 125B에 n-gram 임베딩 51B와 다중 토큰 예측 모듈 4B를 더한 저장 기준 값이다. 다음 세대인 Qwen4 아키텍처의 선공개판이기도 하다.

이 목록을 놓고 보면 공통점이 드러난다.

• 전부 가중치가 공개됐고 여섯 중 셋이 상업 사용에 제약이 없는 MIT, 하나가 Apache 2.0이다. 조직이 계약 없이 내려받아 업무에 쓸 수 있다.

• 활성 파라미터가 공개된 모델은 전부 6B에서 18B 사이다. 서로 다른 회사가 같은 답에 도달했다.

• 국적은 중국과 한국이다. 미국 프론티어 3사는 같은 기간에도 가중치를 공개하지 않았다. GPT-5.6 Luna는 싸지만 API로만 쓸 수 있다. 프론티어급 지능을 "소유"하고 싶다면, 지금 선택지는 중국과 한국의 오픈웨이트 모델뿐이다.

이 모델은 GPU 몇 장에 들어가는가

앞에서 MoE의 부담이 메모리로 옮겨 온다고 했다. 가중치 저장에 FP8 정밀도는 파라미터당 약 1바이트, 4비트 양자화는 약 0.5바이트가 든다. 아래 수치는 가중치만 계산한 값이고, 실제 서빙에는 문맥을 담아 두는 KV 캐시 메모리가 추가로 필요하므로 그만큼 여유를 잡아야 한다.

• Qwen3.8-Flash-Next: 공개된 FP8 가중치가 약 173GiB다. 141GB 메모리의 H200 2장, 또는 96GB 메모리 GPU 3장에 가중치를 올리고 캐시 여유가 남는다.

• Motif-3: 4비트(NVFP4) 공식 버전이 공개돼 있고 위 기준으로 계산하면 가중치가 약 157GB로 같은 구간이다.

• GLM-5.3-Flash: FP8 기준 약 320GB. 96GB GPU 4장 서버의 영역이다.

• DeepSeek-V4-Flash: 공개 파일 자체가 전문가 블록 FP4와 나머지 FP8의 혼합 정밀도라, 284B라는 총 파라미터에 비해 저장량이 작다.

• K-EXAONE 2.0: 750B는 FP8로 약 750GB다. H200 8장급 서버의 영역이고 4비트로 낮추면 절반이 된다.

총 파라미터가 조 단위인 오픈웨이트 모델에는 이 계산이 성립하지 않는다. Kimi K3는 가중치만으로 H200 8장에 들어가지 않는다. 가중치가 공개됐다고 전부 자체 서버 후보가 되는 것은 아니다.

이번 러시의 모델들은 GPU 2장부터 8장, 즉 서버 한 대 구간에 들어온다. 대학 연구실과 기업 부서가 실제로 구매하는 서버도 이 구간에 있다. RTX PRO 6000 Blackwell처럼 메모리가 96GB인 워크스테이션급 GPU로도 표의 절반이 계산 범위에 들어온다. 딥가젯 판매 기록에서도 올해 상반기 조직 단위 AI 서버 주문이 커진 흐름이 확인된다. 서버에 올린 모델을 어떤 프레임워크로 서빙할지는 vLLM과 SGLang 비교에서 다뤘다.

소버린 AI 경쟁이 국내에 만든 실물

7월 말부터 한 달 사이에 국내에서만 대형 오픈웨이트 모델이 셋 공개됐다. 정부의 독자 AI 파운데이션 모델 사업을 둘러싼 경쟁이 배경이다. 그중 Motif-3가 이번 러시의 전형에 가장 가깝다. 총 314B에 활성 13.2B인 MoE 구조를 NVIDIA B200 768장으로 약 5개월 만에 처음부터 학습했고 MIT 라이선스로 공개했다. Artificial Analysis 지능 지수는 47점으로 국내 1위, 글로벌 오픈웨이트 4위다.

국내 모델은 순위보다 실무에서 의미가 있다. 한국어 데이터 비중을 높여 학습했고 가중치가 공개돼 있어 국내 조직이 데이터를 밖으로 보내지 않고 자체 서버에서 돌릴 수 있다. 수출 통제로 해외 모델 접근이 어려워질 때도 끊기지 않는 선택지다. 매니코어소프트는 모티프테크놀러지스와 함께 AI 어플라이언스 Motif AI BOX를 제공한다. 이런 오픈 모델과 에이전트 기능을 조직의 용도에 맞게 구성해 내부에 설치하는 제품이다.

어떤 조직에 자체 서버가 합리적인가

이쯤 되면 궁금해진다. 우리 조직도 자체 서버를 둘 이유가 있을까. 답은 세 조건에 달려 있다.

• 상시 워크로드가 있다. 에이전트 루프, 사내 문서 처리, 코드 작업처럼 토큰을 하루 종일 쓰는 일이 있어야 서버 상각이 API 요금을 이긴다.

• 데이터를 밖으로 보낼 수 없다. 의료 기록, 설계 도면, 수사 자료처럼 반출 자체가 문제인 데이터는 가격과 무관하게 처음부터 자체 서버로 가야 한다.

• 활성 20B급 지능으로 충분한 일이 대부분이다. 이번 집계가 보여 주듯, 이 수준의 오픈웨이트 모델은 이미 선택지가 여럿이다.

사용량이 간헐적이면 반대로 API가 싸다. 서버는 쓰지 않는 시간에도 감가상각이 진행된다. 그리고 난도 높은 소수의 작업에는 여전히 프론티어 API가 낫다. 그래서 자리 잡는 패턴은 분업이다. 어려운 계획은 프론티어 API에 맡기고 토큰을 대량으로 쓰는 실행 루프는 자체 서버의 오픈 모델이 처리한다.

서버 한 대 값이 된 프론티어급 지능

에이전트가 토큰 수요의 상한을 없애자 지능의 단가가 경쟁의 축이 됐고, 활성 파라미터를 줄인 MoE가 그 단가를 끌어내렸다. 공급자들은 가중치 공개로 생태계 선점을 노린다. 한 달 남짓의 출시 러시는 우연이 아니다. 이 경쟁으로 구매자 쪽도 달라졌다. "프론티어급 지능의 소유"는 작년까지 데이터센터 규모의 투자를 뜻했는데 지금은 GPU 몇 장을 넣은 서버 한 대의 투자로 내려왔다. 1년 만에 벌어진 일이라고는 믿기 어려운 속도다. 이 구간의 서버, GPU 2장부터 10장까지를 매니코어소프트는 완성품 액체냉각 서버 딥가젯으로 만들어 왔다. 다음에 살 서버의 메모리 총량을 정할 때 가장 먼저 볼 것은 위 표다. 돌릴 모델이 정해졌다면 메모리 요구량에 맞는 구성을 함께 잡을 수 있다. 이제 작은 조직도 서버 한 대로 자기만의 프론티어급 지능을 소유할 수 있는 시대가 됐다.