추론 인프라 업체 Fireworks AI가 흥미로운 분석 글을 냈어요. 문샷AI(Moonshot AI)의 오픈 웨이트 모델 Kimi K3가 Anthropic의 최신 프론티어 모델인 Claude Fable과 여러 벤치마크에서 경쟁할 만한 수준이고, 심지어 두 모델을 함께 쓰면 단일 모델로는 못 넘던 최고 성능(SoTA)에 도달한다는 내용인데요. '오픈 모델은 클로즈드 모델보다 한 세대 뒤진다'는 오랜 통념이 또 한 번 흔들리는 순간이라, 내용을 좀 자세히 들여다볼 만해요.
Kimi가 뭐길래
먼저 배경부터 짚고 갈게요. Kimi는 중국 문샷AI가 만드는 모델 시리즈예요. 전작인 Kimi K2가 1조 파라미터급 MoE 구조의 오픈 웨이트 모델로 나오면서, 특히 도구 호출이나 코딩 같은 에이전트 작업에서 클로즈드 모델 못지않은 성능을 보여줘 주목받았거든요. MoE가 뭐냐면, Mixture of Experts의 약자로, 거대한 모델을 여러 전문가 조각으로 나눠두고 입력마다 일부 전문가만 골라 쓰는 구조예요. 병원에 갔을 때 모든 의사가 달라붙는 게 아니라 내 증상에 맞는 전문의만 진료하는 것과 비슷해요. 덕분에 전체 파라미터는 어마어마해도 실제 연산량은 훨씬 적어서, 큰 모델을 상대적으로 저렴하게 돌릴 수 있죠. K3는 이 계보를 잇는 후속 모델이고요. 상대인 Fable은 Anthropic이 Opus 위에 새로 만든 최상위 티어의 프론티어 모델이라, 이 비교 자체가 '오픈 진영이 현재 최전선과 붙어볼 만한가'를 묻는 셈이에요.
'함께 쓰면 SoTA'라는 말의 의미
이번 분석에서 진짜 흥미로운 건 뒷부분이에요. K3 단독 성능보다, K3와 Fable을 조합했을 때 어느 한쪽 단독보다 좋은 결과가 나온다는 주장인데요. 이게 뭐냐면, 두 모델이 잘하는 영역이 서로 다르다는 뜻이에요. 문제 유형에 따라 더 잘 맞는 모델로 라우팅하거나, 한 모델이 생성한 답을 다른 모델이 검증하게 하거나, 여러 모델의 답을 비교해서 고르는 식의 '모델 앙상블' 전략이 단일 프론티어 모델을 이길 수 있다는 거죠. 모델 하나의 절대 성능 경쟁에서, 여러 모델을 어떻게 조합하고 오케스트레이션하느냐의 경쟁으로 판이 넓어지고 있다는 신호이기도 해요.
한 걸음 물러서서 볼 부분
다만 한 가지는 감안하고 읽어야 해요. Fireworks는 오픈 웨이트 모델을 호스팅해서 파는 추론 인프라 회사예요. 오픈 모델이 좋다는 결론이 자사 비즈니스에 유리하다는 뜻이죠. 벤치마크라는 게 어떤 과제를 고르고 어떻게 측정하느냐에 따라 결과가 꽤 달라지기도 하고요. 그렇다고 방향 자체가 틀렸다는 건 아니에요. DeepSeek, Qwen, Llama, Kimi로 이어지는 흐름을 보면 오픈 웨이트와 프론티어 클로즈드 모델의 격차가 빠르게 좁혀지고 있는 건 분명하거든요. 특히 격차가 좁혀질수록 '가중치를 직접 받아 내 인프라에서 돌릴 수 있다'는 오픈 웨이트의 장점이 상대적으로 커져요.
한국 개발자에게 주는 시사점
실무 관점에서는 '하이브리드 전략'을 고민해 볼 때예요. 모든 요청을 가장 비싼 프론티어 모델로 보내는 대신, 분류나 요약처럼 비교적 쉬운 작업은 저렴한 오픈 모델로, 복잡한 추론이나 중요한 의사결정은 프론티어 모델로 나눠 보내는 거죠. LLM 비용이 서비스 원가에서 차지하는 비중이 큰 팀이라면 이 라우팅 설계만으로 비용을 크게 줄일 수 있어요. 그리고 오픈 웨이트 모델은 데이터를 외부로 보내기 어려운 금융·의료·공공 도메인에서 온프레미스로 돌릴 수 있다는 것도 무시 못 할 장점이고요. 앞으로는 특정 모델 API에 종속되지 않도록, 모델 교체가 쉬운 추상화 계층을 서비스에 미리 깔아두는 설계가 점점 중요해질 거예요.
한 줄 정리: 오픈 웨이트와 프론티어의 격차가 좁혀지면서, 이제는 '어떤 모델을 쓰느냐'보다 '모델들을 어떻게 조합하느냐'가 실력이 되는 시대로 가고 있어요. 여러분은 서비스에 모델을 붙일 때 하나로 통일하는 편인가요, 아니면 작업별로 나눠 쓰는 편인가요?
🔗 출처: Hacker News