# Inkling 모델, 975B 오픈웨이트 MoE의 스펙과 쓰는 법

- 게시: 2026.07.18
- 원문(HTML): https://trendbrief.news/articles/inkling-%EB%AA%A8%EB%8D%B8-975b-%EC%98%A4%ED%94%88%EC%9B%A8%EC%9D%B4%ED%8A%B8-moe%EC%9D%98-%EC%8A%A4%ED%8E%99%EA%B3%BC-%EC%93%B0%EB%8A%94-%EB%B2%95.html
- 발행: [트렌드브리프](https://trendbrief.news/)

![Inkling 모델, 975B 오픈웨이트 MoE의 스펙과 쓰는 법](https://trendbrief.news/assets/articles/inkling-%EB%AA%A8%EB%8D%B8-975b-%EC%98%A4%ED%94%88%EC%9B%A8%EC%9D%B4%ED%8A%B8-moe%EC%9D%98-%EC%8A%A4%ED%8E%99%EA%B3%BC-%EC%93%B0%EB%8A%94-%EB%B2%95/hero-1.png)

> 씽킹머신랩이 2026년 7월 공개한 오픈웨이트 모델 Inkling의 핵심 스펙(총 975B·활성 41B MoE, 100만 토큰 컨텍스트, Apache 2.0)과 허깅페이스 내려받기·로컬 실행 방법을 개발자 관점에서 정리했다.

## Inkling 모델이란

Inkling은 오픈AI 최고기술책임자(CTO) 출신 미라 무라티가 이끄는 씽킹머신랩(Thinking Machines Lab)이 2026년 7월 15일 내놓은 오픈웨이트 언어 모델이다. 오픈웨이트란 학습된 가중치 파일을 공개해 누구나 내려받아 수정하고 재배포할 수 있는 방식을 말한다. 회사 공식 모델 카드에 따르면 라이선스는 Apache 2.0이고, 총 파라미터 975B에 토큰당 활성 파라미터는 41B인 혼합 전문가(MoE) 구조다.

이 글은 2026년 7월 기준 공개된 스펙과 접근 방법을, 모델을 직접 내려받아 서비스에 붙이려는 개발자 관점에서 정리한다. 벤치마크 순위 싸움이나 회사 사업 전략은 다루지 않는다. 나머지 핵심 스펙은 이렇다. 컨텍스트 길이(한 번에 넣는 입력 토큰 양)는 100만 토큰이고, 입력은 텍스트·이미지·오디오를 받아 텍스트로 답한다. 공식 모델 카드 기준 이미지는 40~4096픽셀, 오디오는 16kHz WAV로 최대 20분까지 넣을 수 있다. TechCrunch 보도에 따르면 학습 데이터는 텍스트·이미지·오디오·영상을 합쳐 45조 토큰 규모다.

## 총 975B인데 왜 41B만 쓴다는 건가

MoE 구조라서 그렇다. 혼합 전문가(Mixture-of-Experts, MoE)는 모델을 여러 개의 하위 신경망(전문가)으로 쪼개 두고, 토큰 하나를 처리할 때 그중 일부만 골라 계산하는 방식이다. 공식 모델 카드에 따르면 Inkling은 66층 디코더 전용 트랜스포머 위에 희소 MoE를 얹었고, 토큰마다 256개 전문가 중 6개에 공유 전문가 2개를 더해 라우팅한다.

씽킹머신랩은 [공식 발표](https://thinkingmachines.ai/news/introducing-inkling/)에서 학습·구조를 더 공개했다. 라우팅에는 시그모이드(sigmoid) 라우터를 쓰고, 위치 정보는 RoPE 대신 상대 위치 임베딩(relative position embedding)으로 처리하며, 최적화는 Muon과 Adam을 섞은 하이브리드 방식을 썼다고 밝혔다. 사전학습을 마친 뒤에는 3천만 회가 넘는 롤아웃 규모의 대규모 강화학습(RL) 후학습을 거쳤다고 설명한다.

개발자에게 이 숫자가 중요한 이유는 메모리와 연산 비용이 따로 논다는 점이다. 가중치 975B는 통째로 메모리에 올려야 하지만, 토큰당 실제 계산량은 41B급이라 추론 속도와 비용은 같은 크기의 밀집(dense) 모델보다 훨씬 가볍다. 대형 오픈 모델을 노린 [2.8조 파라미터 Kimi K3](https://trendbrief.news/articles/kimi-k3-2-8%EC%A1%B0-%ED%8C%8C%EB%9D%BC%EB%AF%B8%ED%84%B0-%EC%98%A4%ED%94%88-%EB%AA%A8%EB%8D%B8%EC%9D%98-%EC%8A%A4%ED%8E%99%EA%B3%BC-api-%EC%9A%94%EA%B8%88.html)와 견주면, Inkling은 총량은 작아도 활성 파라미터를 41B로 낮춰 추론 효율 쪽에 무게를 실은 설계다.

## 어떻게 내려받아 실행하나

크게 세 갈래다. 자체 GPU가 있으면 허깅페이스에서 가중치를 받아 직접 서빙하거나 파인튜닝하고, 인프라가 없으면 Tinker나 서드파티 추론 API로 바로 호출한다. 씽킹머신랩은 가중치를 허깅페이스에 올려 뒀고, 로컬 실행은 vLLM·SGLang·Transformers 같은 런타임을 지원한다고 밝혔다.

| 방법 | 쓰기 좋은 상황 | 비용 |
| --- | --- | --- |
| 허깅페이스 가중치 내려받기 | 자체 GPU에서 직접 서빙·파인튜닝 | Apache 2.0, 가중치 무료 |
| 로컬 런타임(vLLM·SGLang·Transformers) | 받은 가중치를 API 서버로 띄우기 | 오픈소스 무료(GPU 비용 별도) |
| Tinker·서드파티 추론 API | 인프라 없이 바로 호출·파인튜닝 | 제공사 종량 요금 |

가장 흔한 자체 서빙 경로는 이렇다.

```
# 허깅페이스에서 가중치 내려받기
huggingface-cli download thinkingmachines/Inkling

# vLLM으로 OpenAI 호환 API 서버 띄우기
vllm serve thinkingmachines/Inkling
```

다만 1조에 가까운 파라미터라 개인 워크스테이션 한 대에 원본을 통째로 올리기는 어렵다. 공식 모델 카드는 지원 수치 형식으로 BF16과 NVFP4를 든다. 다중 GPU 배포나 저정밀 양자화를 미리 계획하는 편이 현실적이다.

## thinking effort와 보정된 응답

개발자가 챙길 특징이 두 가지 있다. 씽킹머신랩은 사용자가 '사고 노력(thinking effort)' 값을 올리거나 내려 추론 깊이와 응답 속도를 맞바꿀 수 있다고 설명한다. 급한 요청은 낮게, 복잡한 추론은 높게 두는 식이다.

다른 하나는 보정(calibration)이다. 회사는 모델이 모르는 것을 지어내기보다 불확실성을 드러내도록 맞췄다고 밝혔다. 또 한 코딩 벤치마크에서 엔비디아 Nemotron 3 Ultra와 같은 성능을 내면서 토큰은 3분의 1만 썼다고 주장한다. 회사 측 자체 수치인 만큼 실제 워크로드로 직접 재보는 게 맞다.

![텍스트·이미지·오디오·비디오 네 입력이 하나의 모델 블록으로 모이고, 반원 다이얼이 사고 과정의 길이를 조절해 답을 내보내는 선화](https://trendbrief.news/assets/articles/inkling-%EB%AA%A8%EB%8D%B8-975b-%EC%98%A4%ED%94%88%EC%9B%A8%EC%9D%B4%ED%8A%B8-moe%EC%9D%98-%EC%8A%A4%ED%8E%99%EA%B3%BC-%EC%93%B0%EB%8A%94-%EB%B2%95/sec-effort-1.png)

멀티모달 입력을 한 모델이 받고, thinking effort 다이얼로 답하기 전 사고량을 조절한다.

## 어디에 쓰기 좋고 어디가 한계인가

공식 모델 카드는 Inkling을 에이전트·도구 사용 시스템, 코딩 어시스턴트, 챗봇, 검색 증강 생성(RAG, 외부 문서를 찾아 답변 근거로 넣는 방식) 애플리케이션을 만드는 개발자용으로 설명한다. 한계도 분명하다. TechCrunch 보도에 따르면 개발진은 Inkling이 지금 나온 모델 중 가장 강한 축은 아니라고 인정했고, 프론티어 모델이 아니라 커스터마이징용 기반 모델로 스스로를 규정했다.

다만 세부 벤치마크 점수는 꽤 높게 나왔다. 씽킹머신랩 발표 수치 기준으로, 사고 노력 값을 0.99까지 올렸을 때 툴 사용을 포함한 HLE에서 46.0%, AIME 2026에서 97.1%, GPQA Diamond에서 87.2%, SWE-bench Verified에서 77.6%를 기록했다. 회사 측 자체 측정치인 만큼 도입 전 자체 데이터로 검증하는 편이 안전하다.

에이전트 코딩 능력을 보여주는 사례도 발표에 담겼다. 씽킹머신랩에 따르면 Inkling은 스스로 파인튜닝 잡을 작성하고 실행해, 알파벳 'e'를 쓰지 않는 '리포그램(lipogram)' 모델로 자기 자신을 개선하는 사이클을 사람 개입 없이 끝까지 완성했다. 코드를 짜고 스스로 고쳐 가는 능력을 단적으로 보여주는 장면이다.

더 가벼운 선택지도 있다. 회사는 활성 파라미터 12B·총 276B 규모의 경량 프리뷰 Inkling-Small을 함께 공개했는데, 여러 벤치마크에서 큰 모델에 근접하면서 지연 시간과 비용을 낮춘다고 설명한다. 응답 속도나 서빙 비용이 더 급한 서비스라면 이쪽을 먼저 시험해 보는 것도 방법이다.

그래서 판단 기준은 이렇게 잡는 게 낫다. 최상위 성능이 필요한 단발 추론이라면 굳이 이 모델일 이유가 약하고, 사내 데이터로 파인튜닝해 통제권을 쥐거나 가중치를 자체 인프라에 두어야 하는 상황이면 Apache 2.0 오픈웨이트라는 점이 크게 작동한다. 대신 모델 카드는 오픈웨이트 특성상 배포자가 콘텐츠 필터링·속도 제한·모니터링 같은 안전장치를 직접 얹어야 한다고 못박는다. 오픈웨이트가 늘수록 안전 책임이 모델 제공자에서 배포자 쪽으로 옮겨오는데, 이 지형은 [AI 규제 규칙을 만드는 네 주체](https://trendbrief.news/articles/%ED%94%84%EB%A1%A0%ED%8B%B0%EC%96%B4-ai-%EA%B7%9C%EC%A0%9C-%ED%91%9C%EC%A4%80%EA%B8%B0%EA%B5%AC-%EA%B7%9C%EC%B9%99%EC%9D%84-%EB%A7%8C%EB%93%9C%EB%8A%94-%EB%84%A4-%EC%A3%BC%EC%B2%B4.html)를 짚은 글의 구도와도 맞닿아 있다.

## 관련 글

- [LLM 모델 라우팅, 쉬운 요청은 싼 모델로 보내는 원리와 도구](https://trendbrief.news/articles/llm-%EB%AA%A8%EB%8D%B8-%EB%9D%BC%EC%9A%B0%ED%8C%85-%EC%89%AC%EC%9A%B4-%EC%9A%94%EC%B2%AD%EC%9D%80-%EC%8B%BC-%EB%AA%A8%EB%8D%B8%EB%A1%9C-%EB%B3%B4%EB%82%B4%EB%8A%94-%EC%9B%90%EB%A6%AC%EC%99%80-%EB%8F%84%EA%B5%AC.md)
- [Kimi K3, 2.8조 파라미터 오픈 모델의 스펙과 API 요금](https://trendbrief.news/articles/kimi-k3-2-8%EC%A1%B0-%ED%8C%8C%EB%9D%BC%EB%AF%B8%ED%84%B0-%EC%98%A4%ED%94%88-%EB%AA%A8%EB%8D%B8%EC%9D%98-%EC%8A%A4%ED%8E%99%EA%B3%BC-api-%EC%9A%94%EA%B8%88.md)
- [LLM 필러 토큰과 숨은 추론, 무의미한 점이 계산이 되는 조건](https://trendbrief.news/articles/llm-%ED%95%84%EB%9F%AC-%ED%86%A0%ED%81%B0%EA%B3%BC-%EC%88%A8%EC%9D%80-%EC%B6%94%EB%A1%A0-%EB%AC%B4%EC%9D%98%EB%AF%B8%ED%95%9C-%EC%A0%90%EC%9D%B4-%EA%B3%84%EC%82%B0%EC%9D%B4-%EB%90%98%EB%8A%94-%EC%A1%B0%EA%B1%B4.md)
- [온라인 개인정보 보호, 개발자가 먼저 점검할 계정·코드·브라우저](https://trendbrief.news/articles/%EC%98%A8%EB%9D%BC%EC%9D%B8-%EA%B0%9C%EC%9D%B8%EC%A0%95%EB%B3%B4-%EB%B3%B4%ED%98%B8-%EA%B0%9C%EB%B0%9C%EC%9E%90%EA%B0%80-%EB%A8%BC%EC%A0%80-%EC%A0%90%EA%B2%80%ED%95%A0-%EA%B3%84%EC%A0%95-%EC%BD%94%EB%93%9C-%EB%B8%8C%EB%9D%BC%EC%9A%B0%EC%A0%80.md)
- [쿠키 없는 웹 분석 도구, 동의 배너 없이 트래픽 재는 5가지](https://trendbrief.news/articles/%EC%BF%A0%ED%82%A4-%EC%97%86%EB%8A%94-%EC%9B%B9-%EB%B6%84%EC%84%9D-%EB%8F%84%EA%B5%AC-%EB%8F%99%EC%9D%98-%EB%B0%B0%EB%84%88-%EC%97%86%EC%9D%B4-%ED%8A%B8%EB%9E%98%ED%94%BD-%EC%9E%AC%EB%8A%94-5%EA%B0%80%EC%A7%80.md)