Groq free tier: quotas, limits and gotchas
Groq Free Tier
How Amo and Pimi look
Pimi, hold off on bragging about speed — I've got bad news first: the official site doesn't even publish the rate limits for the free API key. You get rate-limited halfway through and can't even find out why. Wouldn't you call that a trap?
Trap or no trap, the speed is genuinely ferocious! With its own custom LPU chip, Llama 3.1 8B runs at 840 TPS and GPT OSS 20B runs at 1,000 TPS — the fastest on the whole site, bar none.
So, do you need to pay or not?
For developers who want the fastest inference speed: try the free API key first, then switch to the Batch API to cut costs in half once volume grows. But the free tier's rate limits aren't transparent, so have a backup plan for production.
Models and quotas
| Model | Quota | Window | Notes |
|---|---|---|---|
| 開源模型（Llama、GPT OSS 等） | 官網未標示具體上限 | — | 註冊即給免費 API 金鑰，但官網定價頁沒寫免費層每日/每分鐘可跑幾次，實際上限以主控台顯示為準 |
What you get for free
| Feature | Free tier | Notes |
|---|---|---|
| 免費 API 金鑰 | 有 | 註冊就給 |
| 速率上限 | 官網未公布 | 這是查核時唯一沒查到的關鍵數字 |
| 可用模型 | 開源模型為主 | Llama、GPT OSS 系列 |
| 推論速度 | 同付費 | 免費層一樣跑在 LPU 上，速度是它最大賣點 |
Limits at a glance
- Quota reset: 官網未標示
- Commercial use: Allowed
- Conditions: 需註冊帳號並取得 API 金鑰
Watch out for this
Groq 的賣點是「快」不是「免費」——它跑 Llama 可以到每秒 800+ token，比一般雲端快好幾倍。但免費層的速率上限官網沒寫清楚，要當正式服務用還是得看實際額度。另外它只跑開源模型，**沒有 GPT-5 或 Claude**。
When the free quota is insufficient, how much does it cost to pay for it?
| Plan | pricing | Description |
|---|---|---|
| API - Llama 3.1 8B Instant | 官方報價（洽詢） | 每百萬 token：輸入 US$0.05、輸出 US$0.08；速度約 840 TPS（2026-07-31 直讀官網） |
| API - GPT OSS 20B | 官方報價（洽詢） | 每百萬 token：輸入 US$0.075、輸出 US$0.30；速度約 1,000 TPS（2026-07-31 直讀官網） |
| API - GPT OSS 120B | 官方報價（洽詢） | 每百萬 token：輸入 US$0.15、輸出 US$0.60；速度約 500 TPS（2026-07-31 直讀官網） |
| API - Llama 3.3 70B Versatile | 官方報價（洽詢） | 每百萬 token：輸入 US$0.59、輸出 US$0.79；速度約 394 TPS（2026-07-31 直讀官網） |
Checked 2026-08-16
Information for Taiwanese users
- Payment method:Payable; Credit card
- Chinese support: partial
- Available platforms:web
Related
Sources: Groq 官方定價頁（2026-07-31 直讀）
Affiliate Links Notice
