Groq 教學：Free 測速、Developer 才放大限額；自助價看 GPT-OSS，Llama 要談企業

一分鐘快查： GroqCloud 是用自家 LPU（Language Processing Unit，語言處理單元＝Groq 強調的推論加速硬體）跑開源／開放權重模型的 模型呼叫服務，不是一般聊天網站那種月費訂閱。2026-11-05 直讀官方文件：帳號分 Free（US$0、限速）與 Developer（綁支付方式、按 token＝模型讀寫的最小文字單位計費、較高限額，並解鎖 Batch／Flex／花費上限等）。自助可見牌價例：openai/gpt-oss-120b 每百萬 token 輸入 US$0.15／輸出 US$0.60；openai/gpt-oss-20b 輸入 US$0.075／輸出 US$0.30。多個 Llama 型號在模型表標 Contact Sales（企業洽談），不要當成還能在 Free／Developer 無限呼叫。

簡單講：先 Free 打通金鑰與延遲手感；要產線流量再升 Developer，並盯模型表上的「自助價 vs 洽談價」。

文件與行銷站分工也要分清：延遲故事在行銷站，美元單價與限額表在 Console 文件。寫預算表時以後者為準。

開始前要準備什麼

1. Email（或 Google／GitHub／SSO）註冊 https://console.groq.com。
2. 會打 HTTP 的環境（curl、Python、Node 皆可）；本教學以 curl 為最小路徑。
3. **用途邊界：**PoC／個人腳本用 Free；穩定流量、Batch、花費告警用 Developer。
4. **模型期待管理：**這裡主打速度快的開放權重模型，不是「一站買齊 GPT-5／Claude」的聚合器定位。

來源：console.groq.com/docs/models、docs/rate-limits、docs/billing-faqs（2026-11-05 直讀）。RPM＝每分鐘請求；RPD＝每日請求；TPM＝每分鐘 token；TPD＝每日 token。

方案牆怎麼讀（先看這牆再動手）

GroqCloud 不是 ChatGPT 那種固定月費聊天訂閱。牆長這樣：

1. **Free：**US$0、速率上限較低，用來測延遲與打通金鑰。
2. **Developer：**綁支付方式、按 token（模型讀寫的最小文字單位）計費、限額較高，並解鎖 Batch、Flex、Spend Limits（花費上限）等。
3. **Contact Sales 型號：**模型表上部分 Llama 等標企業洽談，自助鍵沒有公開美元單價——舊文的「自助 Llama 日額」請整份作廢。

讀限額表時把縮寫還原：RPM＝每分鐘請求、RPD＝每日請求、TPM＝每分鐘 token、TPD＝每日 token。Free 上 openai/gpt-oss-120b 的例子是較低 RPM／RPD／TPM；Developer 同模型數字會高一個數量級。你的帳號以 Console Limits 頁為準，文件表只是高階摘要。

升等時機不是「覺得模型不夠聰明」，而是 429、每日牆、或需要 Batch／花費告警。先設 Spend Limits 再放大流量，避免腳本失控。

Step 1：註冊 Console 並建立 API（應用程式介面＝給程式呼叫的窗口） Key（API＝應用程式介面，給程式呼叫的窗口；Key＝金鑰）

1. 開啟 https://console.groq.com 完成註冊。
2. 到 API Keys 建立一把金鑰，只存在本機環境變數（例如 GROQ_API_KEY），不要貼進公開 repo。
3. 先留在 Free，不要急著綁卡。

成功標準：Keys 頁看得到金鑰前綴，且尚未被提示必須升級才能建立金鑰。

Step 2：打一發最小聊天請求，確認延遲與限額標頭

在終端機執行（把金鑰換成你的環境變數），對官方聊天完成網址送一小段測試訊息：

curl -s https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer $GROQ_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"openai/gpt-oss-20b","messages":[{"role":"user","content":"用一句話自我介紹"}]}'

回來看三件事是否同時成立：有沒有正常資料回覆而不是 401／403；回應有多快（這是選 Groq 的主因）；以及回應標頭裡的限額欄位（官方限額文件說明可讀剩餘請求與 token）。成功標準是同一支腳本連續跑幾次都穩定；若很快出現 429，代表撞到 Free 的每分鐘請求、每分鐘 token 或每日請求牆，下一步才是升 Developer，而不是換一堆提示詞硬撞。

Step 3：要更高限額或 Batch 時再升 Developer，並設花費上限

當 Free 的每日／每分鐘上限擋住排程或 demo 流量：

1. 到 Billing／Plans 升級 Developer（Billing FAQ：需信用卡、美國銀行帳戶或 SEPA；升級立即生效，但用量之後才帳單）。
2. 設定 Spend Limits（花費上限），避免腳本失控刷爆。
3. 大量可延遲任務改走 Batch；文件寫 Developer 才帶這類能力。
4. 選模型前先打開 https://console.groq.com/docs/models：只要看到 Contact Sales，自助鍵沒有公開美元單價——不要抄舊文的 Llama 自助價當還有效。

成功標準：Usage 頁看得到用量曲線；限額頁的數字比 Free 明顯提高；帳單門檻行為符合 FAQ（例如先跨過 US$1 才開始累進扣款）。

步驟走完仍要守的限制

• 金鑰等同密碼，禁止提交到公開程式庫（repo＝遠端程式碼倉庫）。
• Free 的 429 要用降併發／升 Developer 解，不要用重試風暴硬撞。
• Contact Sales 型號沒有自助牌價就不要抄第三方舊表。
• Developer 務必設定 Spend Limits；用量制沒有「月費上限」的錯覺。

常見錯誤怎麼解

三種真實使用情境（對完再決定升哪一格）

情境 A：驗證「夠不夠快」。
留在 Free，用最小聊天請求打 openai/gpt-oss-20b 這類自助模型，看延遲與限額標頭。這階段不要綁卡。

情境 B：排程、對外 demo、需要較高 RPM／TPM。
升 Developer，立刻設 Spend Limits（花費上限）。Batch 能做的離線任務別佔即時額度。

情境 C：模型表寫 Contact Sales。
走企業洽談，不要抄第三方舊自助價。自助牌價目前較完整可見的是 GPT-OSS 系列為例的那類列項。

把產品定位唸一次：這是給程式呼叫的模型服務，不是月費聊天網頁。你要會保管金鑰、處理 429、讀用量頁，才算真的上手。

🔍 問問貓獨家實查

Groq 行銷站在 2026-11-05 以品牌敘事為主，方案牆與美元單價反而在 Console 文件比較完整。更關鍵的變化是：自助可見的公開標價主力變成 GPT-OSS 系列；多個 Llama 型號在模型表改列 Contact Sales（要企業洽談）。若你還拿著「免費層送超大 Llama 日額」的舊筆記，請整份作廢，重對官方限額文件裡的 Free／Developer 表。教學順序應是先拿到金鑰、打通一支最小請求、讀限額回應標頭，再談升等綁卡，而不是先繳錢再找模型。

延遲才是選 Groq 的主因，所以獨家實查順序固定成：金鑰 → 最小請求 → 讀限額標頭 → 再談模型智商。很多人一進來就找「最聰明的 Llama」，結果模型表已改 Contact Sales，或 Free 的 RPM 先把腳本打成 429。

Billing FAQ 的細節也常被忽略：升級 Developer 當下不必然立刻扣一筆月費；用量跨過門檻才累進扣款。沒設 Spend Limits 就開排程，等於把信用卡交給失控迴圈。能用較小模型（例如 20B 級）完成的分類／摘要，就不要預設上 120B——輸出 token（含推理過程）通常比輸入貴。

☀️ 阿莫（AMO）精打細算派怎麼看

阿莫：Free 能驗證「夠不夠快」再決定付錢。Developer 沒有固定月費很好，但沒設 Spend Limits 等於裸奔。能用 20B 解決的別預設上 120B；輸出 token（含推理過程）比輸入貴，長答會吃錢。

🌙 皮米（PIMI）效能派怎麼看

皮米：選 Groq 是為了延遲。Free 測出 p95 延遲合格，再升 Developer 放大 RPM／TPM。需要 Batch 或穩定產線限額就別硬留 Free；模型名單以 Console 當日為準，文件過期比帳單可怕。

升級前的對帳清單

1. **Free 是否已出現穩定 429 或每日牆？**沒有就繼續測延遲。
2. **Spend Limits 設了沒？**沒設就不要升 Developer 開排程。
3. **模型表是自助價還是 Contact Sales？**後者不要抄舊美元表。
4. **金鑰存放：**只放環境變數，不放公開倉庫，不放聊天紀錄。

Developer 是用量制。帳單門檻行為以 Billing FAQ 為準，升級當下不必然立刻扣一筆固定月費。

這次沒查證到的部分

1. 你帳號當下的精確限額數字（文件強調以 Console Limits 頁為準，表上是高階摘要）。
2. 各模型快取命中價的完整表（部分第三方整理有寫；本日以官方 models 頁可見欄位為準）。
3. 企業合約價與 SLA（Contact Sales，未取得報價單）。

限額標頭怎麼讀（打通後必做）

最小請求成功後，把回應標頭裡與剩餘請求、剩餘 token 有關的欄位記下來（官方限額文件有欄位說明）。連續跑五次，看數字怎麼掉。這能告訴你 Free 牆比較先撞在每分鐘請求，還是每分鐘 token。

若五次裡就出現 429，先降併發，再考慮 Developer。升等後用同一支腳本重測，確認 Limits 頁數字有變，才算升級成功——收據郵件不是限額證明。

限額數字以你 Console 當日頁面為準，文件表只是摘要，不能代替帳戶實況。

測延遲用同一支腳本、同一個模型名，換日比較才有意義。

五次連續成功，再談放大流量。

結論：誰該用、誰別碰

要極低延遲呼叫開放權重模型 → Groq 值得試。要在同一個金鑰打閉源旗艦聊天模型 → 這不是對的貨架。流量很小 → 留 Free；開始排程／對外服務 → Developer＋花費上限。

若你要的是單一金鑰打齊閉源旗艦聊天模型，GroqCloud 不是對的貨架。若你要的是開放權重模型的低延遲推論，並能接受自己寫呼叫與限額處理，才值得把 Free 測速結果寫進架構決策。

下一步： 自己到 Groq 官方核對免費／費用／方案（本站聯盟外連；不改官網標價）。

前往 Groq 官方 →

📎 資料來源

• https://console.groq.com/docs/models（2026-11-05）
• https://console.groq.com/docs/rate-limits（2026-11-05）
• https://console.groq.com/docs/billing-faqs（2026-11-05）