用 Claude Code 與 Groq 開發應用程式 -試用極速 API Groq 的心得-

承接上次使用 Claude Code 開發 VS Code 擴充功能差異比對應用程式的經驗，我又順勢開發了一個純粹出於興趣的應用程式，名為「貓咪日記」。
實作本身是使用 Claude Code 完成的，但在過程中，我使用了不久前在新聞上引起話題的 Groq（Groq）」，因此在此向大家介紹。

採用 Groq API 的經過

應用程式概要

如果只是上傳貓咪照片並建立收藏資料夾，未免太過單調。因此我想，若能讓 AI 看過上傳的照片，並以貓咪的視角留下評論，應該會很有趣，於是便迅速完成了實作。

事先輸入貓咪的個人資料、性格與喜好等資訊，並透過提示詞指示 AI 必須以「貓咪」的第一人稱視角，直接表達當下的心情與行動。

上傳照片後，即會生成以該貓咪視角撰寫、約 100 至 160 字、2 至 3 句的評論。

免費 LLM API Groq

生成評論需要使用 AI API。

於是，我們找到了提供圖像支援且有免費額度的 API 服務「Groq」，以及其「Llama 4」模型系列中的 Scout。

官方網站：Groq

Groq 本身並非開發 ChatGPT 或 Gemini 那類「AI 模型」的公司。它的服務是以自家高速晶片運行其他公司公開的開源 AI 模型，例如 Meta 免費公開的「Llama」，並提供給使用者。

其基本使用額度無需綁定信用卡即可完全免費使用。我實際註冊、取得 API 金鑰後，便直接整合到應用程式中運行。
（目前為免費，但未來使用條件可能會有所變動，敬請留意。）

Groq 公司本身成立於 2016 年，但其「以超高速執行 AI 推論的專用晶片」這項業務是從 2023 至 2024 年左右開始受到關注，屬於較新的發展趨勢。

試用 Groq！

根據官方數據，其每秒可處理 100 個以上的 token，生成回應的速度據稱是 ChatGPT 的約 20 倍，遙遙領先。

我在 Groq chat 中提問：「請用 1000 字解說貓這種生物。」

從收到問題到完成回應生成，耗時 1.91 秒！

超快！！

不只是速度快，與傳統GPU相比，也成功大幅降低了耗電量。

實際測試時，產生了843個token（約相當於數百個日文字）的回覆，僅花了1.91秒（每秒442個token）。

活用超快速API

適合的開發場景

• 對回應速度要求高的應用程式 — Groq的最大優勢（專用晶片LPU）在於生成速度，因此適合聊天機器人，以及需要即時性的使用者介面（例如打字時即時回覆、語音助理等講求節奏感的應用）
• 大量處理簡單任務的用途 — 摘要、分類、簡單的文字生成等，希望以較低的單件成本大量處理的情況
• 原型、個人開發、內部工具 — 如同本次的應用程式，想先免費實際運行點子來驗證的時候

不太適合的場景

• 需要細膩處理日文表達或複雜指令的正式服務 — 首次提示時，第一人稱的指令未能充分反映，而在細緻指令的再現性上，Claude / ChatGPT 較為穩定。不過，Groq 對日文的支援已大幅改善。
• 需要穩定運行的商用服務 — 免費方案有速率限制，且模型的停用與變更也相對頻繁（實際上我在途中就遇到 llama-3.2-11b-vision-preview 被停用的情況），因此比較不適合作為正式環境的核心功能。

總結

Groq 擁有極快的生成速度，這是它明確的優勢。

正因為是「可以免費使用的 AI API」，只要一想到就能立刻整合進應用程式，這份輕鬆感對個人開發或驗證階段的專案來說是很大的助力，也不必再猶豫「要付費嗎……」。

若結合 Groq 的優勢與 Claude Code「交由它實作」的特點，
「把想到的點子當場做成原型，連回應流暢的體驗也一口氣完成」
這種節奏明快的應用程式開發，個人也完全能夠實現呢！！