使用 Claude Code 和 Groq 创建应用 - 尝试高速 API Groq 的故事

继上次用 Claude Code 创建 VScode 扩展功能差分应用的内容后，我还创建了一个完全出于爱好的应用【猫日记】。
实现本身使用了 Claude Code，但在这个过程中我使用了最近在新闻中引起关注的 Groq（格洛克）API，所以想介绍一下这个。

使用 Groq API 的背景

应用概览

仅仅上传猫咪照片并创建收藏夹太无聊了，所以我想到如果能让 AI 查看上传的照片并从猫咪的视角生成评论会很有趣，就快速实现了。

提前输入猫咪的个人资料、性格、喜欢的东西等信息，然后在提示词中指示必须用「猫」的视角、第一人称，以当场断定的形式写出自己的想法和行动。

上传照片后，会生成该猫咪视角的 100-160 字、2-3 句左右的评论。

免费 LLM API Groq

评论生成必然需要 AI API。

于是建议使用支持图像、有免费额度的「Groq」API 服务，使用「Llama 4」模型系列的 Scout。

官方网站: Groq

Groq 本身并不像 ChatGPT 或 Gemini 那样创建「AI 模型」。它部署的服务是利用自家高速芯片运行由 Meta 等其他公司公开发布的开源 AI 模型（如「Llama」）。

基本使用配额完全免费，无需注册信用卡。我们实际注册后发行了 API 密钥，并直接将其集成到应用中运行。
（目前是免费的，但请注意未来使用条件可能会发生变化。）

虽然 Groq 公司成立于 2016 年，但「专用芯片超高速运行 AI 推理」这一商业模式开始受到关注是在 2023-2024 年期间，是一个相对较新的发展趋势。

我试用了一下 Groq！

根据官方说法，其每秒可处理超过 100 个标记，能够以约为 ChatGPT 的 20 倍的绝对速度生成回答。

我在 Groq Chat 中提问「请用 1000 字解释猫这种生物」。

从接收问题到完成生成回答所花的时间仅为 1.91 秒！

快得不可思议！！

不仅速度快，与传统 GPU 相比，功耗消耗也大幅降低。

在实际测试中，生成了843个token（相当于日语数百字）的回答，仅耗时1.91秒（每秒442个token）。

利用超快速API

适合的开发场景

• 响应速度至关重要的应用 — Groq的最大优势（专用芯片LPU）在于生成速度快，因此非常适合聊天机器人和需要实时性的UI（在用户输入时立即响应、像语音助手一样需要快速节奏的应用）
• 处理大量简单任务的场景 — 摘要、分类、简单文本生成等，当需要控制单项成本并处理大量任务时
• 原型设计、个人开发、内部工具 — 就像这个应用一样，当想先用免费服务来验证想法并尝试实现时

不太适合的场景

• 需要细致日语表达和复杂指令理解的正式服务 — 在首次提示中，第一人称的指令没有被正确理解，细致指令的复现能力上Claude / ChatGPT更稳定。不过Groq的日语支持似乎也得到了相当改进。
• 需要稳定运营的商用服务 — 免费层级有速率限制，模型的停用和变更也比较频繁（实际上llama-3.2-11b-vision-preview中途被停用了），因此不太适合作为正式环境的核心功能

总结

Groq是一项拥有超快生成速度这一明确优势的服务。

正因为如此，「免费可用的AI API」使得人们能够在想到创意的当天就轻松将其集成到应用中，这对个人开发和项目验证阶段提供了巨大的推动力，同时消除了「不太想付费」的犹豫。

如果将Groq的优势与Claude Code「委托实现」的优势结合起来，
『将想到的创意现场原型化，一口气完成响应迅速的使用体验
』这样高效率的应用开发即使是个人开发者也完全能够实现了！！