用 Claude Code 和 Groq 开发应用 - 试用超快 API Groq 的经历

接上次用 Claude Code 开发 VS Code 扩展差异应用的经历，这次我完全出于兴趣，做了一个名为【猫日记】的应用。
实现本身使用了 Claude Code，而在这个过程中，我使用了前段时间在新闻上引起热议的 Groq（Groq）」，因此在这里为大家介绍一下。

使用 Groq API 的经过

应用概要

如果只是上传猫的照片并创建收藏文件夹，未免太单调了，所以我想，如果AI能看着上传的照片，以猫的视角生成评论，应该会很有趣，于是便迅速地实现了这一功能。

预先输入猫的个性、性格和喜好等信息，并通过提示词指示模型，以“猫”的第一人称视角，直接描述当下的心情与行为。

上传照片后，将以该猫的视角生成100至160字、2至3句左右的评论。

免费 LLM API Groq

生成评论必须要用到AI API。

于是我们找到了支持图像输入、提供免费额度的API服务「Groq」，以及其「Llama 4」模型系列中的Scout模型。

官方网站：Groq

Groq本身并不像ChatGPT或Gemini那样开发“AI模型”。它提供的服务是，使用自家的高速芯片运行其他公司公开的开源AI模型，例如Meta公司免费公开的“Llama”。

其基础免费额度无需绑定信用卡即可使用。我实际注册后获取了API密钥，并直接集成到应用中运行。
（目前免费，但今后使用条款可能会发生变化，敬请留意。）

Groq公司本身成立于2016年，但直到2023至2024年前后，凭借“以超高速运行AI推理的专用芯片”这一业务受到关注，这是相对较新的趋势。

试用Groq！

据官方介绍，其每秒可处理100个以上的token，生成回答的速度据称约为ChatGPT的20倍，优势十分明显。

我在Groq Chat中提问：“请用1000字解释一下猫这种生物。”

从接收问题到完成回答生成，总共耗时1.91秒！

速度超快！！

不仅速度惊人，还成功与传统GPU相比大幅降低了功耗。

实际测试中，生成了843个token（相当于数百个日文字符）的回答，仅用时1.91秒（每秒442个token）。

借助极速API

适用的开发场景

• 对响应速度要求高的应用 — Groq 的最大优势（专用芯片 LPU）在于生成速度，因此适用于聊天机器人以及需要实时性的界面（例如输入时即时返回结果、节奏感很重要的语音助手等）
• 大量简单任务的处理 — 例如摘要、分类、简单文本生成等，希望降低单次成本并大批量处理的场景
• 原型、个人开发及内部工具 — 如本次应用这类，希望先免费验证创意的场景

不太适合的场景

• 对细腻的日语表达或复杂指令处理要求较高的正式生产服务 — 首次提示词中，第一人称的指令未能充分体现，而在复现细致指令方面，Claude / ChatGPT 的表现更为稳定。不过，日语支持据称已有较大改善。
• 需要稳定运行的商用服务 — 免费额度有速率限制，且模型的停用和变更也相对频繁（实际上我就遇到过 llama-3.2-11b-vision-preview 中途被停用的情况），因此不太适合作为生产环境的核心功能

总结

Groq 拥有极快的生成速度，这是它非常鲜明的优势。

正因为是「可以免费使用的 AI API」，想到就能当天集成到应用中的轻松感，对个人开发和验证阶段的项目来说是很大的助力，也让人不再纠结「付费是否值得……」。

如果把 Groq 的优势与 Claude Code 可以“交由它来实现”的优势结合起来，
『把突然冒出的想法当场原型化，并一口气打磨到响应流畅的体验』
这种节奏感十足的应用开发，个人也完全可以轻松实现呢！！