Creando una app con Claude Code y Groq: probando la API ultrarrápida Groq

Siguiendo con el artículo anterior, en el que creé una app de diferencias para una extensión de VS Code con Claude Code, decidí crear una aplicación puramente personal: un diario de gatos llamado
«Neko Nikki». Aunque la implementación se hizo con Claude Code, durante el proceso utilicé Groq, del que se habló en las noticias hace poco, así que aquí lo presento.

Cómo llegué a usar la API de Groq

Descripción de la app

Subir fotos de gatos y simplemente guardarlas en una carpeta de favoritos resultaba aburrido, así que pensé que sería divertido si una IA mirara las fotos subidas y generara comentarios desde la perspectiva del gato. Lo implementé rápidamente.

Se introducen de antemano el perfil, la personalidad y los gustos del gato, y el prompt indica que, basándose en ellos, el texto se escriba siempre en primera persona desde la perspectiva del "gato", expresando sus sentimientos y acciones de forma directa.

Al subir una foto, se genera un comentario de unas 100 a 160 caracteres y 2 a 3 oraciones desde la perspectiva del gato.

API LLM gratuita Groq

Generar comentarios requiere, sin excepción, una API de IA.

Así fue como surgió la propuesta de Groq, un servicio de API que admite imágenes y ofrece un nivel gratuito, junto con Scout, de la serie de modelos Llama 4.

Sitio oficial: Groq

Groq no desarrolla por sí mismo modelos de IA como ChatGPT o Gemini. En cambio, ofrece un servicio que ejecuta en sus propios chips de alta velocidad modelos de IA abiertos publicados por otras empresas, como Llama, que Meta publica de forma gratuita.

Su plan básico es completamente gratuito, sin necesidad de registrar una tarjeta de crédito. Pude registrarme, generar una clave de API e integrarla directamente en una aplicación para ponerla en funcionamiento.
(Actualmente es gratuito, pero las condiciones de uso podrían cambiar en el futuro, así que tenga en cuenta esto.)

Groq como empresa se fundó en 2016, pero su negocio centrado en ejecutar la inferencia de IA a muy alta velocidad con chips especializados empezó a llamar la atención alrededor de 2023-2024, por lo que es una tendencia relativamente reciente.

¡Probé Groq!

Según sus datos, puede procesar más de 100 tokens por segundo y genera respuestas a una velocidad impresionante, unas 20 veces más rápida que ChatGPT.

Le pregunté a Groq Chat: "Explícame en 1000 caracteres qué es un gato".

¡El tiempo desde que recibió la pregunta hasta que completó la respuesta fue de 1,91 segundos!

¡Súper rápido!

No solo es increíblemente rápido, sino que también ha logrado reducir considerablemente el consumo de energía en comparación con las GPU tradicionales.

Al probarlo, generó una respuesta de 843 tokens (equivalente a varios cientos de caracteres en japonés) en solo 1,91 segundos (442 tokens por segundo).

Aprovechando una API ultrarrápida

Desarrollos recomendados

• Aplicaciones donde la velocidad de respuesta es crucial: La mayor fortaleza de Groq es su velocidad de generación gracias a su chip dedicado (LPU), por lo que resulta ideal para chatbots e interfaces en tiempo real, como las que responden al instante mientras el usuario escribe o los asistentes de voz, donde el ritmo de la conversación es fundamental.
• Tareas simples a gran volumen: Resúmenes, clasificación o generación de textos breves, cuando se necesita procesar muchos elementos manteniendo bajo el coste por cada uno.
• Prototipos, desarrollo personal y herramientas internas: Como en esta aplicación, ideal para poner en marcha ideas de forma gratuita y probarlas rápidamente.

Escenarios poco recomendables

• Servicios de producción que requieren un manejo preciso del japonés o instrucciones complejas: En la primera prueba, las instrucciones en primera persona no se reflejaron bien, y en cuanto a la reproducción fiel de instrucciones detalladas, Claude y ChatGPT son más estables. Aun así, el soporte del japonés ha mejorado notablemente.
• Servicios comerciales que requieren una operación estable — El plan gratuito tiene límites de frecuencia de solicitudes, y los modelos se retiran o cambian con relativa frecuencia (de hecho, llama-3.2-11b-vision-preview fue retirado durante el periodo de prueba), por lo que no resulta adecuado para las funciones principales de un entorno de producción.

Conclusión

Groq es un servicio que destaca por su clara ventaja: una velocidad de generación extremadamente rápida.

Por eso, al ser una "API de IA gratuita", la facilidad de integrarla en una aplicación el mismo día en que surge la idea supone un gran impulso para proyectos personales y en fase de experimentación, y elimina la duda de "pagar... quizás no".

Si combinas las fortalezas de Groq con la capacidad de "delegar la implementación" en Claude Code,
"puedes convertir una idea en un prototipo al instante y pulir una experiencia de respuesta ágil en un solo paso"
... un desarrollo de aplicaciones con un ritmo muy ágil que perfectamente puede lograr una persona por su cuenta.