Na mijn vorige artikel over het bouwen van een diff-app voor de VS Code-extensie met Claude Code, besloot ik een app te maken die puur voor mijn plezier is: een dagboek voor katten, genaamd
Neko Nikki. De implementatie zelf deed ik met Claude Code, maar in dat proces gebruikte ik ook Groq (uitgesproken als "grok"), waar kort geleden in het nieuws veel aandacht voor was. Daarom introduceer ik die hier.
Hoe ik tot het gebruik van de Groq API kwam
Overzicht van de app
Alleen foto's van katten uploaden en er een favorietenmap van maken vond ik saai, dus bedacht ik dat het leuk zou zijn als de AI de geüploade foto's bekijkt en er commentaar vanuit het perspectief van de kat bij genereert. Ik heb het snel even in elkaar gezet.
Je voert vooraf het profiel, de persoonlijkheid en favoriete dingen van de kat in, en via de prompt wordt de AI geïnstrueerd om altijd in de eerste persoon uit het perspectief van de "kat" te schrijven, met gevoelens en handelingen die direct en stellig worden beschreven.
Wanneer je een foto uploadt, genereert de app een commentaar van ongeveer 100 tot 160 tekens en 2 tot 3 zinnen vanuit het perspectief van de kat.
Gratis LLM API Groq
Voor het genereren van opmerkingen is een AI API absoluut noodzakelijk.
Daarom werd de Groq API-service voorgesteld, die beeldondersteuning biedt en een gratis tegoed heeft, en het Scout-model uit de Llama 4-modelreeks.
Officiële website: Groq
Groq zelf ontwikkelt geen AI-modellen zoals ChatGPT of Gemini. In plaats daarvan biedt het dienst aan waarbij open AI-modellen van andere bedrijven, zoals het gratis beschikbare Llama van Meta, worden uitgevoerd op de eigen snelle chips.
Het basisgebruik is volledig gratis zonder creditcardregistratie. Ik heb mij geregistreerd, een API-sleutel aangemaakt en deze direct in een app verwerkt.
(Op dit moment is het gratis, maar de gebruiksvoorwaarden kunnen in de toekomst veranderen, dus let hier op.)
Het bedrijf Groq is in 2016 opgericht, maar het kreeg pas vanaf 2023 tot 2024 aandacht met het zakelijke model van speciale chips die AI-inferentie extreem snel uitvoeren. Dit is een relatief recente ontwikkeling.
Ik heb Groq uitgeprobeerd!
Volgens opgave kan het meer dan 100 tokens per seconde verwerken, waardoor het antwoorden ongeveer 20 keer sneller genereert dan ChatGPT.
Ik heb Groq Chat gevraagd: "Leg in 1000 woorden uit wat een kat is."
Toon transcriptie van de video (Japans)
(Groq chatに「猫という生き物について1000字で解説して」と入力)
(質問を受け取ってから即時回答が生成される)
De tijd tussen het ontvangen van de vraag en het voltooien van het antwoord bedroeg 1,91 seconden!
Supersnel!!
Het is niet alleen supersnel, maar er is ook aanzienlijk minder stroomverbruik bereikt in vergelijking met traditionele GPU's.
Bij een test genereerde het een antwoord van 843 tokens (vergelijkbaar met enkele honderden Japanse tekens) in slechts 1,91 seconden (442 tokens per seconde).
Gebruik van de supersnelle API
Geschikt voor deze ontwikkeling
- Apps waarbij responssnelheid belangrijk is — Groq's grootste sterkte (de speciale LPU-chip) is de generatiesnelheid, dus het past goed bij chatbots en realtime interfaces die snel moeten reageren, zoals tekstinvoer waarbij antwoorden direct verschijnen of spraakassistenten waarbij het tempo essentieel is.
- Grote volumes eenvoudige taken — Samenvatten, classificeren of eenvoudig tekst genereren, wanneer je veel verzoeken wilt verwerken met lagere kosten per verzoek.
- Prototypes, persoonlijke projecten en interne tools — Zoals bij deze app, wanneer je een idee gratis wilt uitproberen.
Minder geschikte situaties
- Productiediensten waarbij nuance in de Japanse taal of complexe instructies cruciaal zijn — In de eerste prompt werd een instructie in de eerste persoon niet goed overgenomen. Claude en ChatGPT zijn echter consistenter in het nauwkeurig opvolgen van gedetailleerde instructies. De ondersteuning voor Japans is wel aanzienlijk verbeterd.
- Commerciële diensten die stabiele werking vereisen — het gratis aanbod kent snelheidslimieten en modellen worden relatief vaak gewijzigd of uitgefaseerd (zo werd
llama-3.2-11b-vision-previewtijdens ons gebruik al stopgezet), waardoor het minder geschikt is voor kernfunctionaliteit in productie.
Conclusie
Groq beschikt over een duidelijk troefje: een razendsnelle generatiesnelheid.
Omdat het een "gratis AI API" is, kun je het op dezelfde dag dat je het bedenkt in je app integreren, en dat laagdrempelige gebruik geeft een flinke boost aan persoonlijke projecten en experimentele fases. Ook het "gaat dit geld kosten?"-dilemma valt zo weg.
Combineer je de kracht van Groq met de mogelijkheid om de implementatie aan Claude Code over te laten, dan kun je als individu al heel ver komen met snelle app-ontwikkeling:
"Je bedenkt een idee, maakt er meteen een prototype van en werkt het af tot een responsieve ervaring"
. Dat is precies de vaart die het waard is!!
Ik ben voornamelijk bezig met markup en frontend-ontwikkeling met JavaScript, React en Next.js. Ik ben blij wanneer een site waar ik aan heb meegewerkt succesvol live gaat! Mijn hobby's zijn gitaar spelen. Ik hou van katten en geroosterde zoete aardappel 🐱🍠
ひらっち
Frontend-engineer / in dienst sinds 2022