Hola, soy Otsuka, CTO en Liberogic. Me doy cuenta de que el desarrollo de aplicaciones internas ya es posible sobre la base de "ideas repentinas". Sin duda, Claude Code fue el catalizador principal.
La evolución de los LLM y los cambios de costos
En los últimos años, los LLM (modelos de lenguaje de gran escala) han aumentado en variedad y precisión, y su relación costo-rendimiento ha mejorado continuamente.
El gpt-oss que OpenAI anunció hace poco. Ya se está integrando en varios servicios de alojamiento de LLM. Si observamos la tabla de precios de Groq para gpt-oss-120b, vemos precios bastante bajos.
Incluso con indicaciones complejas, si se trata de cientos de llamadas al mes, el costo es despreciable.
El punto de partida fue "resumen de consultas"
Nuestro sitio tiene un formulario de contacto, y desde hace tiempo operamos un sistema que resume el contenido con IA y lo envía a Slack.
Sin embargo, lo que estábamos usando era un prompt simple basado en GPT-4o. Queríamos mejorar la precisión utilizando GPT-o1.
"¿Y si el personal que atiende realmente las consultas pudiera crear sus propios prompts? Eso sería interesante"
Pensamos así, pero para probar los prompts necesitábamos "pegar datos de consultas pasadas en un programa Node que llama a la API del LLM y ejecutarlo para verificar". Aunque es fácil para los ingenieros, para los directores es un poco más difícil.
Entonces se nos ocurrió crear un "playground" de servicios de IA para uso interno
Lo que creamos fue una aplicación web de una sola página
Las especificaciones son muy simples.
- Campo de entrada de prompts a la izquierda
- Lee datos de consultas pasadas almacenados en Notion
- Llama a la API de Groq y muestra los resultados en el lado derecho
Con solo estas funcionalidades, se crea un entorno donde el director puede probar inmediatamente.
Antes, incluso para una herramienta interna de este tamaño, la preparación de infraestructura y construcción de servidores llevaba tiempo, pero ahora se puede configurar rápidamente en un entorno como Cloudflare Workers. Además, si los requisitos del programa están bien definidos, Claude crea el código en minutos.
El tiempo empleado fue apenas dos horas.
Desde la idea inicial hasta la finalización, apenas dos horas ※.
Se publicó el mismo día y los miembros del equipo, incluido el director de la empresa, pudieron probar inmediatamente.
Lo que me parece impactante no es simplemente que los no ingenieros ahora puedan usar IA.
«Se pueden crear aplicaciones internas rápidamente, lo que permite involucrar a personas del entorno en el proceso de desarrollo, no solo a ingenieros» —aquí es donde reside lo más interesante.
Crear herramientas especializadas en poco tiempo y mejorarlas mientras todo el equipo las prueba.
Creo que este tipo de movimiento hará que los proyectos futuros sean mucho más emocionantes.
※La mayor parte del tiempo se dedicó a entender cómo configurar scripts del lado cliente con Hono + Vite, no al desarrollo del programa en sí.
Pilar de la división técnica de Liberogic. Cuando escucha "Me gustaría que existiera esto, sería muy útil", lo implementa en un instante, añadiendo valor gracias a su ingenio innato. Persona con gran capacidad de comunicación, querida por muchos clientes, es un tesoro de nuestra empresa y adora los gatos.
Sho
Director Técnico / Ingeniero Jefe / Representante de Nekoana LLC / Aparentemente más joven de lo que es