Hola, soy Otsuka, CTO de Liberogic. Me di cuenta de que desarrollar aplicaciones internas ya es posible casi de forma espontánea, basada en ideas. Claude Code fue el gran detonante.
La evolución de los LLM y el cambio en los costos
En los últimos años, los LLM (modelos de lenguaje de gran tamaño) han aumentado tanto en variedad como en precisión, y su relación calidad-precio sigue mejorando rápidamente.
Hace poco OpenAI anunció gpt-oss. Ya se ha incorporado rápidamente en diversos servicios de alojamiento de LLM. Al revisar la tabla de precios de Groq para gpt-oss-120b, el costo es bastante bajo.
Incluso con prompts complejos, si se trata de unos cientos de solicitudes al mes, el costo es insignificante.
El punto de partida: el resumen de consultas de contacto
Nuestro sitio cuenta con un formulario de contacto, y desde hace tiempo operamos un sistema que resume su contenido con IA y lo envía a Slack.
Sin embargo, el enfoque que utilizábamos era un prompt sencillo con gpt-4o. Queríamos mejorar aún más la precisión usando gpt-oss.
"¿No sería interesante que el personal que responde a las consultas pudiera crear sus propios prompts?"
Sin embargo, para probar un prompt hace falta "pegar los datos históricos de consultas en un programa Node que llama a la API de un LLM y ejecutarlo para verificarlo". Para un ingeniero esto es sencillo, pero para un director de proyecto resulta bastante complicado.
Así surgió la idea de crear un "playground" de un servicio de IA exclusivo para uso interno
Lo que creamos fue una única aplicación web
Las especificaciones son muy sencillas.
- A la izquierda, un campo para introducir el prompt
- Carga los datos históricos de consultas guardados en Notion
- Llama a la API de Groq y muestra el resultado a la derecha
Aunque son solo estas funciones, es un entorno en el que el director de proyecto puede probarlo de inmediato.
Antes, incluso una herramienta interna de esta escala requería tiempo para preparar la infraestructura y configurar los servidores, pero ahora se puede poner en marcha con rapidez en un entorno como Cloudflare Workers. Además, en cuanto los requisitos están definidos, Claude Code genera la parte del programa en cuestión de minutos.
El tiempo invertido fue de apenas unas 2 horas
Desde que surgió la idea hasta que quedó terminada, solo pasaron unas 2 horas. *
Se publicó el mismo día y, en poco tiempo, todo el equipo, incluidos los directores internos, pudo probarla.
Lo que más me impresiona no es que personas sin formación en ingeniería puedan usar la IA.
"Como se pueden crear aplicaciones internas con rapidez, no solo los ingenieros, sino también las personas de su entorno pueden involucrarse en el proceso de desarrollo". Este es el punto más interesante.
En poco tiempo se pueden crear herramientas diseñadas para un fin específico y mejorarlas probándolas con todo el equipo.
Creo que este tipo de dinámica hará que los próximos proyectos sean aún más emocionantes.
* No fue la parte del programa, sino entender cómo colocar un script del lado del cliente con Hono + Vite lo que me llevó más tiempo.
La columna vertebral del departamento técnico de Liberogic. Cuando escucha frases como "Ojalá existiera algo así, sería muy útil...", con su ingenio añade valor extra y lo implementa en un abrir y cerrar de ojos. Con una gran capacidad de comunicación y muchos seguidores entre nuestros clientes, es un verdadero tesoro para la empresa, además de un gran amante de los gatos.
Sho Otsuka
Director de CTO / Ingeniero jefe / Representante de Nekoana LLC / Aparenta ser más joven de lo que es