El auge de GenAI de los últimos años ha desatado una ola de startups que prometen apoyar el proceso de ingeniería de instrucciones, es decir, encontrar instrucciones para dirigir de manera precisa a un chatbot de IA para brindar resultados útiles. Así que piense en herramientas como ChatGPT de OpenAI y Gemini de Google, que presentan al usuario un campo en blanco para su consulta, y donde lo que pregunte y cómo lo pregunte puede llevar a resultados muy diferentes.
Con sede en Nueva York, PromptLayer ingresó a este espacio temprano, lanzando una herramienta para ayudar a los desarrolladores de aplicaciones a administrar el proceso de instrucciones hace unos dos años. Sus fundadores habían estado experimentando con chatbots de IA y querían algo para hacer un seguimiento de sus propias instrucciones, relata el cofundador Jared Zoneraich (un ex alumno del TechCrunch Disrupt hackathon, en la foto arriba a la izquierda con el cofundador Jonathan Pedoeem).
Ahora han cerrado una recaudación de fondos de semillas de $4.8 millones para continuar construyendo impulso para su enfoque. La ronda está liderada por Ivan Bercovich (ScOp Venture Capital), con la participación nuevamente de Peter Boyce II (Stellation Capital), junto con varios ángeles y fundadores y operadores de IA, incluidos Michael Akilian, Joshua Browder, Byrne Hobart, Romain Huet, Josh Kamdjou, Logan Kilpatrick, Ben Lang, Alex Oppenheimer, Gokul Rajaram, Gabriel Stengel y Luis Voloch.
Mantener un control sobre las instrucciones
Zoneraich dice que el núcleo del producto de PromptLayer es un "registro de instrucciones". "Es un CMS, es control de versiones para instrucciones", explica. "Tienes una instrucción, creas una nueva versión, puedes ver por qué las versiones son diferentes, y luego puedes elegir cuál es tu versión de producción... Eso es como el centro de nuestro producto, y todo se expande desde eso e intenta hacerlo más útil".
La plataforma está diseñada para ayudar a los clientes a probar y evaluar diferentes instrucciones para su caso de uso de aplicación en particular, permitiéndoles probar cómo funcionan diferentes versiones de instrucciones en una variedad de LLMs; y, en general, tener un mejor control en este valiente nuevo mundo del desarrollo de aplicaciones donde el lenguaje necesario para comandar tecnología de vanguardia es, en su mayoría, solo palabras (en lugar de código).
De manera poco común para un fabricante de herramientas de desarrollo, PromptLayer está deliberadamente enfocado en usuarios no técnicos.
Zoneraich dice que tomaron la decisión consciente de construir un negocio de gestión de instrucciones dirigido a lo que él se refiere como "expertos en dominios", es decir, profesionales con experiencia clave en su campo, ya sea educación, legal, atención médica, etc., después de descubrir que los usuarios iniciales estaban llevando a no programadores a la fiesta del desarrollo de aplicaciones.
"Creemos que no se puede construir IA en el campo de la salud sin médicos, IA legal sin abogados, o IA de terapia sin terapeutas", escribe la startup en una declaración de misión que dice que su herramienta de software "permite a los expertos en dominios e ingenieros colaborar usando nuestro CMS visual de instrucciones".
Zoneraich va más allá, diciendo que la plataforma pone a los expertos en dominios al frente del desarrollo de aplicaciones.
"Esto se convierte en algo en lo que necesitan ser entrenados, pero no es un gran salto", sugiere. "No es como que tengan que aprender a codificar. Así que es algo que una persona promedio podría aprender".
Tomando un enfoque diferente
Dado que GenAI ha abierto la caja de herramientas de IA, en gran parte gracias a la decisión de OpenAI de incrustar IA generativa en una interfaz de lenguaje natural accesible, la elección de centrarse en herramientas para usuarios no técnicos tiene sentido lógico. Sin embargo, Zoneraich cree que los diferencia de la mayoría de los actores en este espacio.
"Estamos tomando un enfoque muy diferente al de todos los demás", sugiere durante una llamada con TechCrunch. "Todo el concepto de expertos en dominios liderando la carga, básicamente nadie está haciendo eso. Creo que lo aprendimos de nuestros clientes. Pero en el Valle del Silicio, es un poco menos atractivo construir para los no técnicos, en lugar de los técnicos".
"No creo que tengamos que convencer a nadie de que esta es la forma correcta de hacerlo. Creo que el mercado hablará por nosotros", continúa, argumentando: "No creo que puedas ganar en muchos de estos campos sin emplear a expertos en dominios para hacer ingeniería de instrucciones".
"Simplemente no hay suficientes ingenieros de todos modos, incluso si quisiéramos dotar de ingenieros a todo", añade.
Sobre las herramientas de IA técnicamente centradas, Zoneraich menciona a empresas como Zapier, así como señala lo que él llama compañías de "LLM ops" como Braintrust y LangChain, cuando discutimos el panorama competitivo. "Pero creo que todos se están centrando demasiado en eso (herramientas para usuarios técnicos)", sostiene, diciendo que está convencido de que para la mayoría de las empresas que buscan aprovechar el poder de LLMs, los expertos en dominios relevantes para la aplicación que deseen construir no serán personal técnico.
También considera que las habilidades necesarias para ser un buen ingeniero de instrucciones no son necesariamente las mismas que hacen a un buen programador.
"La habilidad de la ingeniería de instrucciones no está correlacionada al 100% con los ingenieros. Hay una subsección, pero realmente es una habilidad de tipo de inventor que se requiere... 'Voy a intentar esta cosa al azar, y luego veré cuál es el resultado'", nos dice. "Algunas personas intentan realmente planificarlo y hacer investigaciones sobre cuál debería ser la instrucción. Y en mi opinión, esas personas no son buenas en la ingeniería de instrucciones porque realmente no hay una ciencia".
"Creo que cuanto menos intentes entender el LLM, mejor eres", agregó.
Creando demanda
Zoneraich está entusiasmado con cuán grande será la necesidad del mercado de herramientas para sacarle el máximo provecho a los LLMs. Tampoco le preocupa que este campo recién emergido de ingeniería de instrucciones termine siendo un parpadeo en la historia del trabajo que es rápidamente aplastado por nuevos desarrollos en el mercado de GenAI de ritmo acelerado.
Incluso una AGI, si un IA generalmente inteligente llegara a existir, necesitaría algo con qué trabajar, argumenta, implicando que los humanos seguirán necesitando alguna forma de herramientas/apoyo para guiar a las máquinas en el futuro previsible.
"Lo difícil es, ¿qué hago con eso? Lo difícil es, ¿qué tarea le doy para resolver?", dice, subrayando la confianza de PromptLayer en que está construyendo herramientas a largo plazo. "Lo difícil es definir qué hacer".
"Si crees que no hay una solución perfecta para muchos de estos problemas, hay infinitas formas de resolverlos, y ese es el trabajo del ingeniero de instrucciones: elegir qué problema estoy resolviendo realmente. ¿Cuál es el contexto para resolver el problema?", continúa.
"El LLM es solo la herramienta para pasar de la definición del problema a la solución, pero simplemente estás moviendo la capa de abstracción... La hemos movido del código de máquina a los lenguajes de programación modernos. Luego la movimos de los lenguajes de programación modernos a las instrucciones. Y tal vez vamos a moverla de las instrucciones crudas para ser como entrada a las instrucciones", dijo.
"Pero al final del día, todavía necesitas alguna entrada. Esa es la parte irred...
