La mayoría de las demos de agentes de IA impresionan. La mayoría de los agentes de IA en producción avergüenzan. La distancia entre unos y otros no es el modelo: es todo lo que la demo se salta convenientemente. Entradas malas, herramientas que fallan cuando no se espera, casos límite que no estaban en los datos de entrenamiento y usuarios que tantearán los límites en cuanto intuyan que existen.
Lo primero que hacemos, antes de escribir un solo prompt, es definir qué puede hacer el agente y, sobre todo, qué no puede hacer. Un agente de atención al cliente que puede emitir reembolsos necesita reglas explícitas sobre cuándo se niega; no porque no nos fiemos del modelo, sino porque el modelo no se juega nada y tú sí. Unos límites escritos en lenguaje llano antes de la primera línea de código obligan a una claridad que ahorra semanas de iteración después.
Después vienen las evaluaciones, antes de cualquier trabajo de experiencia de usuario. Escribimos entre 100 y 300 casos de prueba que cubren el camino feliz, los casos límite y los casos en los que el agente debería declinar con educación. Los puntuamos. Esa cifra pasa a ser la referencia: cada cambio posterior la mejora o lo revertimos. Sin esa línea base estás publicando a ojo, y lo notarás a las dos de la madrugada.
Los modos de fallo merecen más tiempo de diseño que el camino feliz. ¿Qué pasa cuando una llamada a una herramienta devuelve un error 500? ¿Qué pasa cuando el usuario pide algo para lo que el agente no está preparado? ¿Qué pasa cuando la ventana de contexto se llena a mitad de tarea? Los agentes que fallan con elegancia, con una explicación clara y una vía para pasar el caso a una persona, conservan la confianza del usuario. Los que fallan en silencio, o se equivocan con total aplomo, la destruyen.
La observabilidad no es negociable. Cada llamada a herramienta, cada respuesta del modelo y cada entrada del usuario se registran con un ID de traza que une toda la sesión. Cuando un usuario se queje de una mala respuesta un martes por la mañana, querrás reproducir exactamente esa sesión en menos de sesenta segundos. Sin trazas, cada aviso de error es un juego de adivinanzas.
El problema del aplomo es el más difícil de resolver. Los modelos de lenguaje son fluidos: dan respuestas equivocadas con el mismo tono que las correctas. La solución no es pedirle al modelo que diga «no estoy seguro», porque eso no funciona de forma fiable. La solución es anclar las respuestas en contenido recuperado, puntuar la confianza y limitar el alcance: el agente solo responde en los ámbitos en los que has medido su precisión y la has encontrado aceptable.
Los agentes que sobreviven en producción son aburridos en el buen sentido. Hacen pocas cosas y las hacen de forma fiable. Se niegan con claridad cuando se les pide algo fuera de su alcance. Pasan el caso a una persona cuando la confianza es baja. Mejoran poco a poco, una mejora de evaluación cada vez. Publica primero esa versión. La ambiciosa llega cuando te hayas ganado la confianza.
Escrito por el equipo de brainiac/studio. Publicamos trabajo original de los ingenieros, diseñadores y profesionales de marketing que hacen el trabajo, nunca encargado a una agencia de contenidos.