Un chatbot que responde en tres segundos con el tono de la marca y los datos actualizados del cliente, y que encima cierra un 18% más de ventas que el canal anterior.
Buenas noticias para la gerencia: El piloto funcionó y los números del proveedor son contundentes, pero hay algo que esos números no están midiendo.
Vale la pena nombrar una confusión que veo seguido en empresas grandes. Muchas están tratando la personalización técnica como si fuera lo mismo que la expresión de marca y/o lo mismo que el propósito de la empresa.
Personalizar técnicamente significa que el sistema me llama por mi nombre, recuerda mi última compra, adapta el tono según mi historial y propone el producto que mi perfil predice, se anticipa, aprende. Funciona y tiene valor real.
La marca, sin embargo, opera en otra capa.
Es el patrón de conducta que una empresa mantiene cuando hay tensión entre lo que conviene en el corto plazo y lo correcto según los valores que declaró. Se muestra, sobre todo, en los momentos donde el cliente tiene razón y la empresa pierde algo por reconocerlo, o donde toca decirle al cliente que se equivocó.
Esas decisiones son anteriores al modelo y viven en una capa que ningún optimizador de conversión llega a tocar. Alguien las tomó (o no las tomó) mucho antes de su salida al aire.
Hay un fenómeno documentado en la investigación reciente sobre agentes de IA que me parece especialmente revelador para este punto.
Un equipo de investigadores estudió lo que ocurre cuando dos agentes interactúan entre sí durante conversaciones extendidas. Encontraron que en hasta un 70% de las combinaciones estudiadas, uno de ellos abandonaba gradualmente su rol asignado y empezaba a espejear la conducta de su contraparte; lo llamaron el fenómeno del eco.
Lo más revelador para quienes gestionamos sistemas de atención o ventas viene después del abandono de rol. El 93% de esas conversaciones fue evaluado como exitoso por los indicadores convencionales.
El dashboard queda en verde y la gerencia da por cumplida la métrica, mientras la marca tomó un camino que nadie autorizó explícitamente.
La raíz del problema vive en el diseño con propósito humano, antes que en lo técnico.
Cuando un sistema de IA se construye sobre indicadores como conversión, resolución u otros de eficiencia operacional, ese número se convierte en su función de recompensa. Aprende (formalmente o no) que maximizarlo es lo correcto y lo hace muy bien.
El problema aparece cuando esa función de recompensa choca con los valores declarados de la empresa. Una venta se cierra rompiendo una promesa que ya estaba sobre la mesa, mientras lo que el sistema llama "on brand" termina ocultando respuestas que contradicen a la marca.
En esos momentos, el sistema no sabe qué priorizar. Nadie se lo dijo, y esa priorización pide algo que excede la configuración técnica: que un responsable de marca con autoridad real haya decidido por anticipado cómo actuar en cada uno de esos escenarios.
En el paper que publiqué en abril de este año, sobre taxonomía de agentes lo planteo así: el propósito compartido es una condición que tiene que codificarse de forma explícita en la arquitectura del sistema, y cada nivel necesita un responsable identificado con autoridad real para auditarlo y redefinirlo cuando haga falta.
Sin esa supervisión activa, la eficiencia técnica y la coherencia de marca empiezan a separarse de forma silenciosa, mientras el dashboard sigue en verde.
Mi argumento es que la adopción tiene que seguir, con la condición de diseñar con más intención desde el inicio.
Antes de expandir un sistema de IA que "habla como la marca", vale la pena hacerse estas preguntas:
- ¿Qué hace el sistema cuando debe elegir entre cerrar una venta y reconocer que el producto no calza con ese cliente puntual?
- ¿Quién tiene autoridad explícita para detectar cuándo el sistema empieza a alejarse de los valores declarados de la empresa?
- ¿Hay una manera concreta de medir coherencia de conducta y no solamente eficiencia de resolución?
- ¿El propósito del sistema se definió antes de la implementación o se asume que va a emerger después?
Son preguntas que incomodan. Y descubrirlas cuando el sistema ya está a escala suele costar bastante más.
En la próxima entrega vamos al fondo del dolor: por qué tantas inversiones en IA están decepcionando a sus directivos. Y qué cambia, en la práctica, cuando uno construye estos sistemas con propósito desde el inicio en lugar de esperar que emerja desde las métricas.
La diferencia entre un sistema eficiente y uno coherente se define antes de que el modelo entre en producción. Las decisiones de diseño previas son las que separan ambos caminos.
"El sistema completaba la tarea local. Pero traicionaba el objetivo del organismo."
Síntesis del análisis del fenómeno de eco en sistemas agente-agente (Shekkizhar et al., 2026)