Eco de IA de Salesforce al 70 %: las métricas no lo detectan

Dos agentes LLM entran en un flujo de trabajo. Se supone que uno debe negociar, el otro debe asesorar y, después de suficiente ida y vuelta, empiezan a hacer el equivalente computacional de intercambiar acreditaciones en una conferencia. Salesforce AI Research tiene un nombre para esto: eco, cuando los agentes abandonan los roles asignados y reflejan a su interlocutor conversacional. Lo inquietante no es que los agentes fallen, porque bienvenido al software, por favor toma un buscapersonas. Lo inquietante es que el artículo informa tasas de eco de hasta el 70%, mientras que Salesforce AI Research dice que las métricas estándar de finalización de tareas pueden pasar por alto por completo el fallo del límite de identidad.

Qué llevará Salesforce a ICLR 2026

Según Salesforce, su equipo de AI Research presentará 21 artículos aceptados en ICLR 2026, que se celebrará del 23 al 27 de abril en el Riocentro Convention and Event Center de Río de Janeiro, Brasil. La empresa dice que su trabajo sobre fallos de identidad en agentes fue aceptado en el taller Agents in the Wild: Safety, Security, and Beyond. Eso coloca a Echoing: Identity Failures when LLM Agents Talk to Each Other en el rincón menos glamuroso y más útil de la investigación en IA: el lugar donde los agentes dejan de ser confeti de demostración y empiezan a ser sistemas que necesitan invariantes.

La página de publicaciones de Salesforce AI Research enumera el artículo dentro de ICLR Workshop 2026 y nombra a Sarath Shekkizhar, Romain Cosentino, Adam Earle y Silvio Savarese como autores. La misma página dice que el artículo formaliza el eco como un fallo emergente en interacciones agente-agente donde los modelos abandonan su identidad y reflejan a sus interlocutores conversacionales. Esa formulación importa porque esto no es solo un mal juego de roles. Es un fallo de límites en un sistema cuya premisa completa depende de que los roles sigan siendo significativamente distintos.

La incómoda prueba del espejo, según arXiv

Según el resumen de arXiv de Echoing: Identity Failures when LLM Agents Talk to Each Other, los autores estudiaron conversaciones autónomas entre agentes y encontraron eco en los principales proveedores de LLM. El artículo informa tasas de eco de hasta el 70%, según el modelo y el dominio. También informa que el eco persiste en modelos avanzados de razonamiento con un 32,8%, y que aumentar el esfuerzo de razonamiento no redujo esas tasas. Al parecer, pensar más fuerte no es lo mismo que recordar quién eres, lo cual también es cierto en las bodas familiares.

El resumen de arXiv dice que el fallo se vuelve más probable a medida que las interacciones se alargan, específicamente a partir de 7 o más turnos de agente. Esa es una advertencia útil para cualquiera que construya flujos de trabajo multiagente con bucles largos de deliberación, cadenas de revisión, agentes de negociación o reuniones sintéticas de comité salidas del infierno. Un solo agente puede aprobar una prueba unitaria y luego desviarse cuando se lo empareja con otro modelo que tiene una gravedad conversacional conflictiva. Por eso la evaluación agente-agente no es simplemente evaluación de un solo agente con sillas adicionales.

Por qué las métricas estándar son demasiado educadas, según Salesforce AI

Research La página de publicaciones de Salesforce AI Research dice que el eco puede pasar inadvertido para las métricas estándar de finalización de tareas. Esa es la conclusión más relevante para quienes construyen sistemas, porque el éxito de la tarea puede convertirse en un trofeo de participación muy caro. Si el agente A completa la reserva, el agente B resume el caso y ambos mutan silenciosamente sus identidades por el camino, la métrica aún puede sonreír y poner el sello de aprobado. El sistema hizo la cosa, pero no necesariamente como el sistema que diseñaste.

Ese hallazgo encaja con una línea de investigación más amplia sobre la fragilidad de los LLM multiagente. En Why Do Multi-Agent LLM Systems Fail?, los autores presentan un análisis de cinco marcos populares de sistemas multiagente en más de 150 tareas, con seis anotadores humanos expertos. Identifican 14 modos de fallo únicos agrupados en fallos de especificación y diseño del sistema, desalineación entre agentes, y verificación y terminación de tareas. El eco encaja perfectamente en el incómodo punto medio: los agentes pueden comunicarse, colaborar y aun así difuminarse unos en otros como una compañía de improvisación mal entrenada.

Qué deben vigilar los constructores, según el artículo Echoing

El resumen de arXiv de Echoing dice que los autores introducen una mitigación a nivel de protocolo usando respuesta estructurada dirigida, lo que reduce el eco al 9%. Esa es una pista práctica, no un amuleto mágico. Las respuestas estructuradas pueden obligar a los agentes a mantener la identidad como algo relevante dentro del protocolo de comunicación, en lugar de confiar en que un encabezado de prompt se comporte como un contrato legal. Si tu arquitectura de agentes depende de por favor permanece en tu rol como principal barrera de seguridad, felicidades: has inventado una nota adhesiva para un tornado.

Para quienes construyen, la conclusión es sencilla: evalúa la preservación de la identidad como una propiedad propia, especialmente en conversaciones agente-agente más largas. Haz seguimiento de si los agentes mantienen los límites de rol, objetivo y autoridad, no solo de si la respuesta final parece plausible. Observa si los proveedores y marcos incorporan pruebas de identidad AxA, protocolos de respuesta estructurada y métricas de tareas que distingan la finalización del colapso de roles. Los sistemas multiagente no están condenados, pero sí necesitan mejores espejos, preferiblemente unos que no empiecen a responder con la voz equivocada.