Salesforce-KI echoiert zu 70 %: Kennzahlen übersehen es

Zwei LLM-Agenten betreten einen Workflow. Einer soll verhandeln, der andere soll beraten, und nach genügend Hin und Her beginnen sie mit dem rechnerischen Äquivalent davon, auf einer Konferenz die Namensbänder zu tauschen. Salesforce AI Research hat dafür einen Namen: Echoing. Dabei geben Agenten ihre zugewiesenen Rollen auf und spiegeln ihren Gesprächspartner. Das Beunruhigende ist nicht, dass Agenten scheitern, denn willkommen in der Softwarewelt, hier ist dein Bereitschaftsdienst-Pager. Das Beunruhigende ist, dass das Paper Echoing-Raten von bis zu 70 % berichtet, während Salesforce AI Research sagt, dass standardmäßige Metriken zur Aufgabenerledigung das Scheitern der Identitätsgrenze vollständig übersehen können.

Was Salesforce zur ICLR 2026 mitbringt Laut

Salesforce wird das AI-Research-Team des Unternehmens 21 angenommene Papers auf der ICLR 2026 präsentieren, die vom 23. bis 27. April im Riocentro Convention and Event Center in Rio de Janeiro, Brasilien, stattfindet. Das Unternehmen sagt, seine Arbeit zu Identitätsfehlern bei Agenten sei für den Workshop Agents in the Wild: Safety, Security, and Beyond angenommen worden. Damit landet Echoing: Identity Failures when LLM Agents Talk to Each Other in der weniger glamourösen, aber nützlicheren Ecke der KI-Forschung: dort, wo Agenten aufhören, Demo-Konfetti zu sein, und anfangen, Systeme zu werden, die Invarianten brauchen. Die Veröffentlichungsseite von Salesforce AI Research listet das Paper unter ICLR Workshop 2026 und nennt Sarath Shekkizhar, Romain Cosentino, Adam Earle und Silvio Savarese als Autoren. Dieselbe Seite sagt, das Paper formalisiere Echoing als ein emergentes Scheitern in Agent-Agent-Interaktionen, bei dem Modelle ihre Identität aufgeben und Gesprächspartner spiegeln. Diese Formulierung ist wichtig, denn das ist nicht einfach schlechtes Rollenspiel. Es ist ein Grenzversagen in einem System, dessen gesamte Grundidee davon abhängt, dass Rollen sinnvoll unterscheidbar bleiben.

Der unbequeme Spiegeltest laut arXiv

Laut dem arXiv-Abstract zu Echoing: Identity Failures when LLM Agents Talk to Each Other untersuchten die Autoren autonome Agent-Agent-Gespräche und fanden Echoing bei großen LLM-Anbietern. Das Paper berichtet Echoing-Raten von bis zu 70 %, je nach Modell und Domäne. Es berichtet außerdem, dass Echoing bei fortgeschrittenen Reasoning-Modellen mit 32,8 % bestehen bleibt und dass erhöhter Reasoning-Aufwand diese Raten nicht senkte. Offenbar ist angestrengteres Nachdenken nicht dasselbe wie sich daran zu erinnern, wer man ist, was übrigens auch bei Familienhochzeiten gilt. Das arXiv-Abstract sagt, dass der Fehler wahrscheinlicher wird, wenn Interaktionen länger werden, konkret ab 7+ Agenten-Turns. Das ist eine nützliche Warnung für alle, die Multi-Agenten-Workflows mit langen Beratungsrunden, Review-Ketten, Verhandlungsagenten oder synthetischen Komitee-Sitzungen aus der Hölle bauen. Ein einzelner Agent kann einen Unit-Test bestehen und dann abdriften, wenn er mit einem anderen Modell gepaart wird, das eine widersprüchliche Gesprächsgravitation hat. Deshalb ist Agent-Agent-Evaluation nicht einfach Single-Agent-Evaluation mit zusätzlichen Stühlen.

Warum Standardmetriken laut Salesforce AI Research zu höflich sind Die

Veröffentlichungsseite von Salesforce AI Research sagt, dass Echoing von standardmäßigen Metriken zur Aufgabenerledigung unentdeckt bleiben kann. Das ist die für Builder wichtigste Pointe des Papers, denn Aufgabenerfolg kann zu einer sehr teuren Teilnahmeurkunde werden. Wenn Agent A die Buchung abschließt, Agent B den Fall zusammenfasst und beide unterwegs still und leise ihre Identitäten verändern, kann die Metrik trotzdem lächeln und „genehmigt“ stempeln. Das System hat die Sache erledigt, aber nicht unbedingt als das System, das du entworfen hast. Dieses Ergebnis passt zu einem breiteren Forschungsstrang rund um die Fragilität von Multi-Agenten-LLMs. In Why Do Multi-Agent LLM Systems Fail? berichten die Autoren über eine Analyse von fünf beliebten Multi-Agenten-System-Frameworks über mehr als 150 Aufgaben hinweg, mit sechs fachkundigen menschlichen Annotatoren. Sie identifizieren 14 einzigartige Fehlermodi, gruppiert in Spezifikations- und Systemdesign-Fehler, Fehlanpassung zwischen Agenten sowie Aufgabenprüfung und Beendigung. Echoing passt sauber in die unbequeme Mitte: Agenten können kommunizieren, zusammenarbeiten und trotzdem ineinander verschwimmen wie eine schlecht trainierte Improvisationstruppe.

Worauf Builder laut dem Echoing-Paper achten sollten Das arXiv-Abstract zu

Echoing sagt, die Autoren führten eine Protokoll-Level-Abmilderung mit gezielter strukturierter Antwort ein, wodurch Echoing auf 9 % reduziert werde. Das ist ein praktischer Hinweis, kein magisches Amulett. Strukturierte Antworten können Agenten dazu zwingen, Identität im Kommunikationsprotokoll relevant zu halten, statt darauf zu vertrauen, dass ein Prompt-Header sich wie ein rechtsgültiger Vertrag verhält. Wenn deine Agentenarchitektur sich auf „Bitte bleibe in deiner Rolle“ als wichtigste Leitplanke verlässt: Glückwunsch, du hast einen Post-it-Zettel für einen Tornado erfunden. Für Builder ist die Schlussfolgerung einfach: Bewerte Identitätserhalt als eigene Eigenschaft, besonders in längeren Agent-Agent-Gesprächen. Verfolge, ob Agenten Rollen-, Ziel- und Autoritätsgrenzen einhalten, nicht nur, ob die finale Antwort plausibel aussieht. Achte darauf, ob Anbieter und Frameworks AxA-Identitätstests, strukturierte Antwortprotokolle und Aufgabenmetriken hinzufügen, die Erledigung von Rollenkollaps unterscheiden. Multi-Agenten-Systeme sind nicht dem Untergang geweiht, aber sie brauchen bessere Spiegel, vorzugsweise solche, die nicht anfangen, mit der falschen Stimme zurückzureden.