Gaming · 22 juin
Un chercheur de Microsoft a construit un réseau de neurones avec des chèvres dans Age of Empires 2. Le but n'est pas ce que vous croyez.
Adrian de Wynter's absurdist experiment est l'argument le plus clair à ce jour pour expliquer pourquoi les créateurs et les apprenants devraient cesser d'anthropomorphiser l'IA.
- Les LLM produisent des résultats qui sonnent humains grâce à la correspondance statistique de motifs, et non par un raisonnement humain ; concevoir des systèmes d'IA sans comprendre cette distinction conduit à des architectures peu fiables.
- Testez les sorties de l'IA par rapport à une vérité terrain vérifiable, et non par rapport à leur fluidité ou leur confiance. Une réponse qui semble correcte n'est pas la même chose qu'une réponse qui est correcte.
- Le réseau de chèvres de De Wynter démontre formellement que le substrat seul ne peut pas établir la conscience ou la cognition, un cadre qui devrait guider la façon dont les équipes auditent et font confiance aux fonctionnalités d'IA.