Sécurité · 2 oct.
Le modèle d’agent plus sûr de Perplexity place des moniteurs là où l’IA clique
La leçon utile n’est pas de faire confiance à l’agent. C’est de limiter les outils, de surveiller les actions et de garder les humains aux portes de sécurité.
- Traitez les agents comme des systèmes d’action, et non comme des chatbots, surtout lorsqu’ils peuvent naviguer sur le Web, modifier des fichiers ou appeler des API.
- Séparez le raisonnement du modèle des décisions d’autorisation, et surveillez l’utilisation des outils en dehors de la boucle de l’agent.
- Ajoutez une revue humaine lorsque les flux de travail passent de tâches en bac à sable à des données réelles, à un accès en écriture ou à des actions sur des points de terminaison.