Seguridad · 2 oct
El modelo de agente más seguro de Perplexity coloca monitores donde la IA hace clic
La lección útil no es confiar en el agente. Es limitar las herramientas, vigilar las acciones y mantener a los humanos en las puertas de seguridad.
- Trata a los agentes como sistemas de acción, no como chatbots, especialmente cuando pueden navegar, editar archivos o llamar a APIs.
- Separa el razonamiento del modelo de las decisiones sobre permisos y supervisa el uso de herramientas fuera del bucle del agente.
- Añade revisión humana cuando los flujos de trabajo pasen de tareas aisladas a datos reales, acceso de escritura o acciones en endpoints.