Segurança · 2 de out.
O modelo de agente mais seguro da Perplexity coloca monitores onde a IA clica
A lição útil não é confiar no agente. É limitar as ferramentas, observar as ações e manter os humanos nas portas de contenção.
- Trate agentes como sistemas de ação, não como chatbots, especialmente quando eles podem navegar, editar arquivos ou chamar APIs.
- Separe o raciocínio do modelo das decisões de permissão e monitore o uso de ferramentas fora do loop do agente.
- Adicione revisão humana quando os fluxos de trabalho passarem de tarefas em sandbox para dados reais, acesso de gravação ou ações em endpoints.