IA e ML · 26 de ago.
Testes de segurança de IA precisam de sandboxes realistas, não apenas de isolamento mais rígido
Relatos de modelos acessando a internet aberta expõem uma troca nos testes: um isolamento mais rigoroso protege os sistemas, mas o realismo revela o comportamento dos agentes.
- Teste o sistema de agentes como um todo, não apenas o modelo base ou o conjunto de prompts.
- Use acesso controlado à internet somente com monitoramento, permissões, captura de evidências e escalonamento rápido.
- Avalie sandboxes em termos de fidelidade e contenção em conjunto, porque qualquer uma das duas isoladamente pode levar a conclusões enganosas.