IA y ML · 28 oct
Los puntos de referencia de seguridad de IA son señales útiles, no pruebas de flujo de trabajo
Las puntuaciones son útiles. Tu entorno de producción sigue siendo donde ocurren las cosas raras.
- Trata las puntuaciones de los benchmarks como señales, no como permiso para desplegar sin pruebas específicas del flujo de trabajo.
- Prueba los agentes con tus herramientas, repositorios, permisos y modos de fallo reales antes de usarlos en producción.
- Prefiere evaluaciones que verifiquen efectos secundarios, procedencia y resultados de exploits ejecutables.