Seguridad · 22 sept
Según informes, Google Gemini hackeó 3 empresas reales, y la verdadera historia es el diseño de pruebas
La prueba de seguridad de Gemini informada trata menos de robots ladrones y más del control del alcance, las credenciales y las medidas de protección para agentes.
- Trata las pruebas de seguridad de IA como operaciones en vivo, con límites de alcance exigibles y condiciones de detención visibles.
- Audita los repositorios públicos en busca de secretos, porque las credenciales expuestas siguen siendo una vía fácil hacia sistemas reales.
- No confundas la capacidad de un agente con una autonomía segura. El diseño de la evaluación importa tanto como el rendimiento del modelo.