Seguridad · 18 ago
Lección de IA de Irregular: Los nombres sencillos pueden poner en riesgo la seguridad de los agentes
Un desglose centrado en el constructor de cómo la resolución de entidades cotidiana puede orientar una prueba de seguridad de IA hacia el internet real.
- Trate los nombres y dominios ficticios como entradas sensibles desde el punto de vista de la seguridad, porque los agentes pueden resolverlos como objetivos reales.
- Mantenga los entornos de evaluación de IA aislados, con acceso de red mediante listas de permitidos y registros de cada acción de herramienta.
- Pida a los proveedores claridad sobre el alcance del incidente, el diseño de contención y cómo se evita que los objetivos sintéticos lleguen a la realidad.