IA y ML · 6 oct
OpenAI, Meta, Anthropic y Google no pudieron cuantificar el riesgo de la IA en el peor de los casos
En una audiencia del Concejo Municipal de Nueva York, los laboratorios de frontera dejaron al descubierto la distancia entre desplegar modelos potentes y medir sus riesgos más graves.
- No aceptes afirmaciones sobre la seguridad de la IA de frontera sin preguntar qué se mide, audita y monitorea después del despliegue.
- Los desarrolladores deberían conectar evaluaciones, incidentes y controles de despliegue en un registro de riesgos auditable.
- Los responsables de políticas deberían exigir evidencia de seguridad medible sin reducir la gobernanza de la IA a un teatro burocrático.