IA & ML · 6 oct.
OpenAI, Meta, Anthropic et Google n’ont pas pu quantifier le pire risque lié à l’IA
Lors d’une audience du conseil municipal de New York, des laboratoires de pointe ont mis en évidence l’écart entre le déploiement de modèles puissants et la mesure de leurs risques les plus graves.
- N’acceptez pas les affirmations sur la sûreté de l’IA de pointe sans demander ce qui est mesuré, audité et surveillé après le déploiement.
- Les développeurs devraient relier les évaluations, les incidents et les points de contrôle de déploiement dans un registre des risques auditable.
- Les responsables politiques devraient exiger des preuves de sûreté mesurables sans réduire la gouvernance de l’IA à un simulacre bureaucratique.