Autorégulation de l’IA : analyse d’Anthropic, d’OpenAI et de Dario Amodei

Je repense souvent au panneau plastifié de la piscine municipale où j’ai grandi : ne pas courir, pas de verre, ne pas plonger dans le petit bain. Personne ne le confondait avec une théorie politique. C’était simplement le contrat social nécessaire pour permettre à beaucoup de personnes enthousiastes de partager un rectangle d’eau risqué. L’IA a maintenant un problème de panneau de piscine, sauf que les meilleurs nageurs proposent d’écrire le panneau, d’installer la clôture et de définir ce qui compte comme un comportement sûr.

Le correctif avant le règlement

MIT Technology Review a rapporté que le 21 juillet 2023, sept grandes entreprises d’IA, Amazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI, avaient pris huit engagements volontaires auprès de la Maison-Blanche concernant le développement de l’IA de manière sûre et digne de confiance. Selon la publication, ces engagements comprenaient l’amélioration des tests et de la transparence autour des systèmes d’IA, ainsi que le partage d’informations sur les dommages et les risques potentiels. Un an plus tard, MIT Technology Review a constaté des progrès bienvenus dans des pratiques comme le red teaming et les filigranes, mais a indiqué qu’il n’y avait pas de transparence ni de responsabilité significatives.

C’est la tension cachée dans l’expression engagement volontaire. Il peut être réellement utile lorsque les législateurs avancent lentement et que les équipes produit livrent rapidement. MIT Technology Review a aussi noté que huit autres entreprises avaient ensuite signé les engagements de la Maison-Blanche, et qu’un décret présidentiel les avait élargis en imposant de partager avec le gouvernement américain les résultats des tests de sécurité pour les nouveaux modèles d’IA si ces tests montrent un risque pour la sécurité nationale. Un correctif peut réparer un bug urgent, mais il vous indique aussi qui a accès au dépôt pour valider les changements.

Quand la coordination ressemble à de la sécurité

La vision optimiste de l’autorégulation a été résumée par BBC Sounds, qui a rapporté que Sam Altman disait que les entreprises d’IA comme la sienne étaient capables, en substance, de se réguler elles-mêmes. Altman a déclaré : « Nous y arriverons, je suis très confiant dans la capacité de notre entreprise et de notre secteur à le faire en toute sécurité », ajoutant que les entreprises garderaient « l’alignement et la sécurité largement en avance sur les capacités » et que, si elles n’y parvenaient pas, elles « ralentiraient ou s’arrêteraient ». C’est une promesse puissante, car elle présente la coordination comme une forme de retenue plutôt que comme un contrôle.

Il existe une version sérieuse de cet argument. MLex a rapporté en novembre 2024 que des entreprises américaines d’IA déclaraient travailler à respecter les engagements volontaires de sécurité pris auprès de la Maison-Blanche, notamment en fournissant au gouvernement et au public des informations sur leurs technologies et leurs risques. Pour les bâtisseurs, ce type de coordination peut créer des attentes communes en matière de tests, de divulgation et de réponse aux incidents. Le problème commence lorsqu’une norme de sécurité devient une barrière de marché, et que les personnes qui ont aidé à définir cette barrière sont aussi celles qui sont les mieux équipées pour la franchir.

Le marché caché dans la règle

MLex a rapporté en septembre 2026 que de grandes entreprises d’IA poussaient en faveur de normes de sécurité pilotées par l’industrie pour l’IA de pointe dans l’UE. Cette expression, pilotées par l’industrie, porte beaucoup de sens. Elle peut signifier que les personnes les plus proches des systèmes aident les régulateurs à comprendre des risques techniques qui évoluent vite, ou elle peut signifier que les plus grandes entreprises transforment leur propre modèle opérationnel en modèle de conformité par défaut.

WIRED a rapporté qu’Anthropic avait soutenu la première vague de lois sur la sécurité de l’IA de pointe aux États-Unis, notamment des exigences de transparence en Californie et dans l’État de New York, auxquelles une grande partie de la Silicon Valley s’opposait au motif qu’elles pourraient freiner l’essor de l’IA. WIRED a aussi rapporté qu’Anthropic pousse maintenant les États vers des réglementations plus strictes, tout en affirmant que la transparence et l’auto-déclaration ne suffisent plus pour les systèmes d’IA les plus puissants. Cela fait d’Anthropic un exemple particulièrement clair du casse-tête moderne de la gouvernance de l’IA : une entreprise peut être sincère au sujet de la sécurité tout en bénéficiant de règles que de plus petits concurrents pourraient avoir du mal à respecter. La gouvernance n’est pas seulement de l’éthique en costume ; c’est aussi une stratégie de mise sur le marché avec le vocabulaire de l’intérêt public.

Ce que les bâtisseurs devraient surveiller ensuite

La question inconfortable n’est pas de savoir si les dirigeants de l’IA croient ce qu’ils disent. Certains y croient clairement, et les reportages de MIT Technology Review suggèrent que les engagements volontaires ont poussé certaines parties du secteur vers de meilleures pratiques. La question plus aiguë est de savoir si la coordination crée une responsabilité indépendante ou si elle produit surtout un club d’entreprises assez grandes pour se coordonner. Si la norme exige des tests coûteux, des équipes juridiques spécialisées et un accès constant aux régulateurs, la sécurité peut devenir un fossé protecteur, même lorsque personne ne l’appelle ainsi.

Pour les responsables produit, la démarche pratique consiste à distinguer les résultats de sécurité de la commodité institutionnelle. Demandez-vous si les règles proposées publient assez d’informations pour que des acteurs extérieurs puissent évaluer la conformité, si les audits peuvent être réalisés par des parties indépendantes, et si les petits développeurs disposent d’un chemin crédible pour atteindre le même niveau d’exigence. Pour les investisseurs, observez si la réglementation renforce la confiance dans la catégorie ou si elle réduit simplement le terrain aux entreprises qui disposent déjà de puissance de calcul, de canaux de distribution et de relations politiques. Le prochain règlement de l’IA de pointe pourrait réellement réduire les risques, mais il décidera aussi qui peut continuer à construire ; alors, quand les plus grands laboratoires demandent à se coordonner, voyons-nous une infrastructure de sécurité prendre forme, ou le futur marché tracer ses propres frontières ?