Le piège de l’inévitabilité de l’IA : Wong sur l’AGI prédestinée

J’ai un faible pour les noms de bureaux. Appelez une salle « Finance » et les gens se comportent d’une certaine façon. Appelez-la « Moonshot » et les mêmes chaises, le même écran, le même café tiède semblent soudain demander des promesses plus ambitieuses. Dans la tech, nommer n’est jamais une simple décoration. C’est une carte de ce qu’une entreprise pense déjà voir arriver.

C’est pourquoi l’essai de Matteo Wong dans The Atlantic sur l’inévitabilité de l’IA frappe plus fort qu’un énième débat sur la proximité de l’intelligence artificielle générale. La partie intéressante n’est pas la prévision. C’est la grammaire. Quelque part entre feuille de route produit, argumentaire pour investisseurs et mythe culturel, une décision stratégique commence à se déguiser en destin.

La salle où le destin a reçu un nom

Dans The Atlantic, Matteo Wong commence par une scène des anciens bureaux d’OpenAI qui semble presque trop parfaite pour être vraie. Il écrit que le deuxième étage comptait des salles portant le nom de grandes inventions, dont « Horloge », « Feu » et « AGI », abréviation d’intelligence artificielle générale. Wong dit avoir vu cela au printemps 2024, alors qu’il interviewait des chercheurs d’OpenAI, à un moment où ChatGPT commettait encore des erreurs de calcul embarrassantes et où l’idée que le robot puisse rivaliser avec l’intelligence humaine paraissait douteuse.

Ce contraste résume en miniature la thèse de l’essai. Le produit était faillible, mais le bâtiment parlait comme si la destination avait déjà été choisie. Wong note que la croyance en l’AGI est au cœur des missions de Google DeepMind, d’OpenAI et d’Anthropic, trois des entreprises d’IA les plus influentes au monde. Le danger subtil n’est pas l’ambition. C’est le glissement de l’ambition vers la prédestination.

La question dérangeante est de savoir ce qui se passe lorsque l’étoile polaire d’une entreprise devient une loi de la nature dans l’imaginaire collectif. Si l’AGI est présentée comme inévitable, alors chaque défaut du produit peut sembler temporaire, chaque compromis peut paraître nécessaire, et chaque question sceptique peut sonner comme un déni. Les bâtisseurs savent que les feuilles de route sont faites de contraintes, de plans de recrutement, de comportements de modèles, d’accords de distribution et de décisions de jugement. Le cadrage de l’inévitabilité fait ressembler ces choix à la météo.

L’inévitabilité est une feuille de route mieux éclairée

Les précédents reportages de Wong dans The Atlantic sur Cluely montrent le même schéma culturel sous un autre angle. Dans « The AI Industry Is Radicalizing », il décrit Chungin « Roy » Lee, qui, selon Wong, a utilisé l’IA pour tricher pendant ses études et lors d’entretiens de stage chez Amazon et Meta, a reçu des offres des deux entreprises, puis a abandonné ses études pour fonder Cluely. Wong rapporte que Cluely commercialise la capacité de « tricher sur tout », et qu’elle a bouclé une levée de fonds de 15 millions de dollars menée par Andreessen Horowitz.

Ce n’est pas la même histoire que celle des salles de conférence d’OpenAI, mais elle lui fait écho. Wong écrit que Lee croit qu’une IA omnisciente est inévitable et que les robots automatiseront bientôt tous les emplois. Une fois cette prémisse acceptée, le vocabulaire moral change. La « triche » devient moins une violation des normes actuelles qu’une adoption précoce des normes futures.

C’est la leçon pratique pour les fondateurs et les responsables produit. Les récits ne restent pas poliment à côté de la stratégie. Ils recrutent des utilisateurs, organisent des équipes, attirent des capitaux et décident quelles objections comptent comme sérieuses. Si un produit est présenté comme un aperçu d’un avenir inévitable, le marché peut récompenser la vitesse plutôt que la clarté. S’il est présenté comme un choix parmi de nombreux futurs possibles, les utilisateurs peuvent poser de meilleures questions sur l’adéquation, le risque et la valeur.

L’ère du « slop » montre pourquoi l’histoire compte

« Generative AI’s Slop Era » de The Atlantic ajoute une autre couche au piège de l’inévitabilité : l’infrastructure autour de l’IA dépend souvent d’institutions qui, elles, n’ont rien d’inévitable. L’article affirme que des entreprises comme OpenAI, Perplexity et Google mettent sur le marché des outils de recherche générative par IA. Il mentionne aussi des partenariats médias impliquant Perplexity et d’autres entreprises d’IA, et indique que The Atlantic a signé un contrat avec OpenAI qui pourrait montrer ses articles aux utilisateurs de SearchGPT.

Ce détail compte parce que les systèmes d’IA ne flottent pas au-dessus de la culture. Ils l’absorbent, la résument, la reformatent et entrent parfois en concurrence avec les lieux qui l’ont produite. L’article de The Atlantic cite l’idée selon laquelle « le contenu des journalistes est riche en faits, en connaissances vérifiées, et c’est la fonction d’utilité qu’il remplit pour un moteur de réponses par IA ». Si le travail du savoir est présenté principalement comme le carburant d’une machine promise au destin, les personnes qui produisent ce savoir peuvent commencer à sembler secondaires par rapport au système qui l’emballe.

Pour les bâtisseurs, c’est là que l’éthique devient opérationnelle. La question n’est pas de savoir si la recherche par IA, les assistants ou les agents arrivent. Beaucoup sont déjà là. La question est de savoir si les relations qui les entourent sont conçues comme des partenariats, des extractions, des expériences ou des conclusions jouées d’avance. Le récit de l’inévitabilité peut cacher ces distinctions précisément au moment où elles doivent être les plus visibles.

L’avertissement de Berlin pour les bâtisseurs

Les archives de The Atlantic tournent autour de ce problème depuis longtemps. Dans son entrée de 1955 « Historical Inevitability », le magazine décrit la critique d’Isaiah Berlin des doctrines affirmant que l’histoire est faite par des forces qui échappent au contrôle des individus. L’article explique que Berlin voyait, à la racine de telles doctrines, un désir d’échapper au poids de la responsabilité humaine, tout en défendant une zone limitée mais réelle de liberté humaine.

C’est un cadre utile pour l’IA. Non pas parce que les fondateurs écrivent secrètement des traités de philosophie dans leurs pitch decks, mais parce que l’inévitabilité est rassurante. Elle permet aux dirigeants de dire que le marché l’exigeait, que le modèle avait besoin d’échelle, que la concurrence leur a forcé la main, que l’avenir est arrivé en avance. Parfois, ces pressions sont réelles. Mais la pression n’est pas le destin.

Les entreprises d’IA les plus saines seront probablement celles qui pourront garder deux idées en tête en même temps. Premièrement, la technologie avance assez vite pour récompenser l’ambition. Deuxièmement, la vitesse n’efface pas la capacité d’agir. Si vous construisez avec l’IA, la leçon de l’essai de Wong est d’auditer votre propre langage avant que le marché ne le fasse pour vous. Décrivez-vous une capacité, ou vendez-vous une prophétie ? Faites-vous une feuille de route, ou demandez-vous à vos utilisateurs d’accepter un destin ?