
Dans cet article (4)
La gouvernance de l’IA transforme la consommation de tokens des modèles de pointe en calcul de DSI
Points clés
- Traitez la sélection des modèles comme une architecture : adaptez la taille du modèle au risque, aux besoins en données, à la qualité et au coût d’inférence.
- Mettez en place des contrôles d’exécution avant de déployer des agents à grande échelle, car la prolifération des données peut transformer une IA ancrée dans des données en responsabilité.
- Surveillez la réglementation au-delà de l’Europe, car les plans de gouvernance régionaux deviennent partie intégrante de la planification de l’IA en entreprise.
Les DSI considèrent le choix du modèle comme une architecture de coûts et une plomberie de conformité, et non comme un concours pour trouver la plus grande API.
Les DSI considèrent le choix du modèle comme une architecture de coûts et une plomberie de conformité, et non comme un concours visant à trouver la plus grande API.
L’ancien réflexe de l’IA d’entreprise était simple : en cas de doute, envoyer le prompt au plus grand modèle et laisser la finance trouver la foi plus tard. Cette époque est prise en étau par la pression de la gouvernance, la réalité des workflows et la physique brutale des factures de tokens. Le cadrage pratique de Jon Reed sur l’état d’esprit des entreprises est utile, car il traite la consommation de tokens des modèles de pointe comme une mauvaise odeur d’architecture, pas comme une faute morale. La plus grosse API commence à ressembler moins à une stratégie qu’à la commande d’un camion de déménagement pour livrer un sandwich.
Le plus grand modèle n’est pas
le réglage par défaut Dans Governing AI Beyond the Pretraining Frontier, les auteurs écrivent que des juridictions du monde entier, dont les États-Unis, l’Union européenne, le Royaume-Uni et la Chine, s’apprêtent à adopter ou à réviser des lois régissant l’IA de pointe. Ils soutiennent que de nombreux efforts de gouvernance reposent sur l’hypothèse selon laquelle l’augmentation de l’échelle des modèles par le préentraînement est la principale voie vers des capacités plus fortes. Le passage gênant, selon le même article, est que de plus en plus d’éléments suggèrent que cette trajectoire de mise à l’échelle par préentraînement pourrait atteindre un mur, tandis que les grandes entreprises d’IA se tournent vers le raisonnement au moment de l’inférence pour améliorer les capacités. Traduction pour les équipes d’entreprise : le compteur de risque n’est plus seulement attaché à l’énorme entraînement dans le sous-sol avec le chœur de GPU. Cela change la conversation sur le choix des modèles. Si les capacités et les coûts apparaissent pendant l’inférence, alors la gouvernance doit s’intéresser à ce qui se passe à l’exécution, pas seulement au logo du fournisseur sur la facture. Un modèle de pointe peut encore être le bon outil pour un travail difficile, ambigu et à forte valeur. Mais l’utiliser par défaut pour chaque résumé, classification et tâche d’assistant interne relève moins de l’ingénierie que de la superstition avec une clé API.
L’exécution est l’endroit où la gouvernance cesse d’être du théâtre Stephen
Catanzano de TechTarget décrit le problème des données en entreprise comme une dispersion entre entrepôts de données cloud, bases de données sur site, applications SaaS, lacs de données, plusieurs clouds et équipes ayant des versions contradictoires de la vérité. Cette dispersion était agaçante quand les tableaux de bord n’étaient pas d’accord. Elle devient un risque opérationnel lorsque les modèles et les agents s’appuient sur ces données, car, comme le dit TechTarget, chaque lacune, doublon et recoin non gouverné devient une responsabilité. Un modèle géant peut donner à des données désordonnées un air sûr de lui, ce qui est précisément le problème. C’est un smoking sur un raton laveur. TechTarget affirme aussi que les agents autonomes poussent les entreprises vers une gouvernance unifiée et des contrôles à l’exécution pour gérer l’accès des agents et les actions qu’ils peuvent effectuer. C’est la partie que beaucoup de pilotes d’IA sautent, parce que les démos préfèrent les paillettes à la plomberie. Mais le contrôle à l’exécution est l’endroit où les entreprises décident qui peut voir quoi, quelles actions sont autorisées, et si un workflow d’IA est suffisamment auditable pour survivre au contact avec le juridique. La question du DSI devient moins de savoir quel modèle est le plus intelligent que quel système peut prouver ce qu’il a fait.
La pression n’est pas seulement européenne AI in Asia rapporte que
la discussion de l’ASEAN sur la gouvernance de l’IA dépasse le seul point de référence singapourien, avec une échéance en avril 2026 pour le Plan d’action stratégique de l’ASEAN sous la présidence des Philippines. Le même rapport cite une hausse projetée du PIB de l’ASEAN de 18 % tirée par l’IA d’ici 2030, d’une valeur d’environ 1 000 milliards de dollars. Ces chiffres ne sont pas une raison de paniquer, merci de rendre la machine à brouillard au fournisseur. Ils rappellent que la gouvernance de l’IA devient un contexte opérationnel régional, et non une quête secondaire de conformité garée à Bruxelles. Pour les entreprises multinationales, cela signifie que le menu des modèles doit voyager. Un workflow qui semble bon marché et sympathique dans une juridiction peut nécessiter ailleurs une documentation différente, des contrôles de données ou des contraintes de déploiement. C’est là que la consommation de tokens des modèles de pointe et la pression de la gouvernance convergent : le modèle coûteux n’est pas seulement coûteux. Il peut aussi être plus difficile à justifier si la tâche, les données et le profil de risque n’en avaient jamais eu besoin au départ.
Ce que les équipes de développement devraient changer
ce trimestre Le geste pratique n’est pas d’interdire les modèles de pointe. Ce serait remplacer l’addiction au frontier par du cosplay de petits modèles, et personne n’a besoin d’une nouvelle fête costumée avec une précision moindre. Utilisez plutôt l’avertissement de l’article arXiv sur les capacités au moment de l’inférence comme une raison de gouverner le comportement à l’exécution, et l’argument de TechTarget sur la gouvernance des données comme une raison de nettoyer les accès avant que les agents ne commencent à se promener dans les systèmes de l’entreprise comme des stagiaires caféinés. Commencez par classer les charges de travail d’IA selon le risque de la tâche, l’exposition des données, les exigences de qualité et la sensibilité aux coûts. Placez les modèles de pointe là où le gain marginal de qualité vaut le coût marginal de gouvernance et d’inférence. Orientez le travail routinier vers des options moins chères ou plus contraintes lorsqu’elles atteignent le niveau requis, et journalisez suffisamment le comportement à l’exécution pour rendre les audits ennuyeux. Les audits ennuyeux sont sous-estimés, comme les ceintures de sécurité et les tests unitaires. La prochaine phase de l’IA d’entreprise récompensera les équipes capables d’expliquer pourquoi un modèle a été choisi, quelles données il a touchées et quels contrôles entouraient le workflow. Surveillez les outils de gouvernance qui relient le routage des modèles, les contrôles à l’exécution et la traçabilité des données, plutôt que de les traiter comme des rituels de temple séparés. Le nouveau signe de puissance n’est pas d’utiliser le plus grand modèle. C’est de savoir quand ne pas le faire.