Analyse de ChatGPT et Roblox : méga-plateformes à 45 M dans l’UE

Franchir les 45 millions d’utilisateurs mensuels dans l’UE, c’est un peu l’équivalent, pour une plateforme, de recevoir une coche bleue de la part d’un régulateur. Un instant, la croissance est la diapositive que tout le monde applaudit. L’instant d’après, ce même graphique devient un déclencheur de rapports de transparence, de plans d’atténuation des risques et d’une relation avec la surveillance gouvernementale beaucoup moins fondée sur les impressions. ChatGPT et Roblox auraient désormais atteint ce seuil, ce qui en fait une étude de cas utile pour comprendre ce qui se passe quand un outil d’IA et un terrain de jeu de l’économie des créateurs deviennent assez grands pour être traités comme de l’infrastructure.

Ce qui a changé, selon East Bay Times et

GIGAZINE East Bay Times, citant un reportage de Bloomberg signé Gian Volpicelli et Cecilia D’Anastasio, a rapporté que ChatGPT d’OpenAI et Roblox Corp. feront l’objet d’un examen et d’une surveillance plus stricts au titre du règlement européen sur les services numériques, après avoir dépassé 45 millions d’utilisateurs mensuels dans le bloc. Le rapport indique que l’organe exécutif de la Commission européenne désignera la fonction de recherche de ChatGPT comme un très grand moteur de recherche en ligne, et Roblox comme une très grande plateforme en ligne. Ces désignations pourraient intervenir dès le mois d’août, selon le même article d’East Bay Times. GIGAZINE a rapporté la même logique de seuil, en indiquant que le nombre d’utilisateurs mensuels des deux entreprises dans l’UE dépassait 45 millions et que cette désignation entraînerait des exigences comme des rapports de transparence. Voilà la mise à jour de plateforme en langage simple : l’échelle, ce n’est pas seulement plus d’utilisateurs, plus de prompts et plus d’ambition alimentée par les Robux. À partir d’une certaine taille, la croissance se transforme en une nouvelle couche opérationnelle. La nuance importante, c’est que ChatGPT et Roblox ne sont pas traités exactement de la même manière. East Bay Times a rapporté que c’est la fonction de recherche de ChatGPT qui devrait entrer dans la catégorie des très grands moteurs de recherche en ligne, tandis que Roblox devrait entrer dans celle des très grandes plateformes en ligne. Pour les personnes qui construisent des produits, cette distinction compte, car les régulateurs regardent ce que fait le produit, pas seulement la manière dont l’entreprise se présente dans une keynote.

La traduction côté entreprise, avec The Next Web et Engadget The Next

Web a rapporté que ChatGPT deviendrait le premier chatbot d’IA à entrer dans le niveau le plus strict du DSA de l’UE, avec des audits, des évaluations des risques et de possibles amendes en cas de non-respect. East Bay Times a rapporté que les entreprises qui enfreignent le DSA risquent des amendes pouvant atteindre 6 % de leur chiffre d’affaires annuel mondial. Traduction : la plateforme est passée de « avancer vite et livrer » à « documenter pourquoi ce bouton existe ». Engadget a rapporté que ChatGPT et Roblox rejoindraient les listes de l’UE en août, selon Bloomberg, et a noté que le DSA applique cette désignation aux plateformes et aux moteurs de recherche comptant plus de 45 millions d’utilisateurs mensuels dans la région. Les mots ennuyeux ici font un vrai travail. Les rapports de transparence et les évaluations des risques peuvent influencer la conception des produits, les files de modération, l’accès aux données et la quantité de friction ajoutée avant que les utilisateurs puissent publier, chercher, discuter ou effectuer des transactions. Ce n’est pas un bouton panique pour les créateurs. C’est un rappel que la dépendance aux plateformes devient étrange à grande échelle. Quand une plateforme devient assez importante sur le plan systémique pour que les régulateurs la surveillent de près, ses règles internes deviennent généralement plus formelles, plus vérifiables et moins susceptibles d’être gérées par un ticket d’assistance qui disparaît dans le vide.

Pourquoi les créateurs Roblox devraient être attentifs, selon Gizmodo et East

Bay Times Gizmodo a décrit Roblox comme un bac à sable de jeu et un espace en ligne où les enfants peuvent interagir. East Bay Times a rapporté que le DSA exige des réseaux sociaux et des moteurs de recherche qu’ils luttent contre les contenus illégaux et nuisibles, et que la loi vise à protéger les enfants en ligne. Mettez ces éléments ensemble et vous voyez pourquoi Roblox n’est pas simplement une application de plus dans la pile. Pour les développeurs Roblox, cela pourrait finir par se traduire par des examens de sécurité plus stricts, des attentes de modération plus claires ou davantage de documentation sur ce qu’un jeu collecte et autorise. Les éléments disponibles ne disent pas que Roblox a annoncé des changements de politique pour les créateurs liés à cette désignation rapportée, donc ne réécrivez pas préventivement toute votre organisation simplement parce que Bruxelles a cligné des yeux. Mais si votre monde dépend du chat utilisateur, de jeunes publics ou de comportements de place de marché, il est intelligent de supposer que les exigences de confiance et de sécurité deviendront plus lisibles, pas moins. C’est aussi une entrée de plus dans le décompte permanent entre les promesses des plateformes et la réalité des plateformes. Les plateformes adorent dire aux créateurs que la croissance débloque des opportunités. C’est vrai, parfois. Mais la croissance débloque aussi la conformité, et la conformité finit généralement en aval, sur les personnes qui créent les mondes, les prompts, les vidéos, les cartes et les communautés qui maintiennent la plateforme en vie.

Ce que les créateurs d’IA peuvent apprendre, avec The Next Web et

GIGAZINE La manière dont The Next Web présente ChatGPT comme le premier chatbot d’IA entrant dans ce niveau le plus strict est le grand changement culturel caché dans la paperasse. La recherche, le chat, la création et la recommandation se fondent dans une seule interface, et les régulateurs commencent à suivre le comportement des utilisateurs plutôt que la catégorie du produit. Si les gens utilisent un système d’IA pour trouver des informations, celui-ci peut hériter d’obligations qui ressemblent davantage à une surveillance de moteur de recherche qu’à une nouveauté de chatbot. GIGAZINE a rapporté que les opérateurs désignés doivent présenter des mesures pour atténuer les risques liés aux contenus nuisibles, soumettre des rapports de transparence et payer une redevance annuelle à la Commission européenne. Pour les équipes produit en IA, la leçon n’est pas d’ajouter la politique après la croissance des utilisateurs. C’est de concevoir des pistes d’audit, des flux de travail de reporting et des parcours d’examen de sécurité avant que le graphique de croissance célébré ne devienne une preuve dans la réunion de quelqu’un d’autre. La prochaine chose à surveiller est de savoir si la Commission européenne confirme les désignations rapportées et comment OpenAI et Roblox décriront les changements pratiques qui suivront. Les créateurs, les studios et les personnes qui construisent des outils d’IA n’ont pas besoin de devenir des spécialistes du DSA du jour au lendemain. Ils doivent toutefois comprendre que le cycle de vie des plateformes comporte désormais un niveau réglementaire supplémentaire, et que les équipes les plus intelligentes traiteront la confiance et la sécurité comme une infrastructure produit, pas comme une tâche de nettoyage.