Réglementation de la FDA sur les dispositifs d’IA : analyse d’une supervision comparable à celle d’un médecin

Un dispositif médical était autrefois quelque chose qu’un régulateur pouvait évaluer, autoriser, puis surveiller principalement comme un produit fini. L’IA générative est moins coopérative. Si un système varie ses résultats et évolue après sa mise sur le marché, la question réglementaire utile n’est pas seulement de savoir s’il fonctionnait correctement le jour du dépôt du dossier. C’est de savoir s’il reste cliniquement compétent lorsque de vrais patients, des données d’entrée imparfaites et des mises à jour logicielles arrivent.

Ce que la

FDA envisage réellement Axios rapporte que la Food and Drug Administration envisage d’évaluer les dispositifs médicaux reposant sur l’IA générative au moyen d’une approche fondée sur les compétences, similaire à celle utilisée pour évaluer les médecins. L’idée apparaît dans un document de discussion de la FDA d’abord partagé avec Axios, qui soulève des questions pour la réglementation à la fois avant l’autorisation et après la mise sur le marché, et sollicite les commentaires des parties prenantes. Traduction : ce n’est pas une règle applicable, ni un document d’orientation final, ni un barème d’amendes caché dans une note de bas de page. C’est l’agence qui demande si le modèle traditionnel des dispositifs médicaux peut s’étirer suffisamment pour des systèmes dont les sorties varient et dont le comportement peut évoluer au fil du temps. Axios rapporte également que les outils de soins de santé reposant sur l’IA sont de plus en plus impliqués dans les soins cliniques, tandis que la structure réglementaire actuelle n’a pas suivi le rythme. Cela ne signifie pas que chaque robot de planification portant une icône de stéthoscope entre désormais dans le champ d’application. Cela signifie bien que les concepteurs d’outils d’IA générative cliniquement significatifs devraient cesser de considérer l’autorisation comme une cérémonie unique de conformité. Le statut pratique est simple : document de discussion, oui ; obligation adoptée, non démontrée dans le dossier ; nouvelle règle applicable, non démontrée dans le dossier.

Pourquoi cela pointe vers la surveillance, et non

vers du théâtre administratif The Pew Charitable Trusts expliquait dans sa note d’information du 5 août 2021 que les organisations de soins de santé utilisent l’IA à des fins cliniques, administratives et de recherche, notamment pour le diagnostic des maladies, la surveillance des patients et la planification. Pew notait également que les produits reposant sur l’IA peuvent produire des résultats inexacts. Cette observation plus ancienne est utile ici. La question de la FDA décrite par Axios n’est pas seulement de savoir si un dossier de soumission peut être rendu plus épais ; elle est de savoir si le produit peut être évalué pendant qu’il continue à fonctionner dans un environnement clinique. Axios rapporte que des experts en réglementation, et désormais la FDA, considèrent les dispositifs d’IA générative comme différents des autres dispositifs médicaux réglementés parce que leurs sorties varient et parce qu’ils évoluent au fil du temps. Voilà le problème de conformité dissimulé derrière l’expression polie « fondée sur les compétences ». Un dossier d’autorisation de dispositif statique décrit ce qu’était le produit au moment de son examen. Un système d’IA clinique adaptatif peut nécessiter des preuves de ce qu’il continue d’être.

Ce que les concepteurs devraient lire entre

les lignes Axios indique que le document de discussion couvre à la fois la réglementation avant l’autorisation et après la mise sur le marché. Pour les équipes produit, ces deux expressions devraient modifier la discussion sur l’architecture. Les preuves préalables à l’autorisation devront peut-être montrer non seulement les performances sur des référentiels d’évaluation, mais aussi le rôle clinique prévu, les limites d’utilisation, les méthodes d’évaluation et les circonstances dans lesquelles les humains restent responsables. Les preuves après la mise sur le marché devront peut-être montrer comment le développeur détecte la dérive, examine la qualité des sorties, documente les mises à jour et fait remonter les risques cliniques. Rien de tout cela n’est une nouvelle liste de contrôle contraignante au vu des éléments disponibles. C’est toutefois une direction utile. Si votre produit d’IA produit des recommandations cliniquement significatives, votre feuille de route devrait inclure des journaux d’audit, un historique des versions, une surveillance des performances, un examen des incidents et un moyen de prouver que les changements de modèle n’ont pas modifié discrètement l’usage prévu. Si votre contrat fournisseur ne répartit pas la responsabilité de la surveillance, de l’examen des mises à jour, de l’escalade clinique et de l’accès aux données, vos juristes ne sont pas en train d’accueillir quoi que ce soit ; ils ouvrent une feuille de calcul.

Où s’arrête le dossier actuel Pew décrit la supervision de l’IA dans les

produits médicaux par la FDA comme un domaine où la surveillance devra suivre le rythme à mesure que la technologie évolue. Axios rapporte maintenant que l’agence demande activement si un modèle de compétences de type médical, semblable à celui appliqué aux médecins, a sa place dans la boîte à outils réglementaire pour les dispositifs reposant sur l’IA générative. Ces deux faits suffisent à être importants, mais pas à inventer des obligations. Rien dans le dossier fourni ne prouve l’existence d’une règle finale, d’une date limite de conformité ou d’une mesure d’application fondée sur cette approche. Le prochain document à surveiller est ce que la FDA fera après les commentaires des parties prenantes sur le document de discussion. Les concepteurs devraient utiliser cette période intermédiaire pour cartographier quelles revendications produit sont cliniques, quelles sorties peuvent varier, quelles mises à jour peuvent modifier les performances, et quelles preuves montreraient une compétence continue. La leçon discrète est simple : pour l’IA médicale adaptative, l’autorisation pourrait devenir le début de la responsabilité clinique, et non la fin du travail réglementaire.