L’intégration de l’intelligence artificielle dans les dispositifs médicaux représente l’une des évolutions les plus marquantes de la dernière décennie dans le domaine de la santé. Les promoteurs de ces technologies vantent leur capacité à améliorer la précision des interventions, à optimiser les résultats cliniques et à alléger la charge cognitive des praticiens. Cependant, une enquête récente de Reuters révèle une réalité plus nuancée, mettant en lumière une série de défaillances et de rapports d’incidents sérieux liés à l’usage de l’IA dans la salle d’opération.
L’essor des technologies d’IA en chirurgie
Depuis le début des années 2020, les dispositifs médicaux intégrant des composants d’IA se sont multipliés. Ces technologies incluent des systèmes d’assistance à la navigation chirurgicale, des logiciels d’interprétation d’imagerie médicale, des moniteurs physiologiques intelligents, ou encore des outils d’aide à la décision diagnostique. Selon les données de la U.S. Food and Drug Administration (FDA), plus de 1357 dispositifs médicaux utilisant de l’IA étaient autorisés aux États-Unis fin 2025, soit presque le double du nombre de 2022.
L’IA peut analyser des volumes massifs de données d’imagerie, reconnaître des structures anatomiques complexes, et proposer en temps réel des trajectoires d’instruments ou des interprétations diagnostiques. Ce potentiel explique l’enthousiasme des fabricants et des praticiens, ainsi que l’accélération des investissements industriels.
TruDi Navigation System : un cas symptomatique
Au cœur de l’enquête de Reuters se trouve le TruDi Navigation System, un dispositif utilisé pour assister les chirurgiens lors de traitements de la sinusite chronique. Introduit sur le marché avant l’intégration de composants d’IA, le système a été mis à jour à partir de 2021 pour y inclure des algorithmes de machine learning visant à fournir des informations en temps réel sur la position des instruments chirurgicaux.
Selon les rapports transmis à la FDA, le nombre d’incidents associés à l’utilisation du TruDi a explosé après cette mise à jour. Alors que seulement sept événements indésirables avaient été signalés avant 2021, plus de 100 rapports ont été déposés depuis 2021, faisant état de dysfonctionnement ou de résultats inattendus. Parmi ces incidents, au moins dix patients auraient subi des blessures sérieuses pendant des interventions chirurgicales.
Parmi les cas rapportés figurent des fuites de liquide céphalo-rachidien, conséquence d’une atteinte involontaire des membranes entourant le cerveau ; des perforations du crâne par des instruments mal guidés ; ou encore des accidents vasculaires cérébraux liés à des blessures accidentelles d’artères majeures. Ces complications graves seraient associées, selon des plaignants, à des indications erronées fournies par le système d’IA au chirurgien.
Défis réglementaires et limites des rapports de la FDA
Il est essentiel de noter que les rapports d’incidents de la FDA ne permettent pas de prouver de manière définitive la responsabilité de l’IA dans ces événements. Ces fichiers sont fondés sur des déclarations volontaires, souvent incomplètes, et ne sont pas conçus pour établir des liens causaux précis. Toutefois, la nature et la concentration des rapports signalés après l’introduction de l’IA ont suscité des inquiétudes significatives parmi les praticiens, les régulateurs et les chercheurs.
Par ailleurs, la FDA fait face à une pression croissante : la multiplication des demandes d’autorisation de dispositifs intelligents, combinée à des limitations de ressources humaines spécialisées, rend plus difficile une évaluation approfondie des risques liés aux algorithmes d’IA. Plusieurs anciens et actuels employés de l’agence ont indiqué que la capacité de surveillance et d’analyse est aujourd’hui mise à l’épreuve.
Autres exemples d’IA médicale en difficulté
Le cas du TruDi n’est pas isolé. D’autres dispositifs équipés d’IA ont également été associés à des rapports de dysfonctionnement, bien que sans conséquences physiques aussi graves. Un logiciel d’analyse d’échographie prénatale a ainsi été signalé pour avoir mal identifié des structures fœtales, soulevant des questions sur la fiabilité des algorithmes d’interprétation automatique.
De même, plusieurs moniteurs cardiaques intelligents ont été associés à des erreurs de classification des rythmes cardiaques, bien que ces cas n’aient pas entraîné de dommages physiques documentés.
Perspectives et recommandations
L’enquête souligne que l’intégration de l’IA en chirurgie exige une vigilance accrue, une surveillance réglementaire renforcée, et des méthodes d’évaluation rigoureuses. Des scientifiques spécialisés dans l’IA médicale insistent sur la nécessité de normes spécifiques de validation clinique des algorithmes, incluant des essais contrôlés et des comparaisons systématiques avec les pratiques humaines établies.
Par ailleurs, il est crucial de garantir que l’usage de l’IA ne remplace pas le jugement clinique humain, en particulier dans des contextes à haut risque comme la navigation chirurgicale. La technologie doit être conçue pour compléter et non supplanter les compétences des chirurgiens, avec des mécanismes de redondance et d’arrêt d’urgence intégrés.
L’intégration de l’IA dans la salle d’opération offre des opportunités prometteuses pour transformer la pratique chirurgicale. Cependant, comme le montre l’enquête de Reuters, ces technologies ne sont pas exemptes de risques sérieux. Afin de tirer pleinement parti de l’IA tout en protégeant la sécurité des patients, il est indispensable d’adopter une approche prudente, fondée sur des protocoles de test rigoureux, une réglementation solide et une supervision humaine continue.
