in

IA « paresseuse » : des chercheurs de l’UW découvrent que la technologie peut mal diagnostiquer le COVID-19 en prenant des raccourcis

De gauche à droite : les chercheurs de l’Université de Washington Alex DeGrave, Su-In Lee et Joseph Janizek. (Photo de l’Université de Washington)

L’utilisation future de l’intelligence artificielle dans des contextes médicaux pourrait être bénéfique pour améliorer l’efficacité, mais une nouvelle étude de recherche de l’Université de Washington publiée dans Nature Machine Intelligence a révélé que l’IA s’appuyait sur des raccourcis plutôt que sur une pathologie médicale réelle pour diagnostiquer COVID-19.

Des chercheurs de la Paul G. Allen School of Computer Science & Engineering de l’UW ont examiné les radiographies pulmonaires utilisées pour détecter le COVID-19. Ils ont découvert que l’IA s’appuyait davantage sur des ensembles de données spécifiques que sur des facteurs médicaux importants pour prédire si un patient avait contracté le virus.

Cependant, il est peu probable que les machines faisant l’objet de cette recherche aient été largement utilisées dans un cadre médical, selon un rapport de l’école Allen sur l’étude. L’un des modèles, COVID-Net, a été déployé dans plusieurs hôpitaux, mais Alex DeGrave, l’un des principaux auteurs de l’étude, a déclaré dans le rapport qu’il n’est pas clair si les machines ont été utilisées à des fins médicales ou de recherche.

Ces raccourcis sont ce que les chercheurs DeGrave, Joseph Janizek et Su-In Lee ont qualifié de « paresseux ».

“L’IA trouve des raccourcis car elle est formée pour rechercher toute différence entre les rayons X des patients en bonne santé et ceux atteints de COVID-19”, a déclaré l’équipe de recherche à . dans un e-mail. “Le processus de formation ne dit pas à l’IA qu’elle doit rechercher les mêmes modèles que les médecins, donc l’IA utilise tous les modèles possibles pour simplement augmenter la précision de la distinction entre COVID-19 et sain.”

Lorsqu’un médecin utilise une radiographie pulmonaire pour déterminer un diagnostic de COVID-19, il dispose déjà d’informations sur le patient, telles que l’exposition et les antécédents médicaux, et il attend de nouvelles informations de la radiographie.

“Si un médecin suppose qu’une IA lit une radiographie et fournit de nouvelles informations, mais que l’IA s’appuie en fait sur les mêmes informations que le médecin avait à la place, cela peut être un problème”, a déclaré l’équipe de recherche.

Lorsque l’on peut faire confiance à l’IA pour prendre des décisions pour les bonnes raisons, cela pourrait profiter à la communauté médicale en améliorant l’efficacité et les résultats pour les patients, a déclaré l’équipe. De même, cela pourrait réduire la charge de travail des médecins et fournir un soutien diagnostique dans les zones à faibles ressources.

“Cependant, chaque nouveau dispositif d’IA doit être soigneusement testé pour s’assurer qu’il offre effectivement des avantages”, a déclaré l’équipe. “Pour aider à mettre en place des systèmes d’IA utiles et bénéfiques, les chercheurs doivent tester l’IA de manière plus rigoureuse et affiner les technologies d’IA explicables qui peuvent aider à tester.”

L’étude a révélé que de meilleures données – des données contenant moins de modèles problématiques que l’IA pourrait apprendre – empêchaient l’IA d’utiliser de nombreux raccourcis. De même, il est possible de pénaliser une IA pour avoir utilisé des raccourcis afin qu’elle puisse se concentrer sur les données pertinentes.

L’équipe a recommandé que l’IA soit testée sur de nouvelles données provenant d’hôpitaux qu’elle n’a jamais vus et qu’elle utilise des techniques du domaine de « l’IA explicable » pour déterminer quels facteurs influencent la décision de l’IA.

“Pour les prestataires médicaux, nous recommandons qu’ils examinent les études réalisées sur un dispositif d’IA avant de lui faire entièrement confiance, et qu’ils restent sceptiques à l’égard de ces dispositifs jusqu’à ce que des avantages médicaux clairs soient démontrés dans des essais cliniques bien conçus”, a déclaré l’équipe.

Daily Schmankerl: le Bayern Munich poursuit Callum Hudson-Odoi de Chelsea, mais pas Saul de l’Atletico Madrid; Jérôme Boateng au Latium ? ; Manuel Neuer s’envole ; Florian Wirtz est stellaire ; et plus!

Le patron de l’Allemagne, Joachim Low, a déclenché l’hilarité de l’Euro 2016 et a fait une offre à Cristiano Ronaldo