Impact des interfaces d'IA explicables en santé selon l'expertise
Une étude du MIT publiée dans Nature Medicine révèle que les outils d'IA explicables en santé ont des effets variables selon l'expertise de l'utilisateur. Les non-experts améliorent leur précision en s'appuyant sur l'IA, tandis que les professionnels de santé performaient mieux sans explications.
« Good AI systems can improve performance in some health settings, but this has to be balanced carefully with algorithmic deference that can lead to more error. » — AI News
Que faut-il retenir ?
- Les non-experts ont amélioré leur précision avec l'assistance de l'IA, surtout en identifiant les grains de beauté non cancéreux.
- Les professionnels de santé performaient mieux avec une prédiction d'IA sans explication.
- Les explications générées par des modèles de langage ont produit l'effet de déférence le plus fort.
- Un modèle ajusté pour réduire les biais liés à la couleur de peau a amélioré la précision et réduit les disparités diagnostiques.
Pourquoi cette nouvelle compte-t-elle ?
Cette étude met en lumière la nécessité de concevoir des interfaces d'IA adaptées à l'expertise des utilisateurs en santé. Les résultats montrent que les explications d'IA peuvent induire en erreur les non-experts, ce qui a des implications critiques pour les systèmes de diagnostic grand public. Les professionnels doivent donc équilibrer l'utilisation de l'IA avec leur jugement clinique.
null
💬 Marzyeh Ghassemi, Professeure associée au Département de génie électrique et informatique du MIT
Public concerné : développeurs, entreprises
Comment les interfaces d'IA explicables affectent-elles les diagnostics en santé ?
Les interfaces d'IA explicables améliorent la précision des non-experts mais peuvent induire en erreur si le modèle est incorrect. Les professionnels de santé performaient mieux avec une prédiction d'IA sans explication.
