Lausanne, CHUV, janvier 2023. Un chirurgien opère une patiente hospitalisée dans le Département d’oncologie pour un cancer du sein. L’opération se déroule comme prévu : le chirurgien pratique une mastectomie. L’analyse des tissus montrera que l’intervention était disproportionnée et que la mastectomie aurait pu être évitée. Cette situation provoque une immense détresse et colère chez la patiente. Qu’a-t-il bien pu se passer pour en arriver là ?
Les limites de l’IA
De nombreux facteurs peuvent influencer la réponse à cette question. Listons-en quelques-uns.
- Les IA sont des boîtes noires et les personnes qui les conçoivent ne sont souvent pas capables d’expliquer comment leur IA est parvenue à une conclusion plutôt qu’à une autre.
- L’entraînement de l’IA ne s’est pas basé sur des données adéquates, leur exactitude et précision laissait à désirer.
- Le corps médical n’a pas suivi les recommandations pour l’utilisation de l’IA.
- L’IA présente des biais dans certaines situations en raison d’un entraînement inadapté ou d’une performance réduite des algorithmes.
- Les personnes qui conçoivent et testent l’IA ont utilisé les mêmes jeux de données pour le design et les vérifications.
L’hôpital et/ou le corps médical, seuls responsables
Malheureusement, à l’heure actuelle en droit suisse, la responsabilité (civile et pénale) reposera souvent sur celles et ceux qui utilisent l’IA, autrement dit l’hôpital ou le corps médical. Pour que la responsabilité civile du fabricant puisse être engagée envers la patiente, il faudrait par exemple démontrer qu’un défaut existait dans l’IA au moment de sa commercialisation et que ce défaut a provoqué le préjudice en question. L’hôpital ou le médecin chirurgien pourrait être tenu pour responsable si l’on découvrait par exemple que l’IA n’aurait pas dû être utilisée dans ces circonstances, si des instructions d’utilisation erronées avaient été données, si l’avis d’aucun autre professionnel-le n’avait pas été sollicité pour corroborer l’analyse de l’IA, etc.
Des évolutions sur la responsabilité de l’IA se produiront prochainement dans le cadre juridique européen. En attendant que la Suisse imite l’Union européenne, le corps médical doit se réjouir de l’utilisation de l’IA dans son quotidien, tout en gardant à l’esprit qu’il s’agit d’une aide et qu’elle ne doit pas remplacer des analyses et un avis médical d’un-e professionnel-le de la santé.
