Page 63 - PlaneteRobots_été 2020_Neat

Décryptage

DOSSIER Santé et nouvelles technologies
Marguerite Brac de La Perrière

Avocate (*)
triels : portes automatiques, logiciels, préservatifs… cherche à chaque fois, comme la réglementation. Il est
ou encore dispositifs médicaux. Il veille à garantir la nécessaire de chercher systématiquement quelle est la Cette transparence relative au fonc-
sécurité des praticiens, des utilisateurs et des patients donnée la plus représentative, la moins biaisée. Enfin, tionnement d’un traitement algo-
en caractérisant les équipements et produits de san- le système pourra faire l’objet d’une comparaison me- IA et SANTÉ : rithmique s’impose ainsi à l’égard
té. Pour cela, il propose de nouvelles méthodes d’es- surée par rapport aux performances humaines : en IA, du patient, mais est tout aussi es-
sai assorties de mesures fiables et suit l’évolution des l’homme reste la mesure de toute chose. quels enjeux sentiel à l’égard du professionnel.
normes et référentiels. Il intervient auprès des fabri- L’évaluation permet d’augmenter le niveau de confiance,
cants de dispositifs médicaux et de leurs sous-traitants, de sécurité et de transparence envers le système. L’orga- JURIDIQUES La nécessaire supervision
des industries pharmaceutique et biotechnologique et nisme évaluateur doit comprendre les capacités et limites
des établissements de santé, pour lesquels il certifie des pour mieux tester. Il existe de nombreuses normes appli- ET du médecin
produits, réalise des formations et répond à la procé- cables pour les dispositifs médicaux innovants (pour le dé- ÉTHIQUES ? Il convient d’éviter toute aliénation
dure de marquage CE. veloppement et la maintenance, l’évaluation des risques, du médecin à la machine, et donc
Il est évidemment approuvé par le ministère de la Santé les exigences de transparence, ...). Mais ce cadre normatif d’interdire tout diagnostic établi uni-
et celui de l’Industrie. Ses domaines d’application sont est insuffisant pour l’IA selon le docteur Delaborde. En quement par un système d’IA. Le
l’industrie du futur, la robotique agricole, les assistants général, l’évaluation d’un dispositif nécessite d’aller voir « Les intelligences artificielles sont La protection des données, principe de garantie humaine vise
intelligents, les dispositifs médicaux intelligents, les sous le capot », pour s’assurer de son respect des normes. désormais très largement utilisées un impératif également à préserver la faculté du
véhicules autonomes ou la robotique de service. L’IA a ses limitations. D’une part, comme pour tout sys- dans le secteur de la santé. On ci- professionnel de superviser le traite-
Le docteur Agnès Delaborde, du LNME, nous pré- tème technique, l’industriel peut souhaiter conserver une tera notamment les outils d’aide au Il ne saurait y avoir d’algorithmes ment algorithmique, afin de pouvoir
cise les contraintes relatives au domaine médical. Pour part de ses secrets. Mais surtout, un réseau de neurones, diagnostic, avec, à titre d’exemples, sans recours à des données. assumer ses décisions médicales
celui-ci, il s’agit de garantir la sécurité du patient en même avec le capot ouvert, reste impossible à lire. Autre les logiciels de triage qui, à partir S’agissant de leur développement, quitte à s’écarter des solutions pro-
montrant la conformité du produit à une réglemen- inconfort, la réglementation des dispositifs médicaux sup- de questionnaires renseignés par les algorithmes sont alimentés et posées par l’outil. Dans ce contexte,
tation et la fiabilité des mesures réalisées pour ce pose pour ces derniers de « garantir la répétabilité, la fiabi- les patients, suggèrent des hypo- s’entraînent avec de données « ano- le régime de responsabilité profes-
contrôle de conformité. Les systèmes usant de l’intel- lité et les performances ». Or, avec l’IA, on ne peut garan- thèses diagnostiques par ordre de nymisées », c’est-à-dire ne permet- sionnelle des professionnels de san-
ligence artificielle sont capables de prendre une déci- tir la répétabilité. Le terme général de bug est lui-même vraisemblance. D’autres IA ana- tant pas d’identifier les personnes té pourra être préservé, de même
sion. Il peut en résulter une crainte généralisée de leur inapproprié. Il sous-entend une faille dans un raisonne- lysent des images, « flaguent » les qu’elles concernent, et ce afin de que celui des éditeurs de solutions,
usage. Le fait de déterminer dans quelle mesure on ment logique. Une IA, même sans erreur de construction, zones suspectes et rédigent des préserver les droits et libertés des dans des limites respectives à défi-
peut leur faire confiance est critique dans le cadre d’un peut connaître une erreur de prise de décision dans une projets de comptes-rendus dia- personnes concernées. nir contractuellement.
dispositif médical. Le terme d’IA faisant l’objet d’un classification, à l’image d’un humain, qui, bien qu’ayant gnostiques. Autant d’outils algo- Cela suppose toutefois que les don-
grand nombre de définitions, il n’est retenu que celle récolté toutes les informations nécessaires et suivi toutes rithmiques qui permettent d’amé- nées à caractère personnel aient L’outil algorithmique,
ayant un impact pratique, à savoir celle d’un système les étapes de raisonnement, peut se tromper. Pour cette liorer l’efficacité et la précocité des subi un traitement d’anonymisation. un dispositif médical
ayant une autonomie décisionnelle. On parlera alors raison, il est excessivement complexe d’évaluer la sécuri- diagnostics. De grandes avancées À ce titre, il apparaît à tout le moins Les outils constituent des disposi-
de dispositifs médicaux « intelligents ». té avec une IA, car il est difficile d’estimer la couverture sont également permises grâce à nécessaire que les patients soient tifs médicaux lorsqu’ils sont « des-
Pour évaluer un tel système, il faut en premier lieu créer de ses comportements possibles et de la probabilité qu’un des intelligences artificielles d’aide informés du traitement d’anonymi- tinés à fournir des informations
des données de test, par exemple des images de scanner comportement ne se produise. Il n’est même pas question à la thérapeutique, tels les outils de sation voire, selon les acteurs im- utilisées pour prendre des déci-
pour évaluer un dispositif destiné à repérer les tumeurs. pour l’heure de classifier une IA évolutive : les dispositifs télésurveillance ou de télésuivi – ré- pliqués, qu’ils y consentent, et que sions à des fins thérapeutiques ou
Ces données sont référencées, étiquetées, par un hu- médicaux actuels s’appuient sur des systèmes contrôlés. cemment très utiles dans le cadre l’anonymisation soit irréversible. diagnostiques » ou à « contrôler
main. Ce dernier définit s’il y a ou non une tumeur pour La mise au point de bancs d’essai est délicate : quel sera de la prise en charge des patients S’agissant de l’utilisation, c’est-à- des processus physiologiques ou à
chacune des données de test. Il faut ensuite développer le score pertinent pour démontrer la transparence d’un Covid19 – mais aussi les outils de dire de traitements algorithmiques contrôler des paramètres physiolo-
une métrique de comparaison pour estimer la perfor- système d’IA ? prescription de médicaments qui de données personnelles dans le giques vitaux ». Reste que certifier
mance du système. Ce point n’est pas évident et requiert Pour répondre aux nombreuses interrogations que génèrent des alertes en cas d’er- cadre d’actes à visée préventive, une IA n’est pas une mince affaire
de répondre à des questions statistiques complexes. La pose l’IA et pour favoriser l’émergence des dispositifs reurs de dosage ou d’interactions diagnostique ou thérapeutique, au regard de sa spécification, vali-
création d’une base de données est déjà un sujet de re- médicaux innovants, le LNME développe de nou- médicamenteuses. le concept de garantie humaine dation et vérification, et que chaque
veaux protocoles d’essai de conformité, encadre la Le développement et l’utilisation de consacré dans le projet de loi de modification risque de rendre cadu-
Le fait de déterminer dans quelle définition des jeux de données de test, met en place ces outils soulèvent diverses pro- bioéthique en cours d’examen de- que sa certification.
mesure on peut faire confiance de nouveaux moyens d’essai, des métriques de com- blématiques juridiques et éthiques, vant le Parlement, pose le principe
aux intelligences artificielles paraison et développe des techniques d’explicabilité. principalement articulées autour d’information du patient par le pro-
Nicolas Denis
est critique dans le cadre d’un Cet article a été rédigé grâce aux conférences organisées de la protection des données, de fessionnel de santé, à la fois s’agis- (*) Avocate au barreau de Paris, Marguerite
Brac de La Perrière dirige le département
sant du recours à l’outil d’IA, et de
la responsabilité du médecin, et de
dispositif médical. par le GdR Robotique. leur qualification ou certification. ses modalités d’actions. Santé numérique du cabinet Lexing Alain
Bensoussan Avocats.

62 PLANÈTE ROBOTS N°63 JUIN / JUILLET / AOÛT 2020 JUIN / JUILLET / AOÛT 2020 N°63 PLANÈTE ROBOTS 63