Jean-Gabriel Ganascia : "La France va-t-elle espionner les téléphones
des malades du coronavirus ?" Par Rosalie Lafarge 26/03/2020
https://www.franceculture.fr/sciences/jean-gabriel-ganascia-la-france-va-t-elle-espionner-les-telephones-des-malades-du-coronavirus?
Pour ce spécialiste de l’intelligence artificielle, la crise sanitaire que
nous traversons va sans aucun doute conduire le gouvernement à adopter des
dispositifs très intrusifs, et il n’est pas évident aujourd’hui de s’assurer de
leur suppression une fois la pandémie passée. ENTRETIEN
De la traque du virus à la limitation de sa propagation, en passant par
l’identification de traitements efficaces, l’intelligence artificielle a de
multiples usages en temps de gestion de crise sanitaire. Pour
Jean-Gabriel Ganascia, spécialiste de
l’intelligence artificielle, professeur d’informatique à la faculté des sciences
de Sorbonne Université, dirigeant de l’équipe Acasa (Agents cognitifs et
apprentissage symbolique automatique) du laboratoire d’informatique LIP6 et président du comité d’éthique du CNRS, il faut évidemment
se saisir des multiples possibilités offertes par l’intelligence artificielle
pour gérer au mieux cette crise. Mais il faut aussi, le plus rapidement
possible, tenter de garantir que les dispositifs exceptionnels et parfois
privatifs de liberté, seront supprimés une fois la crise terminée.
A quoi sert et peut servir l’intelligence artificielle en temps de crise
sanitaire ? Indépendamment de l’intelligence artificielle, le numérique joue un rôle
important, on le voit tous les jours : il permet de conserver un lien
social, de continuer à travailler dans le domaine de l’enseignement… Et dans un
monde où beaucoup d’informations sont numérisées, où le numérique joue un rôle
très important, l’intelligence artificielle peut exploiter une grande partie
des données générées et aider à les interpréter. C’est ainsi qu’elle peut
repérer des signaux faibles, des informations qui peuvent laisser entendre que
quelque chose se produit. C’est en particulier valable sur les données
médicales : l’intelligence artificielle permet d’agréger les sources
d’informations disponibles afin d’essayer de repérer des signaux d’évolution de
l’épidémie ou de détecter des signaux précurseurs de la positivité d’une
personne, même si cela ne va évidemment pas sans risque d’abus
considérables. Dans un premier temps, l’objectif est donc scientifique.
Mais ensuite, lorsque l’on voudra sortir de l’état de confinement, un certain
nombre de gens, et c’est d’ailleurs ce qu’a laissé entendre le président du
comité scientifique Jean-François Delfraissy, pensent que l’on va adopter une
stratégie analogue à celle qui a eu un certain succès en Corée du Sud. D’une
part, on va utiliser des tests de façon plus massive qu’aujourd’hui, en
espérant qu’on en aura suffisamment, et d’autre part, une fois qu’on aura fait
des tests, on va pouvoir repérer les gens qui sont positifs, les assigner à
résidence, mais aussi suivre exactement tous leurs contacts, les espionner de
façon systématique pour s’assurer qu’ils ne vont pas infecter d’autres
personnes. Et s’ils sont en contact avec d’autres personnes, on pourra envoyer
directement à ces personnes des éléments d’information pour les avertir du
risque qu’elles encourent. C’est ce qui risque de se produire en France, en dépit
du RGPD, le règlement général sur la protection des données. La situation étant
grave et exceptionnelle, cela va certainement conduire à adopter ce type de
stratégie. On est d’ailleurs en train d’y réfléchir. On est en train
d’imaginer qu’on va espionner les téléphones portables pour suivre les gens
considérés comme positifs au Covid-19, et compte tenu de la difficulté de la
situation dans laquelle nous nous trouvons, il me semble que ce sont des choses
que nous accepterons. Mais la question qui se pose dès aujourd’hui, et qui va
se poser de plus en plus, c’est de savoir comment nous allons nous assurer que
ces dispositifs tout à fait exceptionnels, qui peuvent être à terme extrêmement
privatifs de liberté, seront supprimés une fois la pandémie passée. Ce n’est
pas du tout évident.
En matière de dépistage, que peut apporter l’intelligence
artificielle ? Il faut ici distinguer les vrais tests biologiques, ceux qui assurent que
vous avez le virus en vous, des tests appuyés par l’intelligence artificielle.
Avec l’intelligence artificielle, on a la possibilité de repérer un certain
nombre de signes cliniques qui sont associés à la maladie. C’est ce qui s’est
passé en Chine au début de l’épidémie. On peut repérer les gens qui ont de la
température, les gens qui toussent, et avec différents signes, par des
corrélations, on peut obtenir une évaluation du risque qu’une personne ait la
maladie. C’est bien sûr très imprécis : tant que les gens sont
asymptomatiques, on ne peut pas les détecter alors qu’ils sont potentiellement
déjà dangereux, et on peut également catégoriser des gens comme porteurs du
virus alors qu’ils ne sont pas du tout atteints. Bien sûr, dans des situations
très particulières comme celle que nous sommes en train de vivre, cela fait
partie des techniques qui peuvent rendre service, et il n’y a rien qui s’oppose
à ce que nous puissions mettre en œuvre ce type de technologies en France, mais
c’est évidemment très insuffisant pour régler tous les problèmes.
Dans quelle mesure l’intelligence artificielle peut nous aider à avancer
dans la recherche de médicaments efficaces contre un virus comme le
Covid-19 ? Il y a d’abord des observations qui sont rapportées dans la littérature,
et il est possible, avec l’intelligence artificielle, d’essayer d’extraire un
certain nombre d’éléments d’informations à partir de cette littérature.
Ensuite, pour la recherche fondamentale, on peut utiliser l’intelligence
artificielle pour repérer, dans le virus lui-même, à partir de son génome, des
caractéristiques qui pourraient être les cibles potentielles d’un certain
nombre de médicaments. Dans le programme mis en œuvre par le gouvernement
pour faire des recherches sur le Covid-19, il y a d’ailleurs un certain nombre
de travaux de modélisation biologique qui ont cet objectif, puisqu’on peut,
avec l’intelligence artificielle, essayer de faire des analyses de plus en plus
précises et cela contribue à mieux comprendre les ressorts de la maladie, donc
à trouver des médicaments pour la soigner.
Emmanuel Macron a installé ce mardi un Comité analyse recherche et
expertise qui réunit des chercheurs et des médecins pour conseiller le
gouvernement. Des spécialistes de l’intelligence artificielle en font partie.
Est-ce une évidence aujourd’hui d’intégrer pleinement l’intelligence
artificielle dans un tel dispositif ? Cela paraît effectivement évident. Il y a, dans ce
comité, des spécialistes de l’intelligence artificielle qui vont justement
s’intéresser à la modélisation de l’effet de différentes molécules, puis à
l’analyse du génome, et à partir de cela contribuer, avec des biologistes et
des chercheurs de la recherche fondamentale, à mieux comprendre ce qui se
produit et à essayer de trouver des médicaments. Ensuite, bien sûr, des équipes
de spécialistes des tests médicamenteux vont permettre d’évaluer ces
médicaments, puisque sur les effets d’une molécule, on ne peut évidemment pas
se contenter d’une vue abstraite, ni même d’une efficacité "en
éprouvette", il faut procéder à des expérimentations cliniques pour
s’assurer que cette molécule est efficace et qu’elle ne connaît pas de
contre-indications majeures.
Peut-on considérer qu’en temps de crise, l’open data devient une ressource
encore plus précieuse que d’habitude dans la mesure où cela permet, notamment,
de fournir des informations aux professionnels, mais aussi parfois aux
citoyens, sur l’évolution de la situation en temps réel ? Pour les
scientifiques, il est extrêmement important de pouvoir avoir cette information
le plus rapidement possible. En ce qui concerne les citoyens, il n’y a pas de
raison de cacher ces informations au public, et cela peut aider à prendre
conscience de l’ampleur de l’épidémie, donc en ce sens, c’est positif. Mais
il faut aussi bien comprendre que l’ouverture des données peut avoir, en temps
normal, des effets négatifs. Si on ouvre toutes les données, les grands acteurs
et notamment les grands groupes industriels, seront capables de les exploiter,
alors que les laboratoires qui les auront produites en auront peut-être moins
la capacité. Il y a donc probablement des réserves à avoir sur l’ouverture
générale de toutes les données en temps réel.
Est-il envisageable qu’en France, pour lutter contre un virus tel que le
Covid-19, nous en arrivions à déployer des dispositifs utilisant la reconnaissance
faciale, à l’image de ce que fait la Russie (qui a mis sous
surveillance des milliers de Moscovites avec des caméras reliées à
l’intelligence artificielle et capables d’identifier les gens s’ils se
déplacent dans la rue par exemple) ? Il est difficile d’imaginer
aujourd’hui des limites à l’usage que l'on peut faire des technologies. On l’a
d’ailleurs vu ces jours derniers, et on le verra dans les jours qui viennent.
Ainsi, l’utilisation de la reconnaissance faciale pourrait, un jour, dans des
situations aussi exceptionnelles que la situation actuelle, se faire aussi dans
nos pays européens. Je crois que ce dont il faut s’assurer, c’est que nous
conservions à l’usage de ce type de technique le caractère exceptionnel qui est
celui de la situation dans laquelle nous nous trouvons aujourd’hui. Et je crois
que cela va être très difficile. Dans le cadre du comité pilote d’éthique
du numérique du CCNE (le comité consultatif national d’éthique), nous allons
d’ailleurs dès à présent commencer à avoir une réflexion sur ces sujets afin de
pouvoir mettre à disposition des soignants et de la communauté toutes les
technologies contemporaines, mais en faisant en sorte d’avoir des garanties
pour s’assurer que ce ne soit pas privatif de nos libertés une fois la pandémie
terminée.
Quels sont les pays qui vont le plus loin dans le déploiement des
technologies liées à l’intelligence artificielle dans la gestion de ce type de
crise sanitaire ? On l’a vu très tôt en Chine, avec des capacités
extraordinaires. On l’a vu aussi en Corée où la stratégie a porté ses fruits
puisque le nombre de victimes est assez faible alors qu’il y avait beaucoup de
patients atteints. En Italie, ces techniques liées au numérique commencent à
être utilisées. Mais c’est surtout en Israël où, comme le rapportent de
nombreux articles, il y a énormément de choses qui sont faites. En Israël,
deux types d’applications complémentaires sont utilisés. Il y a d’abord des
applications de l’informatique civil. Elles sont mises à profit pour essayer de
suivre les personnes, et elles reposent sur une déclaration des individus
eux-mêmes. Mais le gouvernement utilise aussi des technologies anti
terroristes, ce qui est assez frappant. Un certain nombre de techniques
utilisées en ce moment sont des techniques d’espionnage, au départ destinées à
lutter contre le terrorisme, qui sont aujourd’hui généralisées pour les personnes
atteintes par le virus, comme par exemple le fait de surveiller votre téléphone
portable et de pouvoir détecter automatiquement, grâce au bluetooth, les autres
portables à proximité, et ainsi de savoir de qui vous êtes ou avez été proche.
D’une manière plus globale, l’intelligence artificielle est de plus en plus
appliquée dans le secteur de la santé où elle vient automatiser une partie du
travail du personnel médical. Qu’apporte-t-elle concrètement ? L’intelligence
artificielle peut contribuer à automatiser un certain nombre de tâches qui sont
effectuées par le personnel médical. Cela peut concerner à la fois des tâches
de surveillance pour aider l’infirmière et donner l’alerte dès qu’il y a un
problème, comme des tâches de diagnostic ou d’analyse d’image pour contribuer
au dépistage d’un certain nombre de maladies. L’intelligence artificielle
est utilisée en médecine depuis très longtemps, mais il est vrai que depuis
quelques années, les applications médicales de l’intelligence artificielle sont
de plus en plus nombreuses, et cela va certainement croître dans les années qui
viennent car les prix des capteurs vont baisser de plus en plus et nous allons
pouvoir en disséminer dans beaucoup d’endroits (sur le corps des patients comme
dans les logements). Ces capteurs vont pouvoir récupérer énormément
d’informations, et l’intelligence artificielle va pouvoir contribuer à
interpréter ces informations puis à transmettre ces interprétations au
personnel médical pour aider au suivi des patients.
Dans quel secteur médical l’intelligence artificielle a-t-elle aujourd’hui
le plus fortement fait ses preuves ? Dans le secteur de la
dermatologie par exemple. De récents articles ont montré qu’on pouvait faire un
diagnostic de mélanome à partir de photos de grains de beauté prises avec des
téléphones portables avec une fiabilité supérieure à celle de 21 dermatologues.
Ce sont des résultats tout à fait impressionnants. Mais il est important de
rappeler que ce sont des tâches spécifiques qui sont aujourd’hui automatisées par
la machine. Il ne s’agit pas de se substituer au médecin, mais d’avoir un
dispositif qui va aider le médecin. L’intelligence artificielle devient un
instrument qui peut transformer la prise en charge du patient mais qui
s’intègre, et doit s’intégrer, à l’ensemble du processus.
Y a-t-il des réticences du monde médical à faire plus de place à
l’intelligence artificielle ? Dans les échanges que j’ai eu dernièrement avec la
communauté médicale, je n’ai pas eu cette impression. J’ai au contraire perçu
un grand intérêt pour ce qui est en train de se produire et une réflexion sur
la façon dont le métier est en train d’évoluer avec l’intelligence
artificielle, mais je n’ai pas perçu de craintes majeures. Cependant, il
faut être conscient que la situation peut être très positive comme très
négative. Elle est très positive si ces dispositifs viennent aider à mieux
prendre en charge les malades et si on élimine un certain nombre de tâches
administratives avec les machines pour laisser plus de temps aux médecins pour
s’occuper des patients. Elle devient très négative si on fait l’inverse :
si on a un diagnostic automatique et qu’on impose au médecin pour des raisons
d’économie de la santé de suivre la décision prise par la machine.
Deux livres:
Intelligence artificielle : vers une domination programmée ? De
Jean-Gabriel Ganascia, Le Cavalier Bleu, 2017 Description : Aujourd’hui, les ordinateurs sont présents dans toutes
nos activités quotidiennes. Une machine a vaincu le champion du monde du jeu de
go, on construit automatiquement des connaissances à partir d’immenses masses
de données (Big Data), des automates reconnaissent la parole articulée
et comprennent des textes écrits en langage naturel… Les machines
seraient-elles vraiment devenues intelligentes, posséderaient-elles un esprit,
voire une conscience ? La complexité de l’intelligence artificielle
dépasse notre entendement immédiat et suscite nombre d’idées reçues. Ainsi,
l’intelligence artificielle reproduirait l’activité de notre cerveau, elle
ferait que les ordinateurs ne se trompent jamais et… qu’à terme nous en
devenions les esclaves. Jean-Gabriel Ganascia, en distinguant la réalité
du pur fantasme, nous permet de comprendre ce qui se joue avec l’intelligence
artificielle, quelles sont ses potentialités et ce qu’elle ne sera jamais… sauf
au cinéma.
Aucun commentaire:
Enregistrer un commentaire