Yuval Noah Harari :
« On pourra bientôt pirater les êtres humains » Par Piotr Smolar Publié le 19 septembre 2018
https://www.lemonde.fr/long-format/article/2018/09/19/yuval-noah-harari-on-dispose-des-technologies-pour-pirater-les-etres-humains_5357058_5345421.html
Entretien. Après le best-seller Sapiens, Une brève histoire de
l’humanité, l’universitaire israélien publie, le 2 octobre, 21
leçons pour le XXIe siècle.
Spécialiste de l’histoire militaire et médiévale, Yuval Noah Harari, 42
ans, est maître de conférences à l’Université hébraïque de Jérusalem. Dans son
dernier ouvrage, 21 leçons pour le XXIe siècle, l’historien
met en garde : l’homme pourra bientôt être piraté comme une machine. Il
revient sur la crise écologique, la fragilité des démocraties libérales, les
« fake news », le big data et l’intelligence artificielle pour en
expliquer les enjeux à long terme.
Dans votre nouveau livre, « 21 leçons pour le XXIe siècle »,
vous écrivez que nous avons deux défis devant nous : la disruption
technologique et la crise écologique. Le nationalisme, qui semble avoir le vent
en poupe, a-t-il des réponses à ces deux défis ?
Yuval Noah Harari : Sur le long terme, le nationalisme a été une force de bien. Il a permis à
des peuples de collaborer comme jamais auparavant. Pendant près de deux cents
ans, c’est en grande partie grâce au sentiment national que les gens étaient
prêts à payer pour leur protection sociale et l’Etat providence. Mais le
nationalisme a aussi de mauvais côtés : la xénophobie, qui conduit à la
guerre. Aujourd’hui, il ne fera qu’aggraver les choses. Le nationalisme n’a pas
de réponses à apporter aux problèmes globaux. Sans surprise, ce sont surtout
des gens issus de la droite nationaliste qui nient le changement climatique. La
vision du monde au cœur de la vague nationaliste actuelle, de Viktor Orban à
Steve Bannon en passant par Marine Le Pen, se résume à un réseau de forteresses
bloquant l’immigration et imposant des taxes sur les produits étrangers – des
forteresses protégeant de la guerre, des ennemis, du multiculturalisme. Mais
personne ne peut construire un mur contre l’intelligence artificielle ou contre
le changement climatique. On ne peut pas répondre à ces enjeux sur le seul plan
national. Quand bien même le gouvernement français réduirait à zéro ses
émissions de gaz à effet de serre, quand bien même il deviendrait le meilleur
élève en matière écologique dans le monde, cela ne servirait à rien sans coopération
internationale. Elle sera indispensable si on veut parvenir à réguler
l’intelligence artificielle et la biotechnologie. Sans elle, non seulement il
deviendra impossible d’arrêter leur développement mais on sera tenté
d’abandonner nos propres règles. Si, par exemple, la Chine ou la Russie
acquièrent des robots armés, ce sera le début d’une course à l’armement. Il y a
cinq ans, personne, à part peut-être la Chine, ne comprenait le potentiel de
l’intelligence artificielle, qui pourrait pourtant conduire à la disparition de
l’humanité.
Vous expliquez que la crise de la démocratie libérale
n’est pas seulement une affaire d’institutions et de processus électoraux, mais
qu’elle prend racine dans le cerveau. Que voulez-vous dire ?
La démocratie libérale part du principe que notre cerveau est une boîte
noire qui est remplie de nos désirs et de nos pensées et à laquelle nous seuls
avons accès. C’est un régime qui postule que l’électeur sait ce qu’il fait. On
décide du Brexit parce qu’on accorde la plus haute valeur au sentiment de
l’électeur britannique. Et personne ne conteste la véracité de ce sentiment.
Or, la crise actuelle naît du fait qu’on dispose des technologies pour pirater
les êtres humains, et pas seulement les portables ou les ordinateurs. La
révolution, c’est qu’on peut comprendre vos désirs, vos sentiments, vos
pensées, et vous contrôler. Les « fake news » n’ont rien de nouveau,
mais maintenant on peut en nourrir les individus en les ciblant. Si
quelqu’un hait les migrants, on lui montre une histoire de migrants violant des
Françaises, il va facilement y croire, même si elle n’est pas vraie. Les
fausses nouvelles sont fabriquées pour provoquer un effondrement du discours
public, pour emmener les gens vers les extrêmes. Sur la question de l’accueil
des migrants, il existe des arguments solides du côté de ceux qui défendent
l’accueil comme de ceux qui lui sont hostiles – la démocratie libérale repose
précisément sur la possibilité de cette discussion. Mais ce qu’on voit
aujourd’hui, c’est une lutte manichéenne entre le « Bien » ultime et
le « Mal » ultime, parce que des groupes – des partis, des agents
étrangers ou des entreprises – agissent dans ce sens.
Comment sortir de ce piège ?
L’intelligence artificielle et le big data sont, certes, utilisés par les
entreprises afin de mieux comprendre les gens et les manipuler. Mais on
peut employer les mêmes technologies pour permettre aux gens de mieux se
comprendre et de développer leur immunité. On est aujourd’hui vulnérable car on
ne réalise pas notre faiblesse. C’est pourquoi il faut commencer par abandonner
l’illusion du libre arbitre total : ce qu’on pense et ressent dépend de
processus internes de notre corps et de notre cerveau dont on ne sait rien et
qu’on ne contrôle pas. Ce qu’on croit être nos sentiments les plus authentiques
pourrait être le résultat de manipulations extérieures. On ne peut se faire
confiance. On a eu comme mantra au XXe siècle :
« Fais-toi confiance, suis ton cœur. » Mais votre cœur peut être un
agent russe ! Ça ne veut pas dire qu’on ne peut faire confiance à
personne. Mais nous devons réaliser que nous sommes vulnérables à la
manipulation.
Qui doit contrôler les bases de données ? L’Etat
ou les entreprises ?
C’est un choix entre deux maux. Si le gouvernement est démocratique et
dispose de tous les contre-pouvoirs requis, mieux vaut lui que les entreprises.
Mais si le gouvernement sait tout de vous, on glisse vite vers la dictature
numérique. Avant même que la simple idée de lui résister germe en vous, le
gouvernement sera déjà au courant. Les données deviennent si importantes que
celui qui les contrôle représente le vrai gouvernement. Si Amazon maîtrisait
toutes nos transactions et nos dossiers médicaux, il serait le gouvernement. Faut-il
fractionner la propriété des données ? C’est difficile de répondre en
raison du manque d’expérience dans la régulation de ce domaine. On sait comment
faire avec un terrain. Il y a un périmètre, une clôture, une entrée : on
peut décider qui entre et sort. Mais il peut y avoir des millions de copies de
mon dossier médical. Les données sont partout et nulle part.
Vous évoquez dans votre livre la question de
l’éducation. A quoi doit servir l’école ? A préparer les jeunes à des
métiers qu’on ne connaît pas encore, ou à devenir des citoyens ?
Personne ne sait ce que seront les emplois dans trente ans. C’est une perte
de temps et de ressources que de prétendre y préparer les jeunes. Le meilleur
pari à faire est d’apprendre aux enfants à changer. Les individus devront se
réinventer plusieurs fois dans leur vie – l’espérance de vie est plus longue
qu’autrefois, le marché de l’emploi plus volatil. La plupart des métiers
routiniers, pas nécessairement physiques, seront appelés à disparaître. Le
travail d’infirmière, qui réclame beaucoup de compétences manuelles, comme les
piqûres aux enfants ou le changement de pansements, me paraît moins menacé que
celui de médecin, qui analyse les données, compare avec des antécédents,
cherche un modèle. C’est exactement ce que fera, en bien mieux, l’intelligence
artificielle. Quant aux nouveaux
emplois, eux aussi changeront constamment. L’intelligence artificielle
entraînera une cascade de révolutions de plus en plus puissantes. Tous les cinq
ou dix ans, il y aura un nouveau bouleversement. Cela signifie que le problème
numéro un sera de se réinventer – réinventer non seulement son identité
professionnelle mais aussi son identité profonde. Dans quinze ans, un routier
de 50 ans qui perdra son emploi aura peut-être la possibilité de devenir
designer de mondes virtuels, même s’il n’avait pas les compétences nécessaires
à l’origine. La philosophie de l’éducation traditionnelle repose sur la
construction d’une identité stable, avec des compétences qui serviront tout au
long de la vie. Tout au contraire, il faut penser qu’on ne quittera plus le
système éducatif. Avant, on construisait des personnalités qui étaient des
maisons de pierres. Demain, il faudra que ces personnalités soient des tentes.
Vous utilisez une expression brutale, celle de
« classe inutile », à propos des millions de personnes appelées à
perdre leur emploi « traditionnel ». Faut-il les former à autre
chose, ou bien ne plus organiser la société autour du travail rémunéré ?
On doit faire un effort pour que les gens puissent se former et se
réinventer – et une grande partie de cet effort doit venir de l’Etat. Aux XIXe
et XXe siècles, il a construit un système d’éducation qui
n’avait jamais existé auparavant. Maintenant, il faut un système de rééducation
– mais pas au sens des camps de travail chinois ! Cela réclame du temps et
du soutien public, avec de nouveaux revenus tirés d’une imposition sur les
robots et les voitures sans conducteur dont s’acquitteraient les grandes
entreprises. Mais il se peut que les barrières psychologiques soient plus
hautes que celles de l’économie. Beaucoup de gens ne pourront se réinventer. Il
faut donc accepter le fait que de plus en plus de personnes, qui vivront des
dizaines d’années après la perte de leur emploi, seront là et qu’il faudra les
aider financièrement. Que feront-elles de leur temps ? Pensons à ce qui
est vraiment utile. Etre un père ou une mère, contribuer à sa communauté sont
des activités non reconnues, et c’est regrettable. Le plus grand problème se
posera pour des pays comme le Bangladesh, le Nigeria ou le Vietnam, dont
l’économie repose sur une force de travail bon marché. Car avec la révolution
technologique, on pourra faire revenir les usines en Californie et en France.
Avec les imprimantes 3D, on fabriquera les tee-shirts pour beaucoup moins cher
à New York qu’au Bangladesh. Les codes informatiques vont remplacer les
ouvriers du textile.
Il existe un paradoxe israélien. Le pays est au sommet
de l’innovation mais, en même temps, il semble s’avancer vers un tribalisme
sans précédent. Pourquoi ?
Ce n’est pas un paradoxe. On sait, grâce à l’histoire, que le fanatisme
religieux, le nationalisme et le tribalisme peuvent coexister avec les innovations
technologiques. Il est courant de mettre les technologies les plus avancées au
service d’idées mythologiques et de passions tribales. Ce qui rend en partie
Israël si innovant est son sentiment de crise existentielle permanente – cette
idée que, si on n’innove plus, on sera détruit. Ce processus renforce aussi les
sentiments tribaux. Prenons l’intelligence artificielle. L’un des laboratoires
les plus importants, dans le domaine de la formation d’une dictature numérique,
se trouve en Cisjordanie occupée. Là, se rencontrent les pires aspects du
tribalisme israélien et juif – le fanatisme religieux – et les technologies les
plus avancées. Comment contrôler de façon efficace, une population de
2,5 millions de personnes en utilisant l’intelligence artificielle, le big
data, les drones et les caméras ? Israël est leader en matière de
surveillance : le pays fait des expériences puis les exporte dans le monde
entier. Ce que vivent les Palestiniens
en Cisjordanie est peut-être le préambule de ce que vivront des milliards de
personnes dans le monde : on sera constamment sous l’œil d’un régime de
surveillance extrême. En Cisjordanie, on peut déjà difficilement passer un coup
de fil, se retrouver entre amis, aller d’Hébron à Ramallah, sans être filmé et
repéré. Toutes ces données sont intégrées dans des flux, des algorithmes, des
ordinateurs dits intelligents qui possèdent d’innombrables informations sur
vous et déterminent des modèles. On apprend à reconnaître des schémas types de
comportement humain. Pas besoin d’attendre que quelqu’un écrive sur
Facebook : « Je veux tuer un Israélien. » C’est l’une des
raisons pour lesquelles l’occupation israélienne est si sophistiquée et
efficace. On a besoin de beaucoup moins de soldats sur le terrain. Il y a un
aspect positif : on peut lutter plus facilement contre le terrorisme et
éviter la brutalité extrême que représente un flot de soldats déployés sur le
territoire. Mais il y a aussi un aspect négatif : les Israéliens
développent des méthodes de plus en plus complexes pour contrôler des millions
de personnes, puis les exportent dans le monde entier. Toutes sortes de régimes
savent qu’Israël est en pointe dans ce domaine.
Aucun commentaire:
Enregistrer un commentaire