Grandes signatures article Yuval Noah Harari 1

Yuval Noah Harari : « On pourra bientôt pirater les êtres humains » Par Piotr Smolar  Publié le 19 septembre 2018

https://www.lemonde.fr/long-format/article/2018/09/19/yuval-noah-harari-on-dispose-des-technologies-pour-pirater-les-etres-humains_5357058_5345421.html

Entretien. Après le best-seller Sapiens, Une brève histoire de l’humanité, l’universitaire israélien publie, le 2 octobre, 21 leçons pour le XXIe siècle.

Spécialiste de l’histoire militaire et médiévale, Yuval Noah Harari, 42 ans, est maître de conférences à l’Université hébraïque de Jérusalem. Dans son dernier ouvrage, 21 leçons pour le XXI^e siècle, l’historien met en garde : l’homme pourra bientôt être piraté comme une machine. Il revient sur la crise écologique, la fragilité des démocraties libérales, les « fake news », le big data et l’intelligence artificielle pour en expliquer les enjeux à long terme.

Dans votre nouveau livre, « 21 leçons pour le XXI^e siècle », vous écrivez que nous avons deux défis devant nous : la disruption technologique et la crise écologique. Le nationalisme, qui semble avoir le vent en poupe, a-t-il des réponses à ces deux défis ?

Yuval Noah Harari : Sur le long terme, le nationalisme a été une force de bien. Il a permis à des peuples de collaborer comme jamais auparavant. Pendant près de deux cents ans, c’est en grande partie grâce au sentiment national que les gens étaient prêts à payer pour leur protection sociale et l’Etat providence. Mais le nationalisme a aussi de mauvais côtés : la xénophobie, qui conduit à la guerre. Aujourd’hui, il ne fera qu’aggraver les choses. Le nationalisme n’a pas de réponses à apporter aux problèmes globaux. Sans surprise, ce sont surtout des gens issus de la droite nationaliste qui nient le changement climatique. La vision du monde au cœur de la vague nationaliste actuelle, de Viktor Orban à Steve Bannon en passant par Marine Le Pen, se résume à un réseau de forteresses bloquant l’immigration et imposant des taxes sur les produits étrangers – des forteresses protégeant de la guerre, des ennemis, du multiculturalisme. Mais personne ne peut construire un mur contre l’intelligence artificielle ou contre le changement climatique. On ne peut pas répondre à ces enjeux sur le seul plan national. Quand bien même le gouvernement français réduirait à zéro ses émissions de gaz à effet de serre, quand bien même il deviendrait le meilleur élève en matière écologique dans le monde, cela ne servirait à rien sans coopération internationale. Elle sera indispensable si on veut parvenir à réguler l’intelligence artificielle et la biotechnologie. Sans elle, non seulement il deviendra impossible d’arrêter leur développement mais on sera tenté d’abandonner nos propres règles. Si, par exemple, la Chine ou la Russie acquièrent des robots armés, ce sera le début d’une course à l’armement. Il y a cinq ans, personne, à part peut-être la Chine, ne comprenait le potentiel de l’intelligence artificielle, qui pourrait pourtant conduire à la disparition de l’humanité.

Vous expliquez que la crise de la démocratie libérale n’est pas seulement une affaire d’institutions et de processus électoraux, mais qu’elle prend racine dans le cerveau. Que voulez-vous dire ?

La démocratie libérale part du principe que notre cerveau est une boîte noire qui est remplie de nos désirs et de nos pensées et à laquelle nous seuls avons accès. C’est un régime qui postule que l’électeur sait ce qu’il fait. On décide du Brexit parce qu’on accorde la plus haute valeur au sentiment de l’électeur britannique. Et personne ne conteste la véracité de ce sentiment. Or, la crise actuelle naît du fait qu’on dispose des technologies pour pirater les êtres humains, et pas seulement les portables ou les ordinateurs. La révolution, c’est qu’on peut comprendre vos désirs, vos sentiments, vos pensées, et vous contrôler. Les « fake news » n’ont rien de nouveau, mais maintenant on peut en nourrir les individus en les ciblant. Si quelqu’un hait les migrants, on lui montre une histoire de migrants violant des Françaises, il va facilement y croire, même si elle n’est pas vraie. Les fausses nouvelles sont fabriquées pour provoquer un effondrement du discours public, pour emmener les gens vers les extrêmes. Sur la question de l’accueil des migrants, il existe des arguments solides du côté de ceux qui défendent l’accueil comme de ceux qui lui sont hostiles – la démocratie libérale repose précisément sur la possibilité de cette discussion. Mais ce qu’on voit aujourd’hui, c’est une lutte manichéenne entre le « Bien » ultime et le « Mal » ultime, parce que des groupes – des partis, des agents étrangers ou des entreprises – agissent dans ce sens.

Comment sortir de ce piège ?

L’intelligence artificielle et le big data sont, certes, utilisés par les entreprises afin de mieux comprendre les gens et les manipuler. Mais on peut employer les mêmes technologies pour permettre aux gens de mieux se comprendre et de développer leur immunité. On est aujourd’hui vulnérable car on ne réalise pas notre faiblesse. C’est pourquoi il faut commencer par abandonner l’illusion du libre arbitre total : ce qu’on pense et ressent dépend de processus internes de notre corps et de notre cerveau dont on ne sait rien et qu’on ne contrôle pas. Ce qu’on croit être nos sentiments les plus authentiques pourrait être le résultat de manipulations extérieures. On ne peut se faire confiance. On a eu comme mantra au XX^e siècle : « Fais-toi confiance, suis ton cœur. » Mais votre cœur peut être un agent russe ! Ça ne veut pas dire qu’on ne peut faire confiance à personne. Mais nous devons réaliser que nous sommes vulnérables à la manipulation.

Qui doit contrôler les bases de données ? L’Etat ou les entreprises ?

C’est un choix entre deux maux. Si le gouvernement est démocratique et dispose de tous les contre-pouvoirs requis, mieux vaut lui que les entreprises. Mais si le gouvernement sait tout de vous, on glisse vite vers la dictature numérique. Avant même que la simple idée de lui résister germe en vous, le gouvernement sera déjà au courant. Les données deviennent si importantes que celui qui les contrôle représente le vrai gouvernement. Si Amazon maîtrisait toutes nos transactions et nos dossiers médicaux, il serait le gouvernement. Faut-il fractionner la propriété des données ? C’est difficile de répondre en raison du manque d’expérience dans la régulation de ce domaine. On sait comment faire avec un terrain. Il y a un périmètre, une clôture, une entrée : on peut décider qui entre et sort. Mais il peut y avoir des millions de copies de mon dossier médical. Les données sont partout et nulle part.

Vous évoquez dans votre livre la question de l’éducation. A quoi doit servir l’école ? A préparer les jeunes à des métiers qu’on ne connaît pas encore, ou à devenir des citoyens ?

Personne ne sait ce que seront les emplois dans trente ans. C’est une perte de temps et de ressources que de prétendre y préparer les jeunes. Le meilleur pari à faire est d’apprendre aux enfants à changer. Les individus devront se réinventer plusieurs fois dans leur vie – l’espérance de vie est plus longue qu’autrefois, le marché de l’emploi plus volatil. La plupart des métiers routiniers, pas nécessairement physiques, seront appelés à disparaître. Le travail d’infirmière, qui réclame beaucoup de compétences manuelles, comme les piqûres aux enfants ou le changement de pansements, me paraît moins menacé que celui de médecin, qui analyse les données, compare avec des antécédents, cherche un modèle. C’est exactement ce que fera, en bien mieux, l’intelligence artificielle.  Quant aux nouveaux emplois, eux aussi changeront constamment. L’intelligence artificielle entraînera une cascade de révolutions de plus en plus puissantes. Tous les cinq ou dix ans, il y aura un nouveau bouleversement. Cela signifie que le problème numéro un sera de se réinventer – réinventer non seulement son identité professionnelle mais aussi son identité profonde. Dans quinze ans, un routier de 50 ans qui perdra son emploi aura peut-être la possibilité de devenir designer de mondes virtuels, même s’il n’avait pas les compétences nécessaires à l’origine. La philosophie de l’éducation traditionnelle repose sur la construction d’une identité stable, avec des compétences qui serviront tout au long de la vie. Tout au contraire, il faut penser qu’on ne quittera plus le système éducatif. Avant, on construisait des personnalités qui étaient des maisons de pierres. Demain, il faudra que ces personnalités soient des tentes.

Vous utilisez une expression brutale, celle de « classe inutile », à propos des millions de personnes appelées à perdre leur emploi « traditionnel ». Faut-il les former à autre chose, ou bien ne plus organiser la société autour du travail rémunéré ?

On doit faire un effort pour que les gens puissent se former et se réinventer – et une grande partie de cet effort doit venir de l’Etat. Aux XIX^e et XX^e siècles, il a construit un système d’éducation qui n’avait jamais existé auparavant. Maintenant, il faut un système de rééducation – mais pas au sens des camps de travail chinois ! Cela réclame du temps et du soutien public, avec de nouveaux revenus tirés d’une imposition sur les robots et les voitures sans conducteur dont s’acquitteraient les grandes entreprises. Mais il se peut que les barrières psychologiques soient plus hautes que celles de l’économie. Beaucoup de gens ne pourront se réinventer. Il faut donc accepter le fait que de plus en plus de personnes, qui vivront des dizaines d’années après la perte de leur emploi, seront là et qu’il faudra les aider financièrement. Que feront-elles de leur temps ? Pensons à ce qui est vraiment utile. Etre un père ou une mère, contribuer à sa communauté sont des activités non reconnues, et c’est regrettable. Le plus grand problème se posera pour des pays comme le Bangladesh, le Nigeria ou le Vietnam, dont l’économie repose sur une force de travail bon marché. Car avec la révolution technologique, on pourra faire revenir les usines en Californie et en France. Avec les imprimantes 3D, on fabriquera les tee-shirts pour beaucoup moins cher à New York qu’au Bangladesh. Les codes informatiques vont remplacer les ouvriers du textile.

Il existe un paradoxe israélien. Le pays est au sommet de l’innovation mais, en même temps, il semble s’avancer vers un tribalisme sans précédent. Pourquoi ?

Ce n’est pas un paradoxe. On sait, grâce à l’histoire, que le fanatisme religieux, le nationalisme et le tribalisme peuvent coexister avec les innovations technologiques. Il est courant de mettre les technologies les plus avancées au service d’idées mythologiques et de passions tribales. Ce qui rend en partie Israël si innovant est son sentiment de crise existentielle permanente – cette idée que, si on n’innove plus, on sera détruit. Ce processus renforce aussi les sentiments tribaux. Prenons l’intelligence artificielle. L’un des laboratoires les plus importants, dans le domaine de la formation d’une dictature numérique, se trouve en Cisjordanie occupée. Là, se rencontrent les pires aspects du tribalisme israélien et juif – le fanatisme religieux – et les technologies les plus avancées. Comment contrôler de façon efficace, une population de 2,5 millions de personnes en utilisant l’intelligence artificielle, le big data, les drones et les caméras ? Israël est leader en matière de surveillance : le pays fait des expériences puis les exporte dans le monde entier.  Ce que vivent les Palestiniens en Cisjordanie est peut-être le préambule de ce que vivront des milliards de personnes dans le monde : on sera constamment sous l’œil d’un régime de surveillance extrême. En Cisjordanie, on peut déjà difficilement passer un coup de fil, se retrouver entre amis, aller d’Hébron à Ramallah, sans être filmé et repéré. Toutes ces données sont intégrées dans des flux, des algorithmes, des ordinateurs dits intelligents qui possèdent d’innombrables informations sur vous et déterminent des modèles. On apprend à reconnaître des schémas types de comportement humain. Pas besoin d’attendre que quelqu’un écrive sur Facebook : « Je veux tuer un Israélien. » C’est l’une des raisons pour lesquelles l’occupation israélienne est si sophistiquée et efficace. On a besoin de beaucoup moins de soldats sur le terrain. Il y a un aspect positif : on peut lutter plus facilement contre le terrorisme et éviter la brutalité extrême que représente un flot de soldats déployés sur le territoire. Mais il y a aussi un aspect négatif : les Israéliens développent des méthodes de plus en plus complexes pour contrôler des millions de personnes, puis les exportent dans le monde entier. Toutes sortes de régimes savent qu’Israël est en pointe dans ce domaine.