COMMENT SURVIVRE AU 21ÈME SIÈCLE

Publié le par Résistance verte

 

Par l'historien Yuval Harari à Davos, Forum Économique Mondial, 2020 (extraits).

L'automatisation pourrait-elle créer une « classe inutile » ?

Ceux qui échouent dans la lutte contre l'inutilité constitueraient une nouvelle « classe inutile » - non pas des gens inutiles du point de vue de leurs amis et de leur famille, mais du point de vue du système économique et politique. Et cette classe inutile sera séparée de l'élite toujours plus puissante par un fossé lui aussi en constante croissance.

La révolution de l'AI pourrait créer des inégalités sans précédent non seulement entre les classes, mais aussi entre les pays.

Nous sommes déjà au milieu d'une course aux armements dans le secteur de l'IA, avec la Chine et les États-Unis en tête, et la plupart des pays largement à la traîne. Si nous ne prenons pas de mesures pour répartir les avantages et le pouvoir de l'IA entre tous les humains, l'intelligence artificielle créera probablement une immense richesse dans quelques pôles majeurs de haute technologie, tandis que d'autres pays feront faillite ou deviendront des colonies de données exploitées.

Il ne s'agit pas ici d'un scénario de science-fiction où des robots se rebellent contre les humains. Il s'agit d'une IA bien plus primitive, qui suffit néanmoins à perturber l'équilibre mondial.

Pensez par exemple à ce qui arrivera aux économies en développement lorsqu'il sera moins cher de produire du textile ou des voitures en Californie qu'au Mexique. Et qu'arrivera-t-il à la politique dans votre pays dans vingt ans, lorsqu’une personne à San Francisco ou à Pékin connaîtra les antécédents médicaux et personnels de chaque politicien, de chaque juge et de chaque journaliste de votre pays, y compris toutes leurs frasques sexuelles, leurs faiblesses mentales et leurs activités de corruption ? Sera-t-il toujours un pays indépendant ou deviendra-t-il une colonie de données ?
Lorsque vous avez suffisamment de données, vous n'avez pas besoin d'envoyer de soldats pour contrôler un pays.

Outre l'inégalité, l'autre grand danger auquel nous sommes confrontés est la montée des dictatures numériques, qui surveilleront tout le monde en permanence.

Si vous connaissez suffisamment la biologie et disposez d'une capacité de calcul et de données suffisantes, vous pouvez pirater mon corps, mon cerveau et ma vie, et vous pouvez me comprendre mieux que je ne me comprends moi-même. Vous pouvez connaître mon type de personnalité, mes opinions politiques, mes préférences sexuelles, mes faiblesses mentales, mes craintes et mes espoirs les plus profonds. Vous en savez plus sur moi que je n'en sais sur moi-même. Et si vous pouvez me faire cela, vous pouvez le faire à tout le monde.

Un système qui nous comprend mieux que nous ne nous comprenons nous-mêmes peut prédire nos sentiments et nos décisions, les manipuler et, en fin de compte, faire des choix à notre place.

Dans le passé, de nombreux gouvernements et tyrans voulaient obtenir ce système, mais personne ne comprenait assez bien la biologie ni ne possédait une capacité de calcul et de données suffisante pour pirater des millions de personnes. Ni la Gestapo ni le KGB n'y sont arrivés. Mais bientôt, au moins quelques entreprises et gouvernements seront en mesure de pirater le monde entier. Nous, les humains, devrions nous habituer à l'idée que nous ne sommes plus des âmes mystérieuses, mais des animaux piratables. C'est la réalité.

Le pouvoir de pirater les êtres humains peut être utilisé à des fins louables, par exemple pour améliorer les soins de santé. Mais si ce pouvoir tombe entre les mains d'un Staline du 21ème siècle, il en résultera le pire régime totalitaire de l'histoire de l'humanité. Et un certain nombre de candidats peut déjà prétendre au poste de Staline du 21ème siècle.

Imaginez la Corée du Nord dans vingt ans, quand tout le monde devra porter un bracelet biométrique surveillant en permanence votre pression sanguine, votre rythme cardiaque, votre activité cérébrale vingt-quatre heures sur vingt-quatre. Vous écoutez un discours du grand chef à la radio et ils savent ce que vous ressentez réellement. Vous pouvez applaudir et sourire, mais si vous êtes en colère, ils le sauront et vous serez au goulag le lendemain.

Et si nous permettons l'émergence de tels régimes de surveillance totale, n’allez pas croire que les riches et les puissants dans des endroits tels que Davos seront en sécurité, demandez à Jeff Bezos. Dans l'URSS de Staline, l'État surveillait les membres de l'élite communiste plus que quiconque. Il en sera de même pour les futurs régimes de surveillance totale. Plus vous serez haut placé dans la hiérarchie, plus vous serez surveillé de près.

Avez-vous envie que votre PDG ou votre président sache ce que vous pensez vraiment d'eux ?

Il est donc dans l'intérêt de tous les humains, y compris les élites, d'empêcher la montée de telles dictatures numériques. Et en attendant, si vous recevez un message suspect sur WhatsApp, d'un certain Prince, ne l'ouvrez pas.

À présent, si nous empêchons vraiment l'établissement de dictatures numériques, la capacité de pirater les humains pourrait quand même remettre en question le sens même de la liberté humaine. Parce qu'à mesure que nous nous appuierons sur l'IA pour prendre des décisions à notre place, l'autorité passera des humains aux algorithmes. Et cela a déjà commencé.

Aujourd'hui déjà, des milliards de personnes font confiance à l'algorithme de Facebook pour nous dire ce qui est nouveau, à celui de Google pour nous dire ce qui est vrai, à Netflix pour nous dire quoi regarder, et aux algorithmes d'Amazon et d'Alibaba pour nous dire quoi acheter.

Dans un avenir proche, des algorithmes du même type pourraient nous dire où travailler et qui épouser, et aussi décider ou non de nous engager pour un travail, de nous accorder un prêt et de demander à la banque centrale d'augmenter notre taux d'intérêt.

Et si vous demandez pourquoi on ne vous a pas accordé de prêt, et pourquoi la banque n'a pas augmenté le taux d'intérêt, la réponse sera toujours la même : parce que l'ordinateur a dit non. Le cerveau limité de l’Homme ne disposant pas de connaissances biologiques, de capacité de calcul et de données suffisantes, son propriétaire ne pourra tout simplement pas comprendre les décisions de l'ordinateur.

Ainsi, même dans les pays soi-disant libres, les humains risquent de perdre le contrôle de leur propre vie, ainsi que la capacité de comprendre les politiques publiques.

Combien de personnes aujourd'hui comprennent le système financier ? Peut-être un pour cent, pour être très généreux. D’ici quelques décennies, le nombre d'humains capables de comprendre le système financier sera exactement égal à zéro.

Aujourd'hui, nous sommes habitués à considérer la vie comme un théâtre de prises de décision. Quel sera le sens de la vie humaine, lorsque la plupart des décisions seront prises par des algorithmes ? Nous n'avons même pas de modèles philosophiques pour comprendre une telle existence.

La double révolution de l'infotechnologie et de la biotechnologie donne maintenant aux politiciens les moyens de créer le paradis ou l'enfer, mais les philosophes ont du mal à concevoir à quoi ressembleront le nouveau paradis et le nouvel enfer. Et c'est là une situation très dangereuse.

Si nous ne parvenons pas à conceptualiser ce nouveau paradis assez vite, nous pourrions facilement être induits en erreur par des utopies naïves. Et si nous ne parvenons pas à conceptualiser ce nouvel enfer assez vite, nous pourrions nous y retrouver piégés, sans aucune issue.

Enfin, la technologie pourrait non seulement perturber notre économie, notre politique et notre philosophie, mais aussi notre biologie.

Dans les décennies à venir, l'IA et la biotechnologie nous donneront des capacités divines pour repenser la vie, et même pour créer des formes de vie entièrement nouvelles. Après quatre milliards d'années de vie organique façonnée par la sélection naturelle, nous sommes sur le point d'entrer dans une nouvelle ère de vie inorganique façonnée par une conception intelligente.

Notre conception intelligente va être la nouvelle force motrice de l'évolution de la vie et à l’aide de nos nouveaux pouvoirs divins de création, nous pourrions commettre des erreurs à l'échelle cosmique. Plus particulièrement, les gouvernements, les entreprises et les armées sont susceptibles d'utiliser la technologie pour améliorer les compétences humaines dont ils ont besoin - comme l'intelligence et la discipline - tout en négligeant les autres compétences humaines - comme la compassion, la sensibilité artistique et la spiritualité.

0

Publié dans Contrôle numérique

Pour être informé des derniers articles, inscrivez vous :
Commenter cet article