/image%2F2066079%2F20160529%2Fob_ced6cc_homme.JPG)
/image%2F2066079%2F20260307%2Fob_69f9b6_cybernetique.jpg)
Suite du dossier sur les analyses de prospective de Harari : Pourquoi la technologie favorise-t-elle la tyrannie ?
Dans les démocraties libérales traditionnelles, les travailleurs, même exploités, restaient centraux dans la production. Cette place leur conférait un important pouvoir politique : ils pouvaient paralyser la production pour engager un rapport de force. En écartant les travailleurs moins qualifiés de la production, l’automatisation du travail les prive du même coup de levier politique. S’ensuit « un sentiment croissant d’obsolescence » — et une réelle perte de pouvoir politique. Car, souligne l’auteur, « il est beaucoup plus difficile de lutter contre l’inutilité que l’exploitation ».
Harari met en garde contre l’avènement des « dictatures numériques », fondées sur le contrôle et la surveillance numérique. Mais il avance aussi un argument moins classique et plus intéressant : l’IA rend de nouveau compétitif et potentiellement désirable un système fortement centralisé comme le voulurent les application politiques de la cybernétique au milieu du XXeme siècle.
Selon Harari, la différence entre le totalitarisme et la démocratie est « une différence entre deux systèmes d’information » : centralisé pour le totalitarisme, décentralisé pour la démocratie libérale. Ce dernier s'est révélé plus compétitif au 20e siècle, mais l’IA change la donne. Elle offre la possibilité d'un système centralisé extrêmement performant : elle permet de collecter, concentrer et p en un seul système d’énormes quantités d’information. Elle pourrait même, estime Harari, favoriser les systèmes centralisés puisque l’apprentissage machine a besoin de grandes quantités de données pour s'améliorer, quantités qui sont obtenues par des systèmes centralisés.
C’est ainsi que l’IA pourrait favoriser de nouveau les totalitarismes : « Ce qui était le principal handicap des régimes autoritaires du 20e siècle — le désir de concentrer à un seul endroit toute l’information et le pouvoir — pourrait bien devenir leur avantage décisif au 21e siècle. »
Face à ces sombres perspectives, Harari prône la lutte pour la décentralisation des données : « Si la perspective de vivre dans une dictature numérique ou tout autre forme dégradée de société vous inquiète, ce que vous pouvez faire de plus important est de trouver des moyens de s’assurer que des quantités trop importantes de données ne restent pas concentrées entre quelques mains, et de s’assurer que le traitement décentralisé des données reste plus efficace que le traitement centralisé. Ce ne sont pas là des tâches faciles. Mais c’est en les accomplissant que nous préserverons au mieux la démocratie. »