Algorithmes, Big Data, Intelligence Artificielle, ChatGPT, autant de termes, de services et de logiciels qui, derrière un vocable technique, ont néanmoins colonisé nos vies quotidiennes. Omniprésents derrière nos écrans, mines d’or informationnelles et économiques, les données que nous produisons désormais en permanence sont devenues un enjeu désormais central au sein de nos sociétés hyperconnectées. Ingénieur et consultant, Arthur Grimonpont vient de publier l’ouvrage Algocratie. Vivre libre à l’heure de algorithmes (Actes Sud, 2022) dans lequel il décrypte la révolution numérique, géographique et finalement très politique qui se joue aujourd’hui sous nos yeux. Un entretien déjà indispensable.

 

 

Les termes d’algorithmes et d’Intelligence Artificielle sont désormais omniprésents dans le débat public comme scientifique. Que désignent-ils réellement ?

 

Bien qu’omniprésents dans le débat public et dans nos vies quotidiennes, ces termes conservent une consonance technique pour le public non-averti. Pourtant, il n’y a aucun besoin de savoir coder, ni même d’avoir la moindre connaissance technique de ce que sont les algorithmes, pour comprendre ce qu’ils font.

Un algorithme est simplement une suite de tâches logiques ordonnée en vue d’atteindre un objectif. On donne souvent l’exemple d’une recette de cuisine : pour obtenir un gâteau, réunir tels ingrédients, les mélanger de telle façon, les cuire à telle température, etc. L’intelligence artificielle (IA) correspond, au sens large, aux algorithmes dotés de facultés d’apprentissage. Pour filer la métaphore culinaire,  l’IA « apprendrait » du goût de ses utilisateurs et ajusterait en conséquence les quantités d’ingrédients et le temps de cuisson.

Les algorithmes et les IA sont aussi variés que les objectifs pour lesquels ils sont conçus. Nous interagissons quotidiennement avec des milliers d’algorithmes et, de plus en plus souvent, avec des intelligences artificielles. Les IA ayant récemment acquis le plus de visibilité médiatique, dont Dall-E et ChatGPT, ne sont pas (encore ?) celles dont l’impact sur nos sociétés est le plus important. BlackRock – le premier gestionnaire d’actifs financiers du monde – utilise par exemple une IA baptisée Aladdin pour placer la fortune de ses investisseurs. Capable d’évaluer des risques financiers mieux que n’importe quel groupe de traders, Aladdin a contrôlé jusqu’à 20 000 milliards d’actifs financiers, soit 10 % du marché obligataire mondial (un montant équivalent au PIB des États-Unis). Ces montants sont tels que si Aladdin venait tout à coup à changer de stratégie d’investissement, cela pourrait pousser à la faillite des milliers d’entreprises, déclencher une crise financière mondiale voire mettre en péril l’accès à des biens de première nécessité pour des populations entières.

Sur les réseaux sociaux, la moitié de l’humanité consulte des contenus directement sélectionnés par une IA de recommandation à raison de plus de deux heures et trente minutes par jour. Ces algorithmes construisent les fils d’actualités et suggèrent des vidéos à regarder à plus de quatre milliards d’humains, en sélectionnant les contenus ayant les meilleures chances de retenir notre attention.

Comme le montrent ces exemples, plusieurs IA ont un impact déterminant dans l’organisation de nos sociétés. De le même manière qu’il est inutile de comprendre le fonctionnement d’un moteur pour comprendre l’utilité des voitures, se questionner sur leur usage et édicter un code de la route, il est inutile de comprendre en détail le fonctionnement d’un algorithme pour observer et critiquer ses usages.

 

Quand, comment et pourquoi les données numériques que nous générons sont devenues une ressource à ce point fondamentale ?

 

Certaines IA ont récemment réalisé des progrès spectaculaires dans de nombreux domaines, au point de déjouer les pronostics de la majorité des spécialistes. Il s’agit des réseaux de neurones artificiels, qui imitent très schématiquement le fonctionnement des neurones humains. Ces algorithmes sont à la base de toutes les IA les plus performantes, qu’il s’agisse de générer du langage, de recommander des contenus ou d’identifier le contenu d’une images.

La performance de ces IA est une fonction croissante de la quantité de données sur lesquelles elles sont entraînées. Par exemple, chaque génération de GPT voit ses performances augmenter à raison d’un facteur 3 à 10, pour atteindre 45 gigaoctets avec GPT-4, ce qui correspond grossièrement à deux fois l’intégralité du texte de Wikipedia en anglais, ou encore à 100 000 livres de 400 pages.

Sur les réseaux sociaux, les IA de recommandation ont pour objectif de prédire le contenu qui a le plus de chances de retenir l’attention d’un utilisateur donné à un instant donné. Ce sont des machines à extraire notre attention pour le convertir en revenus publicitaires. Ces machines tournent au carburant de nos données personnelles. Chaque bribe d’information récoltée sur nous, en particulier toutes les données concernant nos précédentes interactions avec d’autres contenus, sont autant d’indices utiles à l’IA de recommandation pour cerner nos failles psychologiques et améliorer le ciblage publicitaire.

 

Dans votre récent ouvrage Algocratie. Vivre libre à l’heure des algorithmes (Actes Sud, 2022), vous analysez comment les nouvelles technologies de l’information ont profondément modifié notre rapport au monde et aux autres. Est-il encore possible de faire société, alors que la multitude d’algorithmes qui nous entourent travaille au contraire à nous enfermer dans une bulle informationnelle ?

 

Les IA de recommandation poursuivent l’intérêt économique de leurs propriétaires. Pour les principaux médias sociaux (YouTube, Facebook, Instagram, TikTok, etc.), cet intérêt réside dans la prédation de notre vie sociale et culturelle à des fins commerciales. Les IA de recommandation ont donc pour principal objectif de nous rendre addicts à ces plateformes, et elles poursuivent cet objectif avec une efficacité hors-du-commun. Rien que sur YouTube, 120 000 ans de vidéos sont regardées chaque jour par l’humanité. C’est ce qu’on nomme l’ « économie de l’attention ».

Naturellement, l’addiction aux plateformes s’accompagne de toute la cohorte d’effets indésirables classiquement associée à tout phénomène d’addiction, avec des conséquences particulièrement néfastes chez le plus jeunes.

Mais les conséquences les plus graves de l’économie de l’attention se situent à l’échelle collective. Les bulles informationnelles naissent par exemple de l’exploitation méthodique de notre biais de confirmation : nous avons tendance à préférer consulter des informations qui confirment notre opinion initiale. Les IA nous enferment donc des microcosmes numériques parallèles depuis lesquels nous n’accédons qu’à un angle de vue donné sur un nombre très restreint de sujets. C’est la négation de la démarche scientifique mais aussi du débat public, pourtant essentiel au contrat social. A l’échelle de la société, ces bulles informationnelles érodent le socle de connaissances et de croyances que nous avons en commun.

Les bulles informationnelles ne sont que l’une des nombreuses conséquences néfastes de l’économie de l’attention sur le paysage de l’information.

 

Vous consacrez plusieurs passages de votre ouvrage aux conséquences économiques, politiques et éthiques induite par la géolocalisation de nos matériels électroniques. Qu’est-ce qui se joue derrière ce que certains observateurs considèrent comme un traçage généralisé ?

Les données de localisation sont l’un des nombreux types de données sur lesquelles les plateformes s’appuient pour marchandiser notre existence. Dans l’imaginaire collectif, nous serions les clients des plateformes sociales et l’information, au sens large, serait leur produit. Mais il est essentiel de comprendre qu’au sens littéral, nous sommes les produits des plateformes sociales tandis que leurs seuls véritables clients sont les annonceurs publicitaires. Les plateformes font commerce de notre temps de cerveau disponible et de leur intime connaissance de qui nous sommes.

 

Etats-Unis, Chine, Inde… une course à l’innovation bat aujourd’hui son plein. La capacité des pays à maîtriser les enjeux technologiques peut-il à terme modifier les équilibres politiques et géopolitiques mondiaux ?

 

Il existe deux grandes manières dont les États réagissent aujourd’hui face aux géants du numérique. Aux États-Unis, en Europe et dans la plupart des pays du monde, les dirigeants politiques n’ont pas pleinement pris la mesure du danger que constituent ces plateformes pour la santé mentale de leur population et la démocratie. Les réseaux sociaux leurs sont par ailleurs devenus indispensables pour espérer remporter les élections : les algorithmes de recommandation sont devenus la première porte d’accès à l’information.

De l’autre côté du monde, en Chine et, dans une moindre mesure, en Russie et en Inde, les plateformes sociales sont sévèrement régulées par le gouvernement, qui exerce un contrôle resserré sur les flux d’information. En Chine, toutes les plateformes occidentales sont bannies, y compris TikTok, pourtant propriété de la société chinoise ByteDance. Le Parti communiste a une connaissance aiguë de ce que constituent ces médias sociaux non seulement pour le grand récit national, mais aussi pour la santé mentale et la cohésion nationale.

De part et d’autre de la grande muraille numérique, les trajectoires politiques sont antagonistes. Les « démocraties occidentales » sont considérablement affaiblies par la défiance de leurs habitants dans les médias, dans leurs institutions et dans leurs représentants politiques. À l’inverse, en Chine, toutes les données disponibles laissent entrevoir une cohésion nationale croissante et une confiance accrue dans le gouvernement. Aucune de des deux trajectoires ne semble bien sûr satisfaisante du point de vue démocratique : il faut construire une troisième voie : celle d’un contrôle décentralisé et démocratique des infrastructures numériques et des principaux flux d’information.

 

Dans la dernière partie de votre ouvrage, vous appelez à l’instauration d’une « algo-démocratie ». Qu’entendez-vous par ce terme ?

 

Les principaux médias sociaux sont des régimes autoritaires avec des autocrates à leur tête. Leurs plateformes sont de facto devenues des places de village planétaires, comme le pronostiquait le philosophe des médias Marshall McLuhan bien avant l’avènement d’Internet. Il est anormal que des infrastructures d’intérêt public soient entièrement régies et organisées pour satisfaire des intérêts privés, à plus forte raison lorsque ceux-ci sapent notre capacité à faire société. La simple idée qu’un individu isolé puisse décréter du jour au lendemain de nouvelles règles s’imposant aux plus grandes places publiques de l’humanité devrait nous paraître révoltante.

L’algo-démocratie consiste à reconnaître l’omnipotence des algorithmes dans nos sociétés et à subordonner leurs objectifs à notre intérêt collectif, défini démocratiquement.

 

---

 

Algocratie. Vivre libre à l’heure des algorithmes