Intelligence artificielle. Enjeux et perspectives pour les droits humains en Europe

L’homme continuera-t-il de dominer la machine ou s’asservira-t-il à l’objet qu’il a construit ?

Réalisé par l’Institut de la souveraineté numérique en partenariat avec l’institut iDFRights, ce rapport examine les défis sociaux et politiques nés de l’intégration de l’intelligence artificielle (IA) dans nos vies, appréhendée comme un « levier de remodelage des sociétés ». Mustafa Suleyman, cofondateur de la société DeepMind rachetée par Google, cité par le rapport, explique ainsi que « l’IA n’est pas une simple technologie de plus ; elle est bien plus profonde et plus puissante que cela. Le risque réside moins dans sa surmédiatisation que dans l’échec à mesurer l’ampleur de la vague à venir. L’IA n’est pas seulement un outil ou une plateforme, c’est une méta technologie transformatrice, la technologie derrière la technologie et tout le reste, elle-même productrice d’outils et de plateformes ; ce n’est pas seulement un système, c’est un générateur de systèmes de toutes natures ». La diversité des champs d’application de ces technologies basées sur le calcul n’a donc aucune limite et va « de la gestion de la consommation d’énergie au diagnostic précoce des pathologies, en passant par l’optimisation des processus industriels, le pilotage des véhicules autonomes, ou encore la conception d’armes intelligentes ».

En douze chapitres est soulignée l’urgence pour l’Europe de développer une stratégie industrielle et éthique autonome face à la domination des modèles américain, centré sur l’entreprise, et chinois, centré sur l’État, afin de préserver ses valeurs et sa souveraineté numérique.

Les auteurs établissent un panorama des écueils et des enjeux affectant les libertés fondamentales et la démocratie. Ils s’intéressent aux conséquences de l’usage de ces outils par les régimes autoritaires à des fins de contrôle politique des populations, lesquels, libérés des contraintes de la vie privée, utilisent l’IA pour la surveillance de masse et la répression, à l’instar de la Chine avec la mise en place du crédit social. Le rapport s’intéresse ainsi à l’usage des IA, en matière de données personnelles, de surveillance et de manipulation. Outre la captation massive des données des utilisateurs afin d’assurer un microciblage publicitaire, comme le fait Google, la nouveauté réside, selon Simon McCarthy-Jones, professeur de psychologie au Trinity College de Dublin, « dans leur capacité d’intrusion dans ce qui semblait inaccessible par les moyens traditionnels de la propagande : le fonctionnement même de la conscience humaine ». Il est d’autant plus important de considérer les défis portant sur l’éthique de l’IA que certains proposent de les ignorer. Pour le fantasque philosophe et transhumaniste Nick Bostrom, dont l’influence serait anecdotique s’il n’avait l’oreille des plus puissants libertariens de la Silicon Valley, d’Elon Musk à Peter Thiel en passant par Jeff Bezos, les régulations éthiques de l’IA doivent être écartées au profit d’un « futur intérêt supérieur » de l’espèce humaine qui justifierait, selon lui, la nécessité d’une surveillance mondiale totale pour « garantir l’atteinte de la destinée "multiplanétaire"de l’humanité ».

Les données de santé des Européens, moissonnées par les géants américains, constituent également un enjeu stratégique majeur pour l’entraînement des modèles d’IA, tout particulièrement en Europe du fait de la diversité de sa population. L’hyper-individualisation de la couverture santé, permise par l’analyse de données massives, menace « le modèle social fondé sur la solidarité et la mutualisation des risques au niveau de la société tout entière » en tendant vers une logique de contrôle systématisé des individus. En matière de souveraineté numérique et de compétition économique, « l’extraction des données à l’échelle mondiale par quelques entreprises ou gouvernements pourrait transformer le reste du globe en "colonies de données" », expliquent les auteurs, sans être toutefois en mesure de comprendre les implications des outils déployés à travers l’IA puisque « même les humains qui entraînent les réseaux profonds ne peuvent généralement pas regarder sous le capot et fournir des explications sur les décisions prises par leurs réseaux ».

Les actions de régulation et les politiques industrielles européennes doivent être coordonnées afin de permettre le développement d’acteurs européens capables de respecter les principes et les valeurs de l’Union européenne. La stratégie des vingt-sept proposée par l’ancien président de la Banque centrale européenne (BCE) et ancien Premier ministre italien, Mario Draghi, serait d’investir massivement, par la dette, « le champ des technologies stratégiques, en particulier le domaine de l’IA » et d’« instaurer une politique industrielle d’une ampleur inédite » en consentant à des « investissements "massifs et sans précédent" : entre 750 et 800 milliards d’euros par an, soit près de 5 % de son PIB ».

Intelligence artificielle. Enjeux et perspectives pour les droits humains en Europe, coordonné par Bernard Benhamou, secrétaire général de l’ISN, Institut de la souveraineté numérique – iDFRights, 2025.