Digi, nano, bio, neuro - ou pourquoi les technologies convergentes devraient nous préoccuper

- EN- DE- FR - IT
Dirk Helbing s’attend à ce que les technologies numériques pénètrent de plus en plus profondément dans le corps humain à l’avenir. Il estime toutefois que la société est mal armée pour faire face aux risques. Pour protéger nos données les plus intimes contre les abus, il propose un nouveau cadre juridique.

Dans mes recherches, je m’intéresse aux conséquences de la numérisation pour l’homme, la société et la démocratie. Il faut également tenir compte de la convergence entre les sciences informatiques et les sciences de la vie, c’est-à-dire de ce qui devient possible lorsque les technologies numériques convergent de plus en plus avec la biotechnologie, la neurotechnologie et la nanotechnologie.

Les technologies convergentes sont considérées comme le terreau d’innovations profondes. Mais elles font de plus en plus disparaître les frontières entre les mondes physique, biologique et numérique. Les réglementations traditionnelles spécifiques à chaque domaine deviennent alors inefficaces.

Dans une étude call_made réalisée en commun sur un site externe, mon co-auteur Marcello Ienca et moi-même avons récemment examiné les risques et les défis sociétaux de la convergence technologique - et conclu que les conséquences pour les individus et la société sont radicales.

Il nous tient à c½ur d’attirer l’attention sur ces défis et risques des technologies convergentes et d’expliquer pourquoi nous estimons qu’il est nécessaire d’accompagner les développements technologiques d’une réglementation forte au niveau international.

Dirk Helbing est professeur de Computational Social Science au Département des sciences humaines, sociales et politiques et associé au Département d’informatique de l’ETH Zurich.

Nous pouvons observer depuis quelques années, avec la numérisation, les conséquences de l’abandon incontrôlé du changement technologique aux forces du marché.

Fausse information et manipulation sur le web

En 2015, il y a presque 10 ans, le Manifeste numérique a été publié1 L’un d’entre nous, ainsi que huit autres experts européens, mettaient alors en garde contre le scoring, c’est-à-dire l’évaluation des personnes, et le big nudging2, une forme subtile de manipulation numérique. Cette dernière repose sur des profils de personnalité établis à l’aide de cookies et d’autres données de surveillance. Peu de temps après, le scandale Cambridge Analytica a montré au monde comment la société d’analyse de données tentait d’influencer le vote lors d’élections démocratiques au moyen de publicités personnalisées (micro-targeting).

Entre-temps, les démocraties du monde entier sont sous pression. La propagande, les fausses nouvelles et les discours de haine polarisent et sèment le doute, tandis que la vie privée s’étiole. Nous nous trouvons dans une sorte de guerre de l’information pour nos têtes, dans laquelle les entreprises publicitaires, les groupes technologiques, les services secrets et les militaires se disputent l’influence sur notre pensée et notre comportement. Pendant ce temps, l’AI Act de l’Union européenne, qui vient d’être adopté, tente de maîtriser les dangers évoqués précédemment.

Mais les technologies numériques évoluent rapidement et de nouvelles possibilités de manipulation se dessinent déjà. En effet, lorsque les technologies numériques et nanotechnologiques se combinent avec les biotechnologies et neurotechnologies modernes, des applications révolutionnaires, à peine imaginables auparavant, deviennent possibles.

Des microrobots pour la médecine de précision

Par exemple dans la médecine personnalisée : la miniaturisation progressive de l’électronique permet de plus en plus d’exploiter les organismes vivants et les êtres humains avec des capteurs et une puissance de calcul en réseau. Le WEF a déjà proclamé l’"Internet des corps" en 2020. 3,4x

Les pilules numériques, qui combinent les médicaments traditionnels avec une fonction de surveillance, en sont un exemple. Elles pourraient contrôler la médication et enregistrer les données physiologiques des patients (voir cet article de blog).

Les spécialistes s’attendent à ce que la technologie des capteurs atteigne tôt ou tard l’échelle nanométrique. Des nanoparticules magnétiques ou des composants nanoélectroniques d’un diamètre allant jusqu’à 100 nanomètres permettraient de transporter des substances actives, d’interagir avec les cellules et de saisir de grandes quantités de données sur les fonctions corporelles. On pourrait ainsi détecter les maladies à un stade précoce et les traiter de manière personnalisée, espère-t-on. On parle aussi souvent de médecine de précision (High Precision Medicine).

Des nano-électrodes saisissent les fonctions cérébrales

Des électrodes miniaturisées capables de mesurer et de manipuler simultanément l’activité de milliers de neurones ainsi que des outils d’IA toujours plus performants pour l’analyse des signaux cérébraux sont deux approches qui conduisent actuellement à des progrès très discutés dans l’interface cerveau-ordinateur. Grâce à la nano-neurotechnologie, l’idée est que le smartphone et d’autres applications d’IA pourraient peut-être bientôt être commandés directement par la pensée.

"Bien avant que la médecine de précision et la neurotechnologie ne fonctionnent de manière fiable, ces technologies seront déjà utilisables contre les humains".


Les grands projets de cartographie du cerveau humain devraient également en profiter.5 A l’avenir, la cartographie de l’activité cérébrale pourrait en principe lire nos pensées et nos sentiments, mais aussi les influencer de l’extérieur - ce dernier point étant probablement bien plus efficace que les méthodes de manipulation utilisées jusqu’à présent, comme le Big Nudging.

Les électrodes classiques ne sont toutefois pas adaptées à une connexion durable entre les cellules et l’électronique - il faut pour cela des interfaces durables et biocompatibles. Une proposition consiste donc à transmettre des signaux par optogénétique, c’est-à-dire à commander des gènes dans des cellules spéciales à l’aide d’impulsions lumineuses.6 Il serait ainsi possible d’implémenter des circuits étonnants (voir ETH-News "Commander des gènes par la pensée").

Le revers de la médaille de la convergence

Il faut bien l’avouer : Les applications citées peuvent paraître futuristes. Pour l’instant, il s’agit surtout de visions ou de premiers stades de développement. Mais les recherches se poursuivent à un rythme soutenu dans le monde entier. Les milieux militaires sont également intéressés par l’utilisation de technologies convergentes à leurs fins.7, 8

Le revers de la médaille de la convergence, ce sont des risques considérables, par exemple que des acteurs étatiques ou privés accèdent à des données hautement sensibles et les utilisent de manière abusive pour surveiller et influencer les gens. Plus nos corps sont connectés, plus nous sommes vulnérables à la cybercriminalité et au piratage. Il n’est en outre pas exclu que des applications militaires existent déjà.7 Mais une chose est sûre : bien avant que la médecine de précision et la neurotechnologie ne fonctionnent de manière fiable, ces technologies seront déjà utilisables contre les humains.

"Il faut une véritable autodétermination informationnelle - il faudrait que nous reprenions le contrôle de nos données personnelles".


Le problème : les cadres réglementaires spécifiques actuels ne suffisent pas à contenir la convergence technologique. Comment pouvons-nous garder le contrôle de notre vie s’il est de plus en plus possible d’influencer nos pensées, nos sentiments et nos décisions par des moyens numériques ?

La convergence exige un contrôle convergent

Dans notre récent document, nous concluons que les technologies convergentes nécessitent une réglementation internationale tout aussi convergente. Nous esquissons un nouveau cadre juridique mondial et proposons dix principes de gouvernance pour combler le vide réglementaire qui menace.9#

Notre cadre souligne la nécessité de mesures de protection pour préserver les fonctions corporelles et mentales de toute intervention non autorisée et pour garantir l’intégrité personnelle et la vie privée, par exemple grâce aux droits neurologiques.

Afin de réduire les risques et de prévenir les abus, les futures réglementations devraient être inclusives, transparentes et dignes de confiance. Le principe de la gouvernance participative, qui implique tous les groupes pertinents et garantit que les préoccupations des minorités concernées sont également prises en compte dans les processus de décision, est essentiel.

Enfin, une véritable autodétermination informationnelle est nécessaire - nous devrions reprendre le contrôle de nos données personnelles. Cela vaut également pour les jumeaux numériques de notre corps et de notre personnalité. Car elles permettent de pirater notre santé et notre pensée - pour le meilleur et pour le pire.10.

Par notre contribution, nous souhaitons lancer un débat public sur les technologies convergentes. Car malgré sa grande pertinence, le sujet est à notre avis trop peu abordé. Un discours continu sur les avantages, les risques et les règles judicieuses peut aider à orienter la convergence technologique de manière à ce qu’elle serve les gens et ne leur nuise pas.

Dirk Helbing a rédigé cet article en collaboration avec le site externe Marcello Ienca call_made ,qui a travaillé à l’ETH Zurich et à l’EPFL et est désormais professeur assistant d’éthique de l’IA et des neurosciences à l’Université technique de Munich.
Prof. Dirk Helbing