Digi, nano, bio, neuro - o perché dovremmo preoccuparci delle tecnologie convergenti

Dirk Helbing prevede che in futuro le tecnologie digitali penetreranno sempre più profondamente nel corpo umano. Tuttavia, ritiene che la società non sia attrezzata per affrontare i rischi. Propone un nuovo quadro giuridico per proteggere i nostri dati più intimi dall’uso improprio.

Nella mia ricerca mi occupo delle conseguenze della digitalizzazione per le persone, la società e la democrazia. Nel farlo, dobbiamo anche tenere d’occhio la convergenza delle scienze informatiche e della vita - in altre parole, cosa diventa possibile quando le tecnologie digitali si fondono sempre più con la biotecnologia, la neurotecnologia e la nanotecnologia.

Le tecnologie convergenti sono considerate un terreno fertile per innovazioni di vasta portata. Tuttavia, esse rendono sempre più labili i confini tra mondo fisico, biologico e digitale. Di conseguenza, le normative specialistiche convenzionali stanno diventando inefficaci.

In uno studio esterno congiunto call_made, il mio coautore Marcello Ienca e io abbiamo recentemente analizzato i rischi e le sfide sociali della convergenza tecnologica, giungendo alla conclusione che le conseguenze per gli individui e la società sono di vasta portata.

Per noi è importante sottolineare queste sfide e questi rischi delle tecnologie convergenti e spiegare perché riteniamo necessario accompagnare gli sviluppi tecnologici a livello internazionale con una forte regolamentazione.

Dirk Helbing è professore di Scienze sociali computazionali presso il Dipartimento di Scienze umane, sociali e politiche e associato al Dipartimento di Informatica del Politecnico di Zurigo.

Già da qualche anno abbiamo potuto osservare le conseguenze di un cambiamento tecnologico lasciato alle forze di mercato in modo incontrollato nel caso della digitalizzazione.

Disinformazione e manipolazione sul web

Nel 2015, quasi 10 anni fa, è stato pubblicato il Digital Manifesto.¹ Uno di noi e altri otto esperti europei hanno lanciato un monito urgente sullo scoring, ovvero la valutazione delle persone, e sul big nudging², una sottile forma di manipolazione digitale. Quest’ultima si basa su profili di personalità creati utilizzando cookie e altri dati di sorveglianza. Poco tempo dopo, lo scandalo di Cambridge Analytica ha mostrato al mondo come la società di analisi dei dati abbia cercato di influenzare il comportamento di voto nelle elezioni democratiche utilizzando annunci personalizzati (microtargeting).

Le democrazie di tutto il mondo sono ora sotto pressione. Propaganda, fake news e discorsi d’odio polarizzano e seminano dubbi, mentre la privacy si sta riducendo. Siamo in una sorta di guerra dell’informazione per le nostre menti, in cui aziende pubblicitarie, società tecnologiche, agenzie di intelligence e militari si contendono l’influenza sui nostri pensieri e comportamenti. Nel frattempo, la legge sull’intelligenza artificiale recentemente adottata dall’Unione Europea tenta di arginare i pericoli sopra citati.

Tuttavia, le tecnologie digitali si stanno sviluppando rapidamente e stanno già emergendo nuove possibilità di manipolazione. Quando le tecnologie digitali e le nanotecnologie si fonderanno con le moderne biotecnologie e neurotecnologie, saranno possibili applicazioni rivoluzionarie che prima erano quasi inimmaginabili.

Microrobot per la medicina di precisione

Nella medicina personalizzata, ad esempio, la progressiva miniaturizzazione dell’elettronica rende sempre più possibile l’accesso agli organismi viventi e agli esseri umani con sensori e potenza di calcolo in rete. Il WEF ha proclamato l’"Internet dei corpi" già nel 2020. ^3,4

Un esempio è rappresentato dalle pillole digitali che combinano i farmaci tradizionali con una funzione di monitoraggio. Queste potrebbero controllare i farmaci e registrare i dati fisiologici del paziente (si veda questo post del blog).

Gli esperti prevedono che prima o poi la tecnologia dei sensori raggiungerà la scala nanometrica. Nanoparticelle magnetiche o componenti nanoelettronici con un diametro fino a 100 nanometri permetterebbero di trasportare sostanze attive, interagire con le cellule e registrare grandi quantità di dati sulle funzioni corporee. Si spera che ciò consenta di individuare precocemente le malattie e di curarle in modo personalizzato. Si parla spesso di medicina di alta precisione.

Inanoelettrodi registrano le funzioni cerebrali

Elettrodi miniaturizzati in grado di misurare e manipolare simultaneamente l’attività di migliaia di neuroni e strumenti di intelligenza artificiale in continuo miglioramento per l’analisi dei segnali cerebrali sono due approcci che attualmente stanno portando a progressi molto discussi nell’interfaccia cervello-computer. Grazie alle nano-neurotecnologie, l’idea è che presto sarà possibile controllare smartphone e altre applicazioni di intelligenza artificiale direttamente con il pensiero.

"Molto prima che la medicina di precisione e le neurotecnologie funzionino in modo affidabile, queste tecnologie potranno già essere utilizzate contro gli esseri umani".

In futuro, la mappatura dell’attività cerebrale potrebbe in linea di principio leggere i nostri pensieri e sentimenti, ma anche influenzarli esternamente - quest’ultimo probabilmente in modo molto più efficace rispetto ai precedenti metodi di manipolazione come il big nudging.

Tuttavia, gli elettrodi convenzionali non sono adatti per una connessione permanente tra cellule ed elettronica, che richiede interfacce durevoli e biocompatibili. Una proposta è quindi quella di trasmettere segnali in modo optogenetico, cioè di utilizzare impulsi di luce per controllare i geni in cellule speciali.^x#6 Questo permetterebbe di implementare circuiti sorprendenti (vedi ETH News "Controlling genes with thoughts").

Il lato negativo della convergenza

È vero: Le applicazioni citate possono sembrare futuristiche. Sono ancora principalmente visioni o nelle prime fasi di sviluppo. Tuttavia, la ricerca viene condotta a pieno ritmo in tutto il mondo. Anche gli ambienti militari sono interessati a utilizzare le tecnologie convergenti per i loro scopi^{.7, 8}

L’aspetto negativo della convergenza è l’esistenza di rischi considerevoli, come l’accesso da parte di attori statali o privati a dati altamente sensibili e il loro uso improprio per monitorare e influenzare le persone. Più i nostri corpi diventano connessi, più siamo vulnerabili alla criminalità informatica e all’hacking. Inoltre, non si può escludere che esistano già applicazioni militari.⁷ Tuttavia, una cosa è certa: molto prima che la medicina di precisione e le neurotecnologie funzionino in modo affidabile, queste tecnologie potranno già essere utilizzate contro le persone.

"Abbiamo bisogno di un’autentica autodeterminazione informativa - dobbiamo riprendere il controllo sui nostri dati personali".

Il problema è che le normative specialistiche esistenti non sono sufficienti a tenere sotto controllo la convergenza tecnologica. Come possiamo mantenere il controllo sulle nostre vite quando è sempre più possibile influenzare i nostri pensieri, sentimenti e decisioni con mezzi digitali?

Laconvergenza richiede un controllo convergente

Nel nostro recente documento, concludiamo che le tecnologie convergenti richiedono una regolamentazione internazionale altrettanto convergente. Delineiamo un nuovo quadro giuridico globale e proponiamo dieci principi di governance per colmare l’incombente vuoto normativo.^x#9

Il nostro quadro sottolinea la necessità di misure di protezione per salvaguardare le funzioni fisiche e mentali da interferenze non autorizzate e per garantire l’integrità personale e la privacy, ad esempio attraverso i diritti neurali.

Per ridurre al minimo i rischi e prevenire gli abusi, i futuri regolamenti dovranno essere inclusivi, trasparenti e affidabili. Il principio della governance partecipativa, che coinvolge tutti i gruppi interessati e garantisce che anche le preoccupazioni delle minoranze coinvolte siano prese in considerazione nei processi decisionali, è fondamentale.

In definitiva, abbiamo bisogno di una vera e propria autodeterminazione informativa: dobbiamo riprendere il controllo sui nostri dati personali. Questo vale anche per i gemelli digitali del nostro corpo e della nostra personalità. Perché possono essere usati per hackerare la nostra salute e il nostro pensiero - nel bene e nel male.^x#10

Con il nostro contributo, vorremmo avviare una discussione pubblica sulle tecnologie convergenti. Nonostante la sua grande rilevanza, riteniamo che si presti troppa poca attenzione a questo tema. Un discorso continuo sui benefici, sui rischi e su regole ragionevoli può aiutare a guidare la convergenza tecnologica in modo che serva alle persone e non le danneggi.

Dirk Helbing ha collaborato a questo articolo con il collaboratore esterno Marcello Ienca call_made ,che ha lavorato presso il Politecnico di Zurigo e l’EPFL e ora è professore aggiunto di Etica nell’IA e nelle Neuroscienze presso l’Università Tecnica di Monaco .