Roland Siegwart, immaginiamo uno scenario: Tra tre anni la Svizzera sarà attaccata da uno sciame di droni nemici. Aiuterebbe a sviluppare contromisure oggi?
Roland Siegwart: Abbiamo discusso di questa domanda nel mio laboratorio. Per molto tempo sarebbe stato impensabile per noi sviluppare tecnologie militari. Ma il mondo è cambiato con l’attacco russo all’Ucraina. Stiamo vivendo una minaccia che - almeno in Europa - ci è stata estranea per molto tempo. Se la minaccia per la Svizzera dovesse diventare più concreta, sarei certamente pronto ad aiutare. Credo anche che potremmo dare un contributo con la nostra esperienza
Questo testo è stato pubblicato nel numero 25/04 della rivista Globe dell’ETH
Svilupperebbe queste tecnologie al Politecnico di Zurigo?
Siegwart: No. Qui all’ETH facciamo ricerca di base, i cui risultati devono rimanere accessibili a tutti. Quando si tratta di applicazioni militari concrete, dovrebbero subentrare altri attori, come centri di ricerca specializzati, start-up o aziende consolidate
Nadia Mazouz: Sono d’accordo con lei. La scienza è aperta per natura; funziona solo se le nuove scoperte circolano liberamente e vengono valutate. Il lavoro militare, invece, si basa sulla segretezza. Queste due logiche sono fondamentalmente contraddittorie. Non si può fare scienza se nessuno conosce i risultati e può criticarli. L’apertura è essenziale per la scienza
"
Dobbiamo fare in modo che le conoscenze generate nelle università non finiscano nelle mani sbagliate"
Molte tecnologie sviluppate nelle università possono essere utilizzate sia per scopi civili che militari. Si parla di "tecnologie a doppio uso". Come si affronta questo problema come ricercatore?
Siegwart: Ogni sviluppo tecnologico ha un potenziale di doppio uso. Ad esempio, i droni volano solo perché contengono chip GPS, come in ogni smartphone. Non si può sapere in anticipo come verrà utilizzata la ricerca di base. Le università hanno il compito di creare e condividere nuove conoscenze. Qualsiasi altra cosa sarebbe un’autolimitazione che renderebbe impossibile la scienza. A maggior ragione, però, bisogna fare in modo che le conoscenze generate nelle università non finiscano nelle mani sbagliate. Ecco perché l’ETH prevede un controllo di sicurezza per le domande provenienti da Paesi ad alto rischio
Mazouz: Anche una matita ha un doppio uso: si può scrivere una poesia con essa o fare del male a qualcuno. Ma ci sono certamente tecnologie che sono intrinsecamente problematiche, come le armi nucleari. Per molte altre tecnologie a doppio uso, l’unica cosa che ci aiuta è un’analisi più approfondita: Qual è il rischio specifico? Chi potrebbe abusare della tecnologia? E quanto è grande questo rischio? Abbiamo anche bisogno di spazi in cui i ricercatori che sviluppano nuove tecnologie possano discutere di questioni legate al doppio uso insieme a scienziati politici, avvocati e filosofi. La nuova Albert Einstein School of Public Policy è proprio questo luogo
Nadia Mazouz è professore di Filosofia pratica presso il Dipartimento di Scienze umane, sociali e politiche del Politecnico di Zurigo
Roland Siegwart è professore di Sistemi autonomi presso il Dipartimento di Ingegneria meccanica e di processo del Politecnico di Zurigo e co-direttore del Centro traslazionale Wyss di Zurigo
Anche le tecnologie civili vengono utilizzate per scopi militari nella guerra in Ucraina. Dai droni per hobby ai robot terrestri e ai veicoli subacquei. Questo sviluppo l’ha sorpresa?
Siegwart: No, era previsto da tempo. La grande sorpresa per molti eserciti è stata l’economicità e l’efficacia di questi sistemi. I droni sono fondamentalmente costituiti da componenti che si possono trovare in qualsiasi smartphone. Questo li rende molto più economici della tecnologia militare tradizionale e quindi adatti alla produzione di massa. I sistemi di difesa aerea tradizionali, dove ogni missile costa circa un milione di dollari, non possono quasi nulla contro sciami di piccoli droni economici. Oggi persino la Svizzera sarebbe sopraffatta. Una cosa è chiara: la guerra aerea cambierà radicalmente in futuro. Oggi nessuno vuole sedersi in un carro armato a causa degli attacchi dei droni. Tra dieci anni, nessuno vorrà più sedersi su un aereo da combattimento. Le possibilità di contrastare un gran numero di droni autonomi sono semplicemente minime
Mazouz: Sono rimasto particolarmente affascinato da quanto tutto fosse improvvisato all’inizio. I carri armati russi sono stati abbattuti da droni economici e fatti in casa. Il risultato fu una guerra di posizione come quella che conosciamo dalla Prima Guerra Mondiale. Questa fase hobbistica è stata poi sostituita da catene di produzione professionali. Oggi l’industria dei droni è molto sviluppata in Ucraina e, naturalmente, anche in Russia. Questo sta cambiando radicalmente la guerra. E ha un altro effetto: le parti più deboli possono improvvisamente tenere il passo militarmente grazie ai droni
Il prossimo passo saranno i sistemi d’arma autonomi. Si dice che esistano già da parte russa. Quanto è realistico?
Siegwart: Autonomia è un termine elastico. Molti dei droni di oggi sono già autonomi quando volano verso un obiettivo utilizzando il GPS. Il passo successivo sarebbe che i droni navigassero autonomamente utilizzando telecamere e radar senza bisogno di GPS o di un collegamento radio. Questo è tecnicamente fattibile. Quando ciò accadrà, sarà ancora più difficile respingere i droni, poiché molti sistemi di difesa dei droni cercano di interferire con il collegamento radio o il segnale GPS. Anche obiettivi militari come un carro armato possono già essere identificati autonomamente grazie alla computer vision. Questo è più facile che volare autonomamente su lunghe distanze
È possibile che le macchine rendano le guerre più "umane" perché prendono decisioni più razionali e commettono meno errori degli esseri umani?
Mazouz: "Guerra umana" è una contraddizione in termini. La guerra è sempre disumana. Ma capisco cosa intende dire. Il problema è che le macchine non solo non sono emotive, ma non sono nemmeno razionali. Idealmente, si comportano nel modo in cui le programmiamo. Se lo facciamo bene, possono agire in modo proporzionato e attaccare solo obiettivi legittimi secondo il diritto internazionale. Gli esseri umani, invece, sono esseri emotivi. Sono capaci di rabbia e di empatia. Questo può andare in entrambe le direzioni. Se il giorno prima è stato ucciso un compagno di lotta, un soldato può essere più propenso a non rispettare il diritto internazionale. Ma ci sono anche casi in cui un pilota di elicottero ha interrotto un attacco a un motociclista perché ha visto improvvisamente un bambino seduto dietro di lui. Una macchina non può avere questa empatia
Siegwart: A lungo termine, i sistemi autonomi potrebbero comunque diventare più precisi degli esseri umani, come le auto a guida autonoma. Ma nella fase di transizione ci saranno degli errori, perché i sistemi non sono ancora abbastanza affidabili. Per Paesi come la Russia, questo è anche un pretesto per affermare che i droni hanno involontariamente violato lo spazio aereo di altri Stati. Il rischio di escalation in questa fase di transizione è quindi enorme
"La casa in cui si sta armeggiando con un drone da guerra è un obiettivo militare legittimo?"
Che impatto ha la guerra dei droni sul diritto internazionale?
Mazouz: Le nuove tecnologie pongono sempre grandi sfide al diritto internazionale. Il diritto internazionale è un’istituzione fragile con cui gli Stati si vincolano. Può essere efficace solo se un numero sufficiente di Stati si attiene a questo obbligo auto-vincolante. Veniamo ora alla sua domanda: il diritto internazionale distingue tra civili e combattenti. Solo i combattenti sono bersagli diretti legittimi in guerra, così come le persone che producono armi da guerra sul loro posto di lavoro. Ma la casa in cui si armeggia con un drone da guerra è un obiettivo militare legittimo? Queste domande estremamente difficili sono sollevate dalle nuove tecnologie belliche e devono trovare una risposta in termini di moralità e diritto internazionale
Infine, diamo uno sguardo al futuro: come cambierà la guerra tra dieci anni?
Siegwart: Sono convinto che i sistemi autonomi caratterizzeranno il campo di battaglia - in aria, a terra e in acqua. Il classico carro armato o il jet da combattimento difficilmente potranno sopravvivere. I sistemi di difesa aerea sono già oggi sovraccarichi. Sono necessarie nuove soluzioni
Mazouz: Potremmo anche assistere a scenari "transumani": Umani tecnicamente migliorati per interagire meglio con le macchine. Sembra fantascienza, ma se ne parla. Allo stesso tempo, non dobbiamo dimenticarlo: Viviamo in un’epoca di incertezza. Clima, geopolitica, tecnologie: le perturbazioni sono imminenti ovunque. Questo rende impossibile pensare al futuro in modo lineare. Dobbiamo rimanere vigili e aperti
