La formazione continua dell’ETH si concentra sull’etica nell’IA

- DE- FR- IT
I partecipanti al CAS con i docenti durante una giornata di formazione presso Sw
I partecipanti al CAS con i docenti durante una giornata di formazione presso Swiss Re a Rüschlikon. (Immagine: FinsureTech Hub / ETH Zurigo)
Il primo programma "CAS ETH Machine Learning in Finance and Insurance" sta per concludersi. I partecipanti hanno apprezzato particolarmente il modo in cui tecnologia, etica e pratica si combinano per utilizzare l’intelligenza artificiale in modo responsabile nelle loro aziende.

Che cos’è la filosofia? Che cos’è l’etica nell’era dell’intelligenza artificiale (AI) - venti studenti discutono queste domande in piccoli gruppi. Sono i partecipanti al programma del CAS ETH Machine Learning in Finance and Insurance. Una prima assoluta: il programma di formazione continua si svolge per la prima volta. Il nuovo corso ha sede presso il FinsureTech Hub del Politecnico di Zurigo, sotto la cattedra di Josef Teichmann e Patrick Cheridito del Dipartimento di Matematica.

Per il direttore dello studio Bastian Bergmann è stato chiaro fin dall’inizio che l’uso responsabile della tecnologia AI deve svolgere un ruolo importante quando si parla di apprendimento automatico nella formazione continua. "Per me l’etica è importante quanto la tecnologia stessa. Come viene implementata la tecnologia nel contesto e quali sfide pone? Queste sono domande importanti che affrontiamo durante il corso", afferma Bergmann, che è un matematico finanziario e un filosofo.

Andrea Ferrario, un altro docente di questo corso, concorda: "L’etica non è rilevante solo quando un’applicazione basata sull’IA raggiunge la società. L’etica deve essere un problema già al momento della programmazione. Fin dall’inizio, in ogni singolo passaggio". Il fisico ha conseguito il dottorato in matematica all’ETH e ora conduce ricerche all’Università di Zurigo nel campo dell’etica biomedica e della filosofia dell’IA.

Il proprio punto di vista come nuovo territorio

I due docenti sono principalmente interessati a consentire ai partecipanti al CAS, che lavorano tutti nel settore finanziario o assicurativo svizzero, di creare ponti nelle loro aziende tra scienziati dei dati, ingegneri del software, esperti di business e colleghi del dipartimento di compliance che si occupano delle normative legali dei servizi e dei prodotti basati sull’IA. Ecco perché il discorso interdisciplinare è particolarmente importante per entrambi. "Nella pratica, non è sempre facile far collaborare gruppi professionali diversi con approcci, opinioni e obiettivi differenti", afferma Ferrario. Per lui, il corso è una preziosa palestra per discutere di questioni etiche nel settore finanziario e assicurativo.

Durante il corso, Bergmann si è reso conto più volte che il tema dell’etica era un territorio nuovo per la maggior parte dei partecipanti: "Sono più abituati a cercare una serie di regole predefinite nel loro lavoro quotidiano. Nella parte etica del CAS, hanno dovuto sviluppare il proprio punto di vista. Cosa significa morale per me, per la mia azienda?".

Allucinazioni dell’intelligenza artificiale e rischi per la reputazione

Anche i due docenti esterni Christiane Hoppe-Oehl, responsabile dell’Unità Intelligenza Artificiale della Finma, e Luca Baldassarre, direttore della governance dell’IA di Swiss Re, hanno notato che le discussioni sui temi etici sono in gran parte un territorio nuovo per i partecipanti. Entrambi apprezzano il fatto che l’ETH attribuisca tanta importanza all’aspetto etico.

"Il mio messaggio principale agli studenti è stato che senza un approccio responsabile alla pianificazione, allo sviluppo e al monitoraggio dei sistemi di IA, le organizzazioni sono esposte a rischi commerciali, di conformità e di reputazione", afferma Baldassarre. Hoppe-Oehl aggiunge: "L’IA ha il potenziale per far progredire la nostra società, ma se i rischi non vengono riconosciuti e affrontati, corriamo il rischio di perdere il controllo". A titolo di esempio, cita le allucinazioni dell’IA, che possono rendere difficile prendere decisioni informate perché è sempre più difficile distinguere i fatti dalle falsità.

La dimensione etica del CAS è stata una delle ragioni per cui la partecipante Xenia Tao ha deciso di continuare la sua formazione nel campo dell’IA all’ETH. "Trovo che il modo in cui il corso ha combinato la dimensione etica con le applicazioni pratiche sia particolarmente utile per il mio lavoro", afferma l’amministratore delegato di una banca svizzera. Anche per la sua compagna di studi Arantzazu Garcia, il mix di nozioni tecniche di base, etica e rilevanza pratica è ciò che rende il CAS così interessante. "Lavorando a un mio progetto, ho potuto applicare direttamente i concetti appresi", afferma la Global Operational Excellence Lead di Hitachi Energy.

Parte pratica istruttiva alla fine

La parte pratica della formazione si è incentrata su progetti e workshop con partner industriali. Utilizzando esempi concreti, i partecipanti hanno analizzato l’implementazione di applicazioni di IA nel settore finanziario e assicurativo. I partecipanti stanno ora lavorando ai propri progetti. Questo segna la fine del CAS. Bergmann è soddisfatto della prima realizzazione. Si è rivelata una buona idea iniziare con le basi tecniche dell’apprendimento automatico e passare all’etica nella pratica. Quindi tutto come al solito l’anno prossimo? "Quasi", dice il direttore del programma. "Vogliamo ampliare un po’ di più il modulo di etica".

CAS ETH in Machine Learning in Finanza e Assicurazioni

Il CAS ETH in Machine Learning in Finance and Insurance offre un curriculum interdisciplinare unico nel suo genere: un’introduzione completa ai fondamenti dell’apprendimento automatico, una riflessione critica sull’etica dell’IA, lo studio approfondito di casi e applicazioni sotto la guida di esperti in forma di workshop e un progetto di innovazione sotto la guida di un mentore dell’ETH o dell’industria.

Evento informativo del 15 ottobre 2024 (in inglese)

Finestra di registrazione aperta dal 01 novembre 2024 (in inglese)

Serie "Intelligenza artificiale per la Svizzera

L’intelligenza artificiale (AI) permea tutti gli ambiti della nostra vita, compresa la ricerca. I metodi di apprendimento automatico sono utilizzati in progetti di tutte le discipline. Anche il Politecnico di Zurigo conduce ricerche di base in questo campo. Insieme all’EPFL, ha lanciato l’iniziativa "Swiss AI". Il suo obiettivo è posizionare la Svizzera come centro leader a livello mondiale per lo sviluppo e l’utilizzo di un’IA trasparente e affidabile. In questa serie, utilizziamo esempi specifici per mostrare come il Politecnico di Zurigo stia lavorando a progetti congiunti con l’industria, le ONG e le autorità per utilizzare l’IA in Svizzera e creare così un valore aggiunto per il nostro Paese.

Tema del dossier "Intelligenza artificiale al Politecnico di Zurigo"
Corinne Johannssen