Qu’est-ce que la philosophie ? Qu’est-ce que l’éthique à l’ère de l’intelligence artificielle (IA) - Ces questions sont discutées par vingt étudiants en petits groupes. Ce sont des participants au CAS ETH Machine Learning in Finance and Insurance. Une première - l’offre de formation continue a lieu pour la première fois. Le nouveau cours se déroule au FinsureTech Hub de l’ETH Zurich, auprès des chaires de Josef Teichmann et Patrick Cheridito au département de mathématiques.
Pour le directeur de l’étude, Bastian Bergmann, il était clair dès le départ que l’utilisation responsable de la technologie IA devait occuper une place importante lorsqu’il s’agit d’apprentissage automatique dans une formation continue. "Pour moi, l’éthique est aussi importante que la technologie elle-même. Comment la technologie est-elle mise en ½uvre dans le contexte et quels sont les défis qui en découlent ? Ce sont des questions importantes qui nous occupent dans le cours", explique Bergmann, qui est lui-même mathématicien financier et philosophe.
Andrea Ferrario, également enseignant dans ce cours, est du même avis : "L’éthique n’est pas seulement pertinente lorsqu’une application basée sur l’IA arrive dans la société. L’éthique doit être un thème dès la programmation. Dès le début, à chaque étape". Le physicien a obtenu son doctorat en mathématiques à l’EPFZ et effectue aujourd’hui des recherches à l’Université de Zurich dans le domaine de l’éthique biomédicale et de la philosophie de l’IA.
Un point de vue personnel comme terrain vierge
Les deux enseignants souhaitent avant tout que les participants au CAS, qui travaillent tous dans le secteur suisse de la finance ou de l’assurance, puissent jeter des ponts dans leur entreprise entre les scientifiques des données, les ingénieurs en logiciels, les experts en affaires et les collègues du département de la conformité qui s’occupent des prescriptions légales des services et produits basés sur l’IA. C’est pourquoi le discours interdisciplinaire leur tient particulièrement à c½ur. "Dans la pratique, il n’est pas toujours facile de faire travailler ensemble des groupes professionnels aux approches, aux opinions et aux objectifs différents", explique Ferrario. Pour lui, le cours est un précieux terrain d’exercice pour discuter des questions éthiques dans le secteur de la finance et de l’assurance.Au cours du cours, Bergmann a constaté à maintes reprises que le thème de l’éthique était un terrain inconnu pour la plupart des participants : "Ils sont plutôt habitués à rechercher un ensemble de règles prédéfinies dans leur quotidien professionnel. Dans la partie éthique du CAS, ils ont dû développer leur propre point de vue. Que signifie "moral" pour moi, pour mon entreprise ?"
Hallucinations de l’IA et risques de réputation
Les deux enseignants externes, Christiane Hoppe-Oehl, Head of Artificial Intelligence Unit à la Finma, et Luca Baldassarre, AI Governance Director chez Swiss Re, ont également remarqué que les discussions sur des thèmes éthiques étaient en grande partie un terrain inconnu pour les participants. Tous deux se félicitent que l’EPF accorde autant d’importance à l’aspect éthique."Mon principal message aux étudiants était que sans une approche responsable de la planification, du développement et de la surveillance des systèmes d’IA, les entreprises s’exposent à des risques tant commerciaux que de conformité et de réputation", explique Baldassarre. Hoppe-Oehl ajoute : "L’IA a le potentiel de faire progresser notre société, mais si les risques ne sont pas identifiés et traités, nous risquons de perdre le contrôle". Elle cite en exemple les hallucinations de l’IA, qui peuvent rendre difficile la prise de décisions fondées, car il est de plus en plus difficile de distinguer les faits des contre-vérités.
La dimension éthique du CAS a été l’une des raisons qui ont poussé Xenia Tao, une participante, à suivre une formation continue dans le domaine de l’IA à l’EPFZ. "Je trouve que la manière dont le cours a lié la dimension éthique aux applications pratiques est particulièrement précieuse pour mon travail", déclare la Managing Director d’une banque suisse. Pour sa collègue d’études Arantzazu Garcia, c’est également le mélange de bases techniques, d’éthique et de pratique qui fait l’attrait du CAS. "En travaillant sur un projet personnel, j’ai pu appliquer directement les concepts appris", explique la Global Operational Excellence Lead chez Hitachi Energy.
Une partie pratique riche en enseignements pour terminer
La partie pratique de la formation continue était axée sur des projets et des ateliers avec des partenaires industriels. A l’aide d’exemples concrets, les participants se sont penchés sur la mise en ½uvre d’applications d’IA dans les secteurs de la finance et de l’assurance. Les participants travaillent maintenant sur leurs propres projets. Le CAS arrive ainsi à son terme. Bergmann est jusqu’à présent satisfait de la première édition. Il s’est avéré judicieux de commencer par les bases techniques de l’apprentissage automatique et d’arriver à la pratique en passant par l’éthique. Tout sera donc comme avant l’année prochaine ? "Presque", répond le directeur des études. "Nous voulons encore développer un peu le module d’éthique".CAS ETH en apprentissage automatique dans la finance et l’assurance
Le CAS ETH in Machine Learning in Finance and Insurance propose un curriculum interdisciplinaire unique : une introduction complète aux bases de l’apprentissage automatique, une réflexion critique sur l’éthique de l’IA, l’approfondissement de cas et d’applications sous la direction de spécialistes dans des formats d’ateliers ainsi qu’un projet d’innovation personnel sous la direction d’un mentor de l’ETH ou de l’industrie.Réunion d’information le 15 octobre 2024 (en anglais)
Fenêtre d’inscription ouverte à partir du 01 novembre 2024 (en anglais)
Série "L’intelligence artificielle pour la Suisse".
L’intelligence artificielle (IA) s’immisce dans tous les domaines de notre vie, y compris dans la recherche. Les méthodes d’apprentissage automatique sont utilisées dans des projets de toutes les disciplines. Mais l’ETH Zurich fait aussi de la recherche fondamentale dans ce domaine. En collaboration avec l’EPFL, elle a lancé l’initiative "Swiss AI". Elle a pour but de positionner la Suisse comme leader mondial dans le développement et l’utilisation d’une IA transparente et digne de confiance. Dans cette série, nous montrons à l’aide d’exemples concrets comment l’ETH met l’IA au service de la Suisse dans le cadre de projets communs avec l’industrie, les ONG ou les autorités, et crée ainsi une valeur ajoutée pour notre pays.Dossier thématique "L’intelligence artificielle à l’EPF de Zurich".