L’éthique et l’IA: un principe d’optimisation non éthique

Le professeur Anthony Davison de l'EPFL et ses co-auteurs présentent une base mathématique pour les préoccupations qui entourent les implications éthiques de l'IA. L'intelligence artificielle (IA) est de plus en plus couramment employée tout autour de nous et pourrait offrir d'importants avantages potentiels. Mais l'utilisation non éthique de l'AI fait aussi naître des préoccupations croissantes. Le professeur Anthony Davison, qui occupe la Chaire de statistique à l'EPFL, et des collègues britanniques se sont penchés sur ces questions d'un point de vue mathématique en se focalisant sur l'IA commerciale ayant pour objet de maximiser les profits. Songeons au cas d'une société d'assurance recourant à l'IA dans le but de trouver une stratégie pour décider des primes à appliquer aux clients potentiels. L'IA choisira parmi des stratégies potentielles et certaines d'entre elles pourraient être discriminatoires ou faire un usage impropre des données clients susceptible d'entraîner ultérieurement de lourdes sanctions financières pour l'entreprise. Idéalement, des stratégies non éthiques telles que celles-ci devraient être écartées par anticipation du paysage de stratégies potentielles.