Le pour et le contre de l’intelligence artificielle

L’intelligence artificielle (IA) sera un changement significatif dans la société. Dès que les algorithmes influencent notre comportement de vote ou nos programmes d’études pour les écoles, les politiciens sont appelés à limiter les dégâts. Dans TA-Swiss a commandé une étude sur les opportunités et les risques de l’IA.

Ce n’est pas seulement lorsque le visage irritant et charmant d’un robot humanoïde nous regarde curieusement, c’est l’intelligence artificielle (IA) qui est en jeu. Contrairement à la machine humaine parlante et adaptative "Sophia", qu’une entreprise de Hong Kong a présentée au monde l’année dernière, nous rencontrons l’IA sous une forme qui ne peut être physiquement localisée dans la vie quotidienne, par exemple lorsque nos actions sur Internet génèrent des données à partir desquelles les entreprises tirent leurs conclusions. Les nouvelles réglementations sur la protection des données montrent que la politique s’intéresse de près aux effets du changement numérique.

Cependant, l’intelligence artificielle soulève également des questions socialement pertinentes qui vont bien au-delà de la protection des données, par exemple lorsque les algorithmes remplacent les décisions humaines, les transactions boursières ou influencent le comportement des électeurs. C’est pourquoi la Fondation pour l’évaluation des technologies, TA-Swiss, a chargé trois instituts de recherche d’étudier les nouveaux défis. En collaboration avec l’initiative "Digital Society Initiative" de l’Université de Zurich (UZH) et l’Institut d’évaluation des technologies de l’Académie autrichienne des sciences (ÖAW), une équipe de l’Empa élabore des recommandations concrètes pour la politique et l’économie suisses d’ici l’automne 2019.

"Nous étudions actuellement les possibilités et les risques en matière d’innovation, de recherche et de formation dans le domaine de l’intelligence artificielle", explique Clemens Mader du département Technologie et société de l’Empa à Saint-Gall, qui participe au projet avec Claudia Som et Lorenz Hilty. Les scientifiques de l’UZH et de l’AAS travaillent également dans les domaines de la consommation, des médias, du travail et de l’administration. En outre, chaque sous-domaine est examiné sous l’angle éthique et juridique.

Dès que les premiers résultats seront disponibles, les chercheurs examineront les domaines d’application en échange avec les acteurs nationaux et internationaux. "De cette façon, nous veillons à ce que les sujets socialement pertinents ne soient pas évalués à l’intérieur d’une bulle de sujets individuels, mais qu’une image soit composée de toutes les perspectives ", dit Mader.

L’une des tâches des scientifiques est maintenant d’étudier les applications possibles de l’IA dans la recherche et comme moteur de l’innovation.

En outre, des questions socialement pertinentes doivent être abordées. Comment une société peut-elle être préparée à développer de manière critique l’intelligence artificielle et à l’utiliser avec confiance - "Cela exige le secteur de l’éducation qui produira les futurs chercheurs - de la maternelle à l’université ", dit Mader.

Pour le secteur scolaire, des projets pilotes sont à l’étude qui utilisent déjà des applications de l’IA, par exemple dans une école de la Silicon Valley. Ici, les élèves apprennent avec des tablettes et sont observés par les logiciels d’IA dans leur comportement d’apprentissage. Les programmes donnent ensuite des conseils sur la façon de soutenir les enfants individuellement. "Lorsque l’ordinateur décide du programme d’études d’un élève, il est important de garder à l’esprit que les droits de la personne, la protection des données et, par conséquent, le développement social sont affectés ", dit le chercheur.

La crainte que les ordinateurs puissent non seulement être utiles, mais aussi risqués pour une société - jusqu’à un changement dans la compréhension de la démocratie - n’est rien de nouveau. Les possibilités d’analyse des machines augmentent rapidement. "Lorsque les applications d’intelligence artificielle recueillent et évaluent d’énormes quantités de données, de nombreux domaines de la vie quotidienne changent, bien au-delà des domaines tels que les achats en ligne ", explique Mader. Cela doit s’inscrire dans un cadre politique pour faire face aux risques, mais aussi pour pouvoir promouvoir le potentiel d’innovation.