Développer une solution d’IA, c’est parfois partir pour un voyage dans l’inconnu. Au début du moins, les chercheurs et les concepteurs ne savent pas toujours si leurs algorithmes et leurs modèles d’IA fonctionneront comme prévu ou si l’IA finira par faire des erreurs. Il arrive que des applications d’IA qui fonctionnent bien en théorie aient de mauvais résultats dans des conditions réelles. Pour gagner la confiance des utilisateurs, une IA doit toutefois fonctionner de manière fiable et correcte (voir le magazine Globe de l’ETH, 18.03.2025 ). Cela vaut aussi bien pour les chatbots populaires que pour les outils d’IA utilisés dans la recherche.
Avant qu’un nouvel outil d’IA ne soit utilisé dans le monde réel, il doit être testé de manière approfondie. Or, les tests dans le monde réel peuvent être une entreprise coûteuse, voire risquée. C’est pourquoi les chercheurs testent souvent leurs algorithmes dans des simulations informatiques de la réalité. Mais comme les simulations sont des approximations de la réalité, cette manière de tester les solutions d’IA peut conduire à surestimer les performances d’une IA. Juan Gamella, mathématicien à l’ETH, a présenté une nouvelle approche dans la revue "Nature Machine Intelligence", qui permet aux chercheurs de tester la fiabilité et l’exactitude de leurs algorithmes et modèles d’IA. Un modèle d’IA repose sur certaines hypothèses et est entraîné à apprendre à partir de données et à effectuer des tâches données de manière intelligente. Un algorithme comprend les règles mathématiques que le modèle d’IA suit pour effectuer une tâche.
Tester l’IA au lieu de la surestimer
Juan Gamella a construit des laboratoires miniatures spéciaux ("mini-laboratoires") qui peuvent servir de bancs d’essai pour les nouveaux algorithmes d’IA. "Les mini-laboratoires fournissent un environnement de test flexible qui fournit des données de mesure réelles. Ils sont un peu comme un terrain d’expérimentation pour les algorithmes, dans lequel les chercheurs peuvent tester leur IA au-delà des données simulées, dans un environnement contrôlé et sûr", explique Gamella. Les mini-laboratoires sont basés sur une physique bien connue, de sorte que les chercheurs peuvent utiliser ces connaissances pour vérifier si leurs algorithmes parviennent à la bonne solution pour un grand nombre de problèmes. Si une IA échoue au test, les chercheurs peuvent améliorer les hypothèses mathématiques et les algorithmes sous-jacents de manière ciblée et très tôt dans le développement.Les premiers mini-laboratoires de Gamella sont basés sur deux systèmes physiques qui présentent des caractéristiques essentielles, de sorte que de nombreux outils d’IA doivent pouvoir les gérer dans des conditions réelles : L’utilisation précise des mini-laboratoires dépend de la question à tester et de ce que l’algorithme doit faire. L’un de ses mini-laboratoires contient par exemple un système dynamique comme le vent, qui change constamment et réagit aux influences extérieures. Il peut être utilisé pour tester des outils d’IA sur des problèmes de contrôle. Son deuxième mini-laboratoire suit des lois physiques bien connues pour la lumière. Il peut être utilisé pour tester une IA qui apprend automatiquement ces lois à partir de données afin d’aider les scientifiques à faire de nouvelles découvertes.
"Je veux développer des outils pour aider les scientifiques à résoudre des questions de recherche".
Les mini-laboratoires sont des appareils concrets, de la taille d’un ordinateur de bureau, qui peuvent être contrôlés par la télécommande d’un PC. Ils rappellent les expériences de démonstration historiques par lesquelles les chercheurs présentaient, discutaient et amélioraient leurs théories et leurs découvertes dans les sociétés scientifiques à partir du 16e siècle. Juan Gamella compare le rôle des laboratoires miniatures dans le développement d’algorithmes d’IA à celui d’une soufflerie dans la construction aéronautique : lorsqu’un nouvel avion est développé, la plus grande partie de la conception est d’abord réalisée avec des simulations informatiques, car cela est moins coûteux et plus efficace. Une fois que les ingénieurs se sont mis d’accord sur leurs designs, ils construisent des modèles miniatures et les testent en soufflerie. Ce n’est qu’ensuite qu’ils construisent un avion en taille réelle et le testent lors de vols réels.
Une étape importante entre la simulation et la réalité
"Tout comme la soufflerie pour les avions, les mini-laboratoires servent à vérifier la sécurité, à s’assurer que tout fonctionne à un stade précoce, lorsque nous passons de la simulation à la réalité", explique Gamella. Il considère le test d’algorithmes d’IA dans un environnement contrôlé comme une étape intermédiaire cruciale pour s’assurer qu’une IA fonctionne dans des scénarios complexes et réels. Les mini-laboratoires offrent cela pour certains types d’IA, notamment celles qui sont censées interagir directement avec le monde physique.Les mini-laboratoires aident les chercheurs à étudier le problème du passage de la simulation à la réalité : ils leur offrent un environnement de test dans lequel les chercheurs peuvent réaliser autant d’expériences qu’ils le souhaitent. Ce problème de transition est également pertinent pour le domaine de chevauchement de la robotique et de l’IA, où les algorithmes d’IA sont souvent entraînés à résoudre d’abord des tâches dans un environnement simulé et ensuite seulement dans le monde réel. Cela augmente leur fiabilité.
Juan Gamella lui-même a commencé par un bachelor en mathématiques avant de se tourner vers un master en robotique à l’EPFZ. En tant que doctorant, il est revenu aux mathématiques et à la recherche en IA. Son flair pour la physique et la technologie est resté intact : "Je veux développer des outils qui aident les scientifiques à résoudre des questions de recherche". L’application de ses mini-laboratoires ne se limite pas à l’ingénierie. Avec un collègue de l’hôpital universitaire de la Charité à Berlin, il a tenté de concevoir un mini-laboratoire pour tester des algorithmes d’IA en biologie cellulaire et en biologie synthétique. Les coûts étaient toutefois trop élevés. En revanche, le deuxième mini-laboratoire, un tunnel lumineux, est déjà utilisé comme environnement de test dans la production industrielle - pour un problème d’optique. De même, les mini-laboratoires ont contribué à tester différentes nouvelles méthodes permettant aux grands modèles linguistiques (LLM) de faire des prédictions plus précises dans le monde réel.
L’IA causale - la voie royale vers une IA correcte
Dans "Nature Machine Intelligence", Juan Gamella a emprunté la voie royale pour démontrer la pertinence des mini-laboratoires - il prouve finalement qu’ils sont même utiles pour les questions d’IA causale. La recherche sur la causalité et l’IA causale est un domaine clé de la statistique et de l’informatique théorique, qui revêt une importance fondamentale pour les modèles d’IA : pour que les modèles d’IA fonctionnent de manière fiable et correcte, ils doivent comprendre les relations de cause à effet."Les chambres causales sont un complément précieux à la recherche sur la causalité. Elles permettent de valider de nouveaux algorithmes d’une manière inédite".
Souvent, les modèles d’IA ne représentent toutefois pas les relations causales du monde, mais font des prédictions basées sur des corrélations statistiques (cf. interview du professeur d’informatique de l’ETH Thomas Hofmann ). La causalité est un concept scientifique fondamental qui désigne les relations entre les causes et les effets. L’IA causale se réfère à des modèles d’IA qui reconnaissent les relations de cause à effet. Les résultats de l’IA causale sont plus précis et plus compréhensibles. C’est pourquoi l’IA causale est importante dans des domaines tels que la médecine, l’économie ou la recherche sur le climat.
Pour développer l’IA causale, de nouvelles méthodes statistiques sont nécessaires, car les relations causales sont parfois influencées par des circonstances et des hasards particuliers. De plus, elles ne sont pas faciles à séparer les unes des autres dans des contextes complexes. Gamella a effectué des recherches avec les professeurs de mathématiques de l’ETH Peter Bühlmann et Jonas Peter. Tous deux ont développé des approches importantes sur la manière d’identifier les relations causales dans des conditions changeantes et de les distinguer des influences perturbatrices ou du bruit aléatoire.
"Cependant, ces méthodes sont généralement difficiles à tester dans le monde réel", explique Gamella. "Pour cela, nous avons besoin de données de systèmes dont les relations de cause à effet sont déjà connues, afin de vérifier si nos algorithmes peuvent les apprendre avec précision. Ces données sont difficiles à trouver". Pour la publication, les trois chercheurs ont donc testé des algorithmes d’IA causale sur les mini-laboratoires construits par Gamella. Gamella appelle d’ailleurs ses mini-laboratoires des "chambres causales".
Ils ont d’abord vérifié si les algorithmes apprenaient le modèle causal correct pour chaque mini-laboratoire, c’est-à-dire pour le vent et la lumière. Ils ont également vu à quel point les algorithmes saisissaient bien les facteurs qui s’influençaient mutuellement et comment ils fonctionnaient dans des conditions inhabituelles ou lors de changements soudains. Peter Bühlmann, qui est le directeur de thèse de Gamella, se félicite : "Les chambres causales sont un complément précieux à la recherche sur la causalité. Elles permettent de valider de nouveaux algorithmes d’une manière inédite".
