Le projet AIDA c'est quoi ?
Ce travail se concentre sur la détection d’anomalies dans les données utilisées pour l’entraînement d’algorithmes d’intelligence artificielle (IA), en particulier les échantillons mal étiquetés ou anormaux. Identifier ces anomalies de données permet d’évaluer la qualité de l’échantillonnage des données. Leur correction peut ainsi améliorer la fiabilité et les performances du modèle d’IA. La méthodologie proposée s’appuie sur l’exploitation de fonctions d’influence, qui estiment l’impact de la suppression d’un échantillon de l’ensemble d’apprentissage sur la perte du modèle (ou d’un échantillon donné).
Le projet AIDA (Actionable XAI for Deep learning Algorithms) a pour objectif principal d'améliorer la compréhension et l'application pratique des algorithmes d'intelligence artificielle, notamment ceux basés sur l'apprentissage profond (Deep Learning), à travers l'IA explicable (XAI). Ces algorithmes, malgré leur efficacité, sont souvent perçus comme des « boîtes noires » difficiles à interpréter, ce qui limite leur acceptation et leur utilisation dans des domaines critiques tels que la gestion des ressources naturelles. AIDA vise spécifiquement à rendre ces modèles explicables de manière actionable, c'est-à-dire en fournissant des explications claires qui non seulement répondent à la question « pourquoi » une prédiction a été faite, mais également aux questions « comment » changer cette prédiction et « que se passerait-il si » certains éléments étaient différents. Ces approches permettront aux experts d'interagir directement avec les modèles pour mieux les comprendre, les adapter, et améliorer leur utilisation pratique. Le projet s'appuie sur un cas concret : la gestion des ressources en eau souterraine, en partenariat avec le Bureau de Recherches Géologiques et Minières (BRGM). La prévision des niveaux de nappes phréatiques est essentielle, notamment dans le contexte du changement climatique et des incertitudes associées. Actuellement, les méthodes classiques de XAI offrent peu de pistes concrètes pour agir ou pour adapter les modèles existants à de nouvelles situations ou à de nouvelles données. Ainsi, AIDA développera des méthodes novatrices pour identifier les causes directes des prédictions et générer des scénarios alternatifs réalistes, respectant les contraintes du domaine étudié. Le projet intégrera également des connaissances d’experts du BRGM pour valider et améliorer les modèles prédictifs utilisés en hydrologie.
