Les décisions automatisées se généralisent dans des domaines sensibles (banque, santé, éducation, etc.) avec un impact direct sur les individus. Rendre les décisions explicables, c'est permettre de comprendre quels facteurs ont motivé la décision de l'algorithme. Cependant si le modèle est incertain dans sa décision, la question de la pertinence de l'explication se pose. Or la plupart des méthodes d'explicabilité ne prennent pas en compte l'incertitude inhérente aux prédictions du modèle. Intégrer l'incertitude dans le processus de génération d'explication devrait permettre de générer des explications plus fiables. Le stage propose de mettre en œuvre une méthode de génération d'explications qui intègre explicitement l'incertitude du modèle. On s'intéressera en particulier aux explications contrefactuelles qui consistent à identifier les modifications minimales à apporter à une donnée pour changer la décision, permettant ainsi d'identifier les facteurs ayant influencé cette décision.

L'objectif principal du stage est d'implémenter et d'évaluer une chaine complète de génération d'explications contrefactuelles intégrant l'incertitude. Plus précisément il s'agit de:

• Analyser les méthodes existantes d'estimation d'incertitude dans le contexte du machine learning, en particulier celles basées sur la décomposition de l'incertitude (aléatoire + épistémique)

• Concevoir un algorithme de génération d'explications contrefactuelles qui intègre des contraintes sur l'incertitude

• Implémenter la méthode proposée, et évaluer la qualité des explications générées sur des jeux de données de différentes natures (tabulaires, images)

• Comparer la méthode développée avec une ou deux méthodes concurrentes récentes de l'état de l'art

Bac+5: école d'ingénieur, master 2, IA/data science

Compétences en programmation Python nécessaires : (PyTorch/TensorFlow, scikit learn)

Connaissances en statistiques, mathématiques et apprentissage statistique

Intérêt pour le sujet

Orange Innovation Recherche assure le pilotage des travaux de Recherche, en s'appuyant sur les équipes Orange Innovation Data-IA, d'Orange Innovation Networks, Orange Innovation IT et Services et Marketing & Design. Le domaine de recherche Confiance, Sécurité et Transactions répond aux défis de sécurité dans un écosystème en évolution permanente.

Orange Innovation Recherche assure le pilotage des travaux de Recherche, en s'appuyant sur les équipes Orange Innovation Data-IA, d'Orange Innovation Networks, Orange Innovation IT et Services et Marketing & Design. Le domaine de recherche Confiance, Sécurité et Transactions répond aux défis de sécurité dans un écosystème en évolution permanente.