Skip to Main content Skip to Navigation
Conference papers

Interprétabilité et explicabilité pour l’apprentissage machine : entre modèles descriptifs, modèles prédictifs et modèles causaux. Une nécessaire clarification épistémologique

Résumé : Le déficit d’explicabilité des techniques d’apprentissage machine (AM) pose des problèmes opérationnels, juridiques et éthiques. Un des principaux objectifs de notre projet est de fournir des explications éthiques des sorties générées par une application fondée sur de l’AM, considérée comme une boîte noire. La première étape de ce projet, présentée dans cet article, consiste à montrer que la validation de ces boîtes noires diffère épistémologiquement de celle mise en place dans le cadre d’une modélisation mathématique et causale d’un phénomène physique. La différence majeure est qu’une méthode d’AM ne prétend pas représenter une causalité entre les paramètres d’entrées, qui peuvent être de plus de haute dimensionnalité, et ceux de sortie. Nous montrons dans cet article l’intérêt de mettre en œuvre les distinctions épistémologiques entre les différentes fonctions épistémiques d’un modèle, d’une part, et entre la fonction épistémique et l’usage d’un modèle, d’autre part. Enfin, la dernière partie de cet article présente nos travaux en cours sur l’évaluation d’une explication, qui peut être plus persuasive qu’informative, ce qui peut ainsi causer des problèmes d’ordre éthique.
Complete list of metadatas

Cited literature [26 references]  Display  Hide  Download

https://hal.sorbonne-universite.fr/hal-02184519
Contributor : Christophe Denis <>
Submitted on : Friday, September 27, 2019 - 4:07:04 PM
Last modification on : Wednesday, November 13, 2019 - 1:52:17 PM
Document(s) archivé(s) le : Monday, February 10, 2020 - 4:32:16 AM

File

CNIA_2019-Denis&Varenne.pdf
Publisher files allowed on an open archive

Identifiers

  • HAL Id : hal-02184519, version 1

Citation

Christophe Denis, Franck Varenne. Interprétabilité et explicabilité pour l’apprentissage machine : entre modèles descriptifs, modèles prédictifs et modèles causaux. Une nécessaire clarification épistémologique. National (French) Conference on Artificial Intelligence (CNIA) - Artificial Intelligence Platform (PFIA), Jul 2019, Toulouse, France. pp.60-68. ⟨hal-02184519⟩

Share

Metrics

Record views

765

Files downloads

562