Guidelines for a specification framework to control systems based on deep learning by using the Theory of Modeling and Simulation and a revisited heritage of the philosophy of techniques
Lignes directrices d’un cadre de spécification pour contrôler les systèmes basés sur de l’apprentissage machine profond utilisant la théorie de le modélisation et de la simulation et un héritage nécessairement revisité de la philosophie de la technique.
Abstract
The aim of our contribution is to share the guidelines of our work aimed at defining a formal specification framework for systems based on deep learning, in order to ensure a rigorous and systematic control of these systems. To achieve this, we are working on an adaptation of the Theory of Modeling and Simulation (TMS) for this type of systems, guided by our previous work on the epistemological clarification of the concepts of explanation and understanding applied to machine learning. Establishing an explanation requires firstly to formalize the system, which we propose to do by instantiating the concepts of target phenomenon, model, simulator and experimental protocol issued from the TMS. The experimental protocol is particularly important because it allows the system to be embedded in a use case, in a context that allows judgement based on predicted decisions. Understanding is a matter of hermeneutics, as proposed in support theory, which states that knowledge is the result of a mechanism for interpreting the material properties of the inscription. This process requires us to overcome the epistemic ruptures induced by the deep machine learning
Notre contribution a pour objectif de partager les lignes directrices de nos travaux visant à définir un cadre de spécification formelle de systèmes basés sur de l’apprentissage machine profond afin d’assurer un contrôle rigoureux et systématique de ces systèmes. Pour cela, nous mettons en oeuvre une adaptation de la théorie de la modélisation et de la simulation pour ces types de systèmes, guidée par notre travail de clarification épistémologique des concepts d'explication et de compréhension appliqués à l’apprentissage machine. Le résumé est organisé comme suit. Nous commençons par établir dans le prochain paragraphe une mise en perspective historique de l’évolution des techniques d’apprentissage machine permettant une confrontation avec certaines théories philosophiques portant sur la technique. Nous indiquons ensuite la stratégie retenue par la Commission Européenne pour réglementer les systèmes basés sur de l’apprentissage machine profond. Le dernier paragraphe présente les lignes directrices du cadre de spécification que nous proposons pour mener un contrôle systématique des systèmes conçues avec des techniques d’apprentissage machine quelque soit son supposé impact.
Origin | Files produced by the author(s) |
---|