Nouvelles technologies
Explicabilité d’un algorithme
angl. Algorithmic explainability
Définition
Capacité de rendre compréhensibles les éléments qu’un système algorithmique, notamment d’intelligence artificielle, a pris en compte pour produire un résultat, l’explication devant être adaptée à son destinataire (CNIL). Le règlement (UE) 2024/1689 sur l’intelligence artificielle en tire un droit : la personne visée par une décision fondée sur les sorties de certains systèmes d’IA à haut risque, qui produit des effets juridiques ou l’affecte significativement de façon qu’elle estime néfaste pour sa santé, sa sécurité ou ses droits fondamentaux, peut obtenir du déployeur des explications claires et pertinentes sur le rôle du système et les principaux éléments de la décision (art. 86).
En clair : Pouvoir comprendre pourquoi un programme a abouti à tel résultat, et le faire expliquer quand il fonde une décision importante.
Textes de référence
Termes liés
Ouvrir dans le dictionnaire interactifToutes les notions en E →