Explicabilité (Explainable AI, XAI)
L’explicabilité (XAI) désigne l’ensemble des approches qui rendent les décisions d’une IA compréhensibles pour un humain, en dévoilant sa logique de fonctionnement plutôt que de la laisser en black box. Objectif : décrire l’objet, la logique et la prise de décision d’un modèle de façon intelligible, y compris pour un non-expert.
Deux notions proches se distinguent : l’interprétabilité, propriété intrinsèque d’un modèle simple (comme un arbre de décision, lisible par nature), et l’explicabilité, qui produit des explications a posteriori pour des modèles complexes et opaques (deep learning).
En RH, l’explicabilité n’est pas optionnelle : le RGPD impose de pouvoir expliquer tout résultat automatisé portant sur un individu (score, segmentation, décision). Un outil de tri de CV ou de prédiction de turnover doit pouvoir justifier pourquoi il aboutit à tel résultat — condition de conformité, mais aussi de confiance des candidats et salariés concernés.
L’AI Act européen renforce cette exigence pour les systèmes RH classés « haut risque » (recrutement, évaluation, licenciement), avec des obligations de documentation et de traçabilité des décisions.
Retrouvez tous les termes dans le lexique SIRH et IA de yapluqua.com.