La gouvernance des systèmes d'IA à l'épreuve des non-choix : vers une traçabilité décisionnelle élargie

Une réduction techniciste de la traçabilité

La traçabilité IA est souvent pensée comme une question de journalisation : logs, entrées/sorties, interactions avec les modèles.

Ces dispositifs améliorent l'observabilité technique, mais reposent sur une hypothèse restrictive : seuls les événements effectivement produits seraient pertinents.

Dans les environnements décisionnels complexes, cette hypothèse ne tient pas. Une part importante de la dynamique se joue dans ce qui n'est pas fait.

Les non-choix comme catégorie analytique

Les non-choix désignent les décisions explicites ou implicites de ne pas agir : ne pas déployer, ne pas automatiser, suspendre une trajectoire, différer une option.

Ces non-choix sont rarement capturés dans les systèmes de traçabilité classiques, alors qu'ils matérialisent des arbitrages structurants.

• Arbitrages entre alternatives concurrentes
• Évaluations de risque situées
• Contraintes organisationnelles et institutionnelles
• Limites éthiques, juridiques ou scientifiques

Les limites épistémiques d'une traçabilité purement technique

Une traçabilité centrée sur la couche technique ne permet pas de reconstruire les arbitrages humains ni les intentions sous-jacentes aux choix.

Elle documente le résultat visible, mais pas les raisons, les incertitudes et les alternatives écartées.

On obtient ainsi une transparence formelle, qui masque une opacité substantielle sur la décision.

• Impossible de restituer le raisonnement d'arbitrage
• Faible compréhension des motifs de choix ou de renoncement
• Difficulté à expliquer pourquoi une option a été rejetée
• Auditabilité incomplète dans les contextes sensibles

Vers une traçabilité décisionnelle élargie

Une gouvernance avancée doit élargir le périmètre de la traçabilité : documenter ce qui est fait, mais aussi ce qui est refusé, suspendu ou ajourné.

La traçabilité devient alors un outil d'intelligibilité décisionnelle, et non plus un simple mécanisme d'enregistrement technique.

• Décisions de refus
• Suspensions de trajectoire
• Arbitrages non conclusifs
• Options explicitement jugées non pertinentes

Formaliser un registre décisionnel

Pour rendre cette approche opératoire, il faut un registre structuré, capable de capturer décisions et non-décisions dans un même cadre.

1. 1Temporalité de la décision
2. 2Instance ou acteur décisionnel
3. 3Objet et périmètre de la décision
4. 4Ensemble des options considérées
5. 5Nature de la décision, incluant les non-choix
6. 6Justification argumentée
7. 7Évaluation du niveau de risque
8. 8Conditions de révision ou de réexamen

Traçabilité et auditabilité

L'objectif n'est pas seulement de stocker des traces, mais de rendre les trajectoires décisionnelles reconstituables de bout en bout.

Une auditabilité substantielle exige de pouvoir expliquer pourquoi une option a été retenue, pourquoi une autre a été écartée, dans quel contexte et avec quel niveau d'incertitude.

Une mémoire organisationnelle critique

Documenter les non-choix crée une mémoire utile dans le temps long. Cela évite de répéter des cycles d'expérimentation déjà instruits.

Cette mémoire favorise la continuité entre équipes, la capitalisation des analyses et l'apprentissage cumulatif de l'organisation.

Conclusion

Réduire la traçabilité à l'enregistrement technique revient à documenter une réalité partielle.

Intégrer les non-choix rend visibles les arbitrages, les renoncements et les incertitudes. C'est une condition clé pour des systèmes IA réellement auditables, compréhensibles et gouvernables.