Ce que l’IA décide, ce que l’humain décide : cartographie d’un arbitrage

En comité, la question n’est jamais « est-ce que ça marche ». C’est : qu’est-ce qui part sans qu’un humain ait regardé, et qui répond si ça part de travers. Elle mérite mieux qu’une réponse par le pourcentage d’automatisation.

Pourquoi la question est souvent mal posée

« Quel est votre taux d’automatisation » est une question sans réponse utile. Un système qui traite seul 90 % des demandes triviales et laisse passer un incident de sécurité affiche un excellent taux et un mauvais résultat.

La bonne question ne porte pas sur le volume mais sur la nature de l’acte : lire, proposer, exécuter, engager. Ces quatre verbes ne portent pas le même risque, et ils ne réclament pas la même supervision.

Quatre niveaux d’autonomie

Distinguer ces niveaux permet de sortir du débat binaire entre automatisation totale et validation systématique.

Où placer la frontière, concrètement

Les trois premiers niveaux se délèguent sans difficulté dans la plupart des organisations. Le quatrième se paramètre, et il se paramètre par cas, pas par principe.

Ce paramétrage n’est pas figé. Il se resserre après un incident, il se desserre quand la confiance s’installe sur une catégorie donnée. C’est un curseur d’exploitation, pas une option d’installation.

La responsabilité ne se délègue pas au modèle

Quel que soit le réglage, la responsabilité reste celle de l’entreprise. Ce qui change, c’est la capacité à reconstituer une décision : sur quelle information elle s’est appuyée, à quel moment, selon quelle règle.

C’est la contrepartie non négociable de l’autonomie. Chaque action automatique doit laisser une trace lisible par un gestionnaire, pas seulement par un administrateur technique : la demande d’origine, la règle appliquée, le destinataire retenu, l’horodatage.

Cette exigence a un effet secondaire utile. Une organisation qui peut relire ses décisions automatiques finit par documenter des règles qu’elle appliquait sans les avoir écrites.

Un curseur, pas un interrupteur

La plupart des organisations qui hésitent imaginent un choix entre tout valider et tout laisser passer. Aucun des deux régimes ne se rencontre en exploitation.

Ce qui se rencontre est un réglage : lecture et proposition déléguées sans réserve, exécution déléguée sur des actes réversibles, engagement encadré par des seuils que l’entreprise fixe et révise.