Pourquoi votre IA ne doit pas être la calculatrice

Demandez un taux d'endettement à un modèle de langage : vous obtiendrez généralement le bon chiffre. Le problème, c'est « généralement ». Dans un dossier de crédit, un ratio faux une fois sur cent n'est pas un petit taux d'erreur ; c'est une décision prise sur un chiffre que personne ne peut défendre.

En concevant Maple Insight, notre plateforme d'analyse de crédit, nous avons posé une règle non négociable : le modèle n'est jamais la calculatrice.

Deux métiers, deux outils

Une évaluation de crédit contient deux types de travail. Le premier relève de l'arithmétique et des règles : le revenu reconnu est la médiane des six derniers salaires versés ; le taux d'endettement est le rapport entre les remboursements et le revenu ; un taux inférieur à 20 % obtient la note maximale. Ce travail n'a qu'une seule bonne réponse, et un code ordinaire la trouve à chaque fois.

Le second relève du langage : expliquer pourquoi un critère a obtenu cette note, résumer un dossier pour un comité de crédit, signaler ce qui mérite un second regard. C'est là qu'un modèle de langage est utile.

Les ennuis commencent quand un seul outil fait les deux.

La séparation, concrètement

• Chaque chiffre est produit par un code déterministe, couvert par des tests unitaires. Le même dossier donne toujours le même score.
• Chaque agent spécialisé reçoit les faits et appelle des outils de calcul pour tout nombre dont il a besoin. Il ne fait pas de calcul mental.
• Après la réponse d'un agent, la plateforme réapplique la règle en code. Si les points de l'agent diffèrent, la règle l'emporte et le désaccord est consigné sur le résultat.
• La note de crédit est rédigée uniquement à partir des chiffres calculés. L'analyste la modifie et la valide avant qu'elle ne circule.

Ce que vous y gagnez

Le premier gain est la reproductibilité. Un auditeur peut reprendre un dossier, le relancer et obtenir le même résultat. Le deuxième est l'explicabilité : chaque point de la grille renvoie à une règle et aux données sources qui la soutiennent. Le troisième est la confiance. Les analystes adoptent un outil quand ils peuvent vérifier son travail, et l'on ne peut vérifier qu'un travail qui suit des règles lisibles.

Ce que le modèle fait toujours bien

Rien de tout cela ne rend le modèle décoratif. Il lit des documents qui arrivent sous forme de numérisations, formule les constats dans une langue claire et rédige en une minute une note qui prendrait une heure à un analyste. Il le fait simplement à partir de chiffres qu'il n'a pas inventés. Cette répartition du travail, bien plus que le choix du modèle, rend un système d'IA apte à un métier réglementé.