Comment l'IA prend-elle des décisions ? Pas comme vous l'imaginez.

L'IA ne prend pas de décisions comme vous. La plupart des systèmes reçoivent des données, les traitent à l'aide d'une fonction prédéfinie apprise lors de l'entraînement, produisent un score, puis vérifient si ce score dépasse un seuil fixé au préalable. Il n'y a ni évaluation des options, ni délibération, ni prise de décision. Comprendre cette distinction change la donne quant aux personnes réellement responsables lorsqu'un résultat algorithmique vous affecte.

POINTS CLÉS À RETENIR

• La plupart des systèmes d'IA ne délibèrent pas et ne pondèrent pas les options comme le font les humains. Nombre d'entre eux calculent un score numérique à partir des données d'entrée et le comparent à un seuil préalablement défini par un opérateur.
• Appeler la sortie algorithmique une “"décision"” transfère discrètement la responsabilité morale et juridique des humains qui ont construit et déployé le système au système lui-même.
• Une enquête menée en 2023 auprès de chercheurs en IA a révélé que seulement 20 % d'entre eux pensent qu'il est probable que d'ici 2028, les utilisateurs seront capables de connaître les véritables raisons qui sous-tendent les résultats d'un système d'IA.
• L’article 22 du RGPD et la loi européenne sur l’IA exigent tous deux des explications pour les décisions automatisées affectant les personnes, mais 60 % des modèles de production restent effectivement inexplicables.
• Comprendre le mécanisme sous-jacent “ Décisions de l’IA ” modifie les personnes que vous tenez responsables lorsqu'un résultat algorithmique vous affecte.

Comment l'IA prend-elle des décisions ?

La plupart des systèmes d'IA ne prennent pas de décisions au sens où vous choisiriez votre repas du midi. Un classificateur reçoit des données, les traite à l'aide de paramètres appris lors de l'entraînement, et produit un résultat numérique. Un modèle d'approbation de prêt n'évalue pas votre situation comme le ferait un conseiller financier. Il convertit vos données en un score et vérifie si ce score correspond à un critère prédéfini.

Un algorithme de recrutement ne décide pas de vous rejeter comme le fait un responsable du recrutement. Il calcule un chiffre et le compare à un seuil défini par quelqu'un d'autre. Le rejet est réel. “"décision,"” Au sens humain du terme, qui consiste à peser le pour et le contre et à faire un choix, il s'agit d'une métaphore. Et les métaphores accomplissent un travail considérable, bien que discret.

Cette métaphore n'est pas neutre. Elle influence notre façon de parler de responsabilité, la manière dont nous concevons la réglementation et notre degré de confort à confier des choix importants à des systèmes qui n'ont pas été conçus pour choisir quoi que ce soit de la manière dont nous le faisons.

Que se passe-t-il réellement à l'intérieur de “"Décision"”?

Pour les systèmes de classification, le mécanisme repose sur la correspondance de modèles avec des poids appris et un seuil, et non sur le raisonnement.
Lors de l'entraînement, un modèle ajuste des millions de paramètres internes afin de minimiser les erreurs sur les données d'exemple. Chaque paramètre capture une petite corrélation statistique entre les entrées et les résultats. Lorsqu'on fournit de nouvelles données à un classificateur entraîné, celui-ci multiplie les entrées par ces paramètres et calcule un score. Ce score atteint ou non un seuil prédéfini.

Cette description par seuil convient parfaitement aux classificateurs : détection de fraude, notation de crédit, sélection des candidats à l’embauche. Elle convient moins bien aux systèmes génératifs comme les grands modèles de langage, qui produisent une sortie jeton par jeton par un processus itératif façonné par la stratégie de décodage plutôt que par une simple vérification de score et de seuil. Le principe de base reste le même : le système ne pondère pas les alternatives comme le ferait un humain. Le mécanisme spécifique diffère uniquement selon l’architecture.

Pourquoi continuons-nous à parler de décision ?

Le langage joue ici un rôle bien réel, et ce n'est pas sans raison.

Quand on parle d'algorithme “"décidé"” En refusant votre prêt, nous attribuons implicitement une responsabilité au sein du système. Cette formulation facilite l'acceptation de la décision et rend plus difficile de s'interroger sur les personnes ayant fixé le seuil, choisi les données d'apprentissage et validé le déploiement du système. Le langage utilisé pour la décision masque une série de choix humains derrière un seul mot, donnant l'impression que c'est la machine qui a tranché.

Il ne s'agit pas d'une querelle sémantique. L'article 22 du RGPD accorde Les individus ont le droit à une explication lorsqu'une décision est prise. “uniquement par des moyens automatisés”. Ce langage réglementaire considère l'algorithme comme l'organe décisionnel, ce qui influence la manière dont les entreprises perçoivent les personnes à qui elles doivent des explications et dont elles élaborent ces explications.

Les systèmes d'IA peuvent-ils réellement expliquer leurs propres résultats ?

Généralement non, et les recherches à ce sujet sont plus inquiétantes que ne le laissent entendre la plupart des articles.

UN Enquête de 2023 auprès des chercheurs en IA Interrogés sur la capacité des systèmes d'IA les plus performants de 2028 à expliquer de manière fiable et intelligible les véritables raisons de leurs résultats, seuls 20 % ont estimé que les chances étaient supérieures à 50 %. Les techniques actuelles, telles que les scores d'importance des caractéristiques, les visualisations de l'attention et les explications contrefactuelles, décrivent les corrélations sur lesquelles le modèle s'appuie. Elles ne fournissent aucune explication comparable à celle qu'un humain donnerait pour justifier un choix.

C’est précisément cet écart entre les techniques d’explicabilité et une véritable explication qui constitue le principal obstacle à la plupart des initiatives de responsabilisation en IA. On peut certes produire un récit apparemment plausible des variables d’entrée les plus importantes. Mais la question de savoir si ce récit reflète la réalité du fonctionnement du modèle, ou s’il s’agit d’une simple approximation, reste une question technique ouverte.

En quoi cela a-t-il réellement de l'importance ?

Les enjeux augmentent fortement une fois “ Décisions de l’IA ” commencer à affecter la vie des gens d'une manière à laquelle ils ne peuvent s'opposer.

L’évaluation du crédit, la sélection des candidats à l’embauche, la tarification des assurances et la modération des contenus reposent de plus en plus sur des systèmes dont même leurs concepteurs ne peuvent pas entièrement retracer la logique interne. Les organismes de réglementation ont commencé à réagir directement à cette lacune. La loi européenne sur l'IA exige Documentation de transparence pour les systèmes à haut risque, assortie d'obligations spécifiques pour les systèmes à haut risque dont l'application est provisoirement proposée au plus tard le 2 décembre 2027, sous réserve d'adoption formelle. La loi SB 26-189 du Colorado exige des utilisateurs de technologies de prise de décision automatisée concernées qu'ils divulguent la manière dont ces technologies influencent les décisions, la conformité devant entrer en vigueur le 1er janvier 2027.

Ces règles supposent l'existence d'un décideur responsable. En réalité, elles réglementent une fonction de notation et les personnes qui l'ont configurée, ce qui est plus difficile à légiférer clairement que… “"décision"” le cadrage suggère.

Qui est réellement responsable lorsque… “"Décision"” Ça tourne mal ?

Non pas l'algorithme, car l'algorithme n'a pas été conçu pour choisir quoi que ce soit au sens humain du terme.

La responsabilité incombe aux personnes qui ont sélectionné les données d'entraînement, fixé le seuil, déterminé le taux d'erreur acceptable et approuvé le déploiement du système. Lorsqu'un algorithme de recrutement écarte systématiquement des candidats qualifiés issus d'un milieu particulier, la solution ne consiste pas à demander à l'algorithme de revoir sa stratégie. Il s'agit plutôt d'examiner les données d'entraînement, le seuil et les personnes qui ont validé ces éléments.

Certains informaticiens pourraient contester cela, et à juste titre : techniquement parlant, un classificateur sélectionne bien une classe plutôt qu’une autre, et un agent d’apprentissage par renforcement sélectionne bien une action plutôt qu’une autre. Ce sont des utilisations légitimes de “"décision"” En informatique, cette acception opérationnelle ne rend pas compte de la portée morale et délibérative du terme dans son usage courant, celle qui importe lorsqu'on s'interroge sur la responsabilité du résultat. L'échelle et la complexité architecturale ne comblent pas cet écart. Un calcul plus complexe reste un calcul, et non une prise de décision.

FAQ

Q : L'IA réfléchit-elle réellement avant de prendre une décision ?

Pas au sens humain du terme. La plupart des systèmes d'IA calculent une sortie à partir d'une fonction fixe apprise lors de l'entraînement, sans délibération ni évaluation des alternatives. Ce qui ressemble à de la pensée n'est en réalité qu'une reconnaissance de formes par rapport aux relations statistiques des données d'entraînement, exécutée de la même manière à chaque fois.

Q : Puis-je obtenir une explication concernant une décision de l'IA qui me concerne ?

Conformément à l'article 22 du RGPD, vous avez le droit d'obtenir une explication des décisions prises exclusivement par des moyens automatisés au sein de l'UE. En pratique, cette explication décrit les facteurs ayant influencé le résultat, et non la logique interne du système, car la plupart des modèles de production restent difficiles à interpréter, même pour leurs propres développeurs.

Q : Qui est responsable lorsqu'un système d'IA prend une mauvaise décision ?

Les personnes qui ont conçu, formé et déployé le système en sont responsables. Elles ont choisi les données d'entraînement, défini les seuils d'erreur acceptables et approuvé le système pour utilisation. Le système ne peut être tenu pour responsable moralement car il n'a pas été conçu pour évaluer les raisons comme le ferait un être humain.

Q : Les systèmes d'IA seront-ils un jour capables d'expliquer véritablement leurs décisions ?

L'avenir est incertain et la communauté d'experts se montre pessimiste. Une enquête menée en 2023 auprès de chercheurs en IA a révélé que seulement 20 % d'entre eux estimaient probable que, d'ici 2028, les utilisateurs connaîtraient les véritables raisons des résultats d'un système d'IA. Les techniques d'explicabilité actuelles se contentent d'approximer ces raisons plutôt que de les révéler directement.

L'IA ne prend pas de décisions comme vous. La plupart des systèmes calculent des scores et les comparent à des seuils définis, testés et approuvés par des humains. Chaque fois que nous disons qu'un algorithme a “ décidé ”, nous lui transférons tacitement une responsabilité qui incombe aux humains qui l'ont conçu. Ce transfert de responsabilité constitue précisément le déficit de transparence que les autorités de régulation s'efforcent aujourd'hui de combler.