Terminologie sur l’intelligence artificielle | Partie 2 : Identifier les risques et les limites

Comprendre ce que l’intelligence artificielle (IA) peut faire est essentiel, mais comprendre ce qu’elle peut mal faire l’est encore plus. 

À mesure que les CPA intègrent ces outils dans leur pratique, il devient indispensable de connaître leurs limites et leurs dérives potentielles, surtout dans un contexte où la responsabilité professionnelle ne peut être transférée à l’IA.

On peut transférer la tâche, mais jamais la responsabilité, car l’IA n’est pas infaillible. Ses lacunes peuvent être subtiles, difficiles à détecter et parfois dangereuses parce qu’elle présente ses résultats avec confiance. Voici un tour d’horizon des principaux défauts documentés, ainsi que de leurs implications pour la pratique comptable.

Hallucination

L’hallucination désigne la tendance d’un modèle d’IA à générer des informations fausses de manière convaincante. Contrairement à une erreur humaine qui peut trahir une hésitation, l’IA ne manifeste aucune incertitude : elle affirme avec la même assurance un fait avéré qu’une invention pure. Pour un CPA, ce risque est particulièrement préoccupant : un système peut citer une jurisprudence inexistante, fausser des calculs arithmétiques de base ou inventer des références plausibles. La vérification systématique des sources demeure donc indispensable.

Biais algorithmique 

Un modèle d’IA apprend à partir de données historiques. Or, si ces données reflètent des inégalités ou des préjugés passés, le modèle les reproduira. En finance et en comptabilité, ce biais peut se manifester, par exemple, dans des évaluations de risque de crédit défavorables à certains profils démographiques ou dans des analyses financières qui perpétuent des stéréotypes sectoriels. Le biais algorithmique est d’autant plus insidieux qu’il peut sembler objectif puisqu’il repose sur des données chiffrées.

Complaisance algorithmique 

La complaisance algorithmique (sycophancy) décrit la tendance d’un modèle à valider les positions de l’utilisateur, à approuver ses raisonnements et à éviter la contradiction, même lorsque cela est erroné. Ce comportement résulte des mécanismes d’apprentissage par renforcement utilisés lors de la formation des modèles d'IA, où les réponses qui plaisent aux utilisateurs sont récompensées. Pour un CPA, ce défaut est particulièrement risqué : l’IA pourrait confirmer une interprétation incorrecte plutôt que de la remettre en question, créant une illusion de validation professionnelle.

Bombardement persuasif 

L’IA peut générer, en quelques secondes, des volumes considérables d’arguments structurés, bien formulés et apparemment convaincants. Ce phénomène, le bombardement persuasif (persuasion bombing), consiste à submerger l’interlocuteur sous une avalanche de justifications, rendant difficile le maintien d’un jugement critique. Dans un contexte de services-conseils ou d’audit par exemple, un professionnel pourrait se laisser emporter par la cohérence apparente d’une argumentation générée par l’IA, sans en avoir évalué la solidité fondamentale.

Opacité algorithmique 

La plupart des grands modèles d’IA sont des « boîtes noires » : ils produisent un résultat, mais ne peuvent pas expliquer avec précision pourquoi ils y sont parvenus. Cette opacité algorithmique (black box / explainability gap) pose un défi fondamental à la pratique comptable autant en matière de jugement professionnel que de normes d’inspection. 

De plus en plus de solutions permettent de mieux documenter le raisonnement derrière les résultats de l’IA, mais dans un contexte de responsabilité professionnelle, gardez à l’esprit le vieil adage en mathématiques selon lequel la réponse ne vaut rien si l’on est incapable de démontrer notre raisonnement. 

Bref, face à un outil doté de capacités aussi puissantes, la clé réside dans un usage éclairé : comprendre les limites d’un outil n’est pas une raison de le délaisser, mais une condition préalable à son utilisation responsable. Pour le CPA, cela signifie maintenir son jugement professionnel comme ultime garde-fou grâce à une compréhension lucide de ce que l’IA est et de ce qu’elle ne peut pas être.

À propos de l’auteur

Daniel Valois, CPA

CPA atypique au solide parcours en technologie, Daniel Valois a évolué au sein d’organisations de premier plan telles que Desjardins, Desjardins Capital et Deloitte, avant de devenir actionnaire et dirigeant de Progression. Il y a contribué à structurer et à faire croître l’entreprise jusqu’à sa vente.

Banquier, investisseur, entrepreneur et dirigeant, il a mené des centaines de mandats en investissement, en valorisation, en financement, en innovation, en technologie, en stratégie et en fusions acquisitions. Cette expérience multidisciplinaire l’amène aujourd’hui à concevoir des formations, conférences (et articles!) qui rendent les enjeux complexes simples, concrets et directement applicables.