Quand un chatbot invente un prix, c'est vous qui payez

C'était faux. La politique réelle de la compagnie excluait toute demande rétroactive. Air Canada a refusé de rembourser.

L'affaire est allée devant le tribunal civil de Colombie-Britannique. La compagnie a soutenu, entre autres arguments, que le chatbot devait être considéré comme une entité distincte, responsable de ses propres propos. Le tribunal a écarté cet argument et jugé qu'Air Canada était responsable de l'ensemble des informations figurant sur son site, qu'elles proviennent d'une page statique ou d'un assistant conversationnel. La décision, rendue le 14 février 2024, a condamné la compagnie à rembourser la différence de tarif, environ 650 dollars canadiens, portés à un peu plus de 800 avec les intérêts et les frais.

Le montant est dérisoire. Le principe, lui, ne l'est pas : ce que votre assistant affirme à un client, c'est vous qui l'affirmez.

Pourquoi une intelligence artificielle invente

Ce n'est ni un bug ni un accident. C'est une conséquence de la façon dont ces systèmes sont entraînés et évalués.

Des chercheurs d'OpenAI et de Georgia Tech l'ont formulé dans un article publié en septembre 2025, intitulé Why Language Models Hallucinate. Leur thèse tient en une phrase : les modèles de langage inventent parce que les procédures d'entraînement et d'évaluation récompensent la devinette plutôt que l'aveu d'incertitude.

L'image qu'ils emploient est parlante : comme un étudiant devant une question difficile, un modèle préfère tenter une réponse plutôt que de laisser une copie blanche, parce qu'une réponse fausse et une absence de réponse sont notées pareil, tandis qu'une réponse juste par chance rapporte des points.

Appliquez cela à votre boutique. Un acheteur demande le prix d'un article que votre assistant ne connaît pas. Le modèle ne dispose d'aucun mécanisme naturel pour dire « je ne sais pas ». Il produit un prix plausible. Et un prix plausible, c'est précisément un prix qu'on ne repère pas.

Les trois façons dont cela vous coûte de l'argent

Le prix inventé. Un client a lu 180 dirhams, on lui livre à 240. Soit vous honorez le prix annoncé et vous vendez à perte, soit vous refusez et vous perdez la vente, le client, et probablement un avis public. Dans un pays où l'on paie à la livraison, cette scène se joue devant la porte, avec un livreur qui attend.

Le délai promis. « Vous serez livré demain » alors que vous livrez Agadir en quatre jours. Le refus à la livraison est presque assuré, et vous payez l'aller et le retour.

La caractéristique affirmée. L'assistant dit que le sac supporte dix kilos, alors que votre fiche produit ne dit rien de tel. Le client l'achète pour cela. Il le renvoie pour cela.

Dans les trois cas, l'assistant a rendu service à personne : il a transformé un acheteur hésitant en client mécontent, ce qui coûte plus cher qu'une vente manquée.

Ce que dit le droit marocain

Deux textes méritent votre attention.

La loi 31-08 sur la protection du consommateur impose au vendeur une obligation générale d'information : le consommateur doit connaître le prix, les conditions de vente et les modalités de livraison. Elle impose également que le prix soit indiqué toutes taxes comprises. Ces obligations ne font aucune distinction selon le canal par lequel l'information est communiquée. Un prix annoncé par votre assistant est un prix que vous avez annoncé.

Par ailleurs, la Commission nationale de contrôle de la protection des données à caractère personnel travaille depuis 2025 à encadrer les traitements fondés sur l'intelligence artificielle, et a demandé en août 2026 que tout contenu généré par IA soit clairement signalé comme tel, en s'appuyant sur les dispositions du Code pénal relatives aux montages et contenus artificiels. Les modalités pratiques de ce signalement, son format et son emplacement, restent à préciser, et le contexte de cette prise de position était électoral. Mais la direction est claire, et elle rejoint ce qui se met en place ailleurs : en Californie, une loi impose depuis plusieurs années de dire à un interlocuteur qu'il parle à un programme ; l'Union européenne va dans le même sens.

La conclusion pratique est simple : dites à vos clients qu'ils parlent à un assistant. Non seulement c'est la direction du droit, mais l'expérience montre que cela ne gêne personne. Ce que l'acheteur retient, c'est d'avoir obtenu une réponse juste à 22 h.

La leçon Klarna, qui n'est pas celle qu'on croit

En février 2024, l'entreprise de paiement suédoise Klarna annonce que son assistant conversationnel accomplit le travail de sept cents agents, a traité 2,3 millions de conversations en un mois, et devrait améliorer son résultat d'environ quarante millions de dollars. L'annonce fait le tour du monde.

En mai 2025, son dirigeant Sebastian Siemiatkowski fait marche arrière publiquement. Il explique que le coût a pesé trop lourd dans les arbitrages, que la qualité s'en est ressentie, et que l'avenir passe par un investissement réel dans la qualité du support humain. Klarna réembauche.

On a beaucoup lu que « l'IA avait échoué chez Klarna ». Ce n'est pas ce qui s'est passé, et l'entreprise a continué à publier des chiffres de productivité liés à son assistant. Ce qui a échoué, c'est un périmètre : avoir confié à la machine des situations qui demandaient un humain. La leçon n'est pas de renoncer, elle est de délimiter.

Les six questions à poser à tout fournisseur d'assistant

Si vous envisagez d'équiper votre entreprise, ces questions suffisent à trier.

1. 1D'où viennent les informations que l'assistant donne ? La seule bonne réponse est : de mes données, et de rien d'autre.
2. 2Que se passe-t-il quand il ne sait pas ? La seule bonne réponse est : il le dit et passe la main. Un assistant qui ne sait jamais dire « je ne sais pas » dira un jour n'importe quoi.
3. 3Les chiffres affichés sont-ils vérifiés avant d'apparaître ? Un prix, un stock, un total ne doivent jamais être rédigés par le modèle : ils doivent être relus dans la base et insérés tels quels.
4. 4Puis-je voir ce qu'il a répondu ? Toutes les conversations, consultables, corrigeables.
5. 5Puis-je le corriger sans passer par vous ? Si chaque ajustement demande un développeur, vous n'avez pas acheté un produit.
6. 6Se présente-t-il comme un assistant ? Et si oui, comment, où, dans quelle langue.

Ce qu'il faut retenir

Un assistant qui parle à vos clients engage votre nom, votre prix et votre responsabilité. Ce n'est pas une raison de s'en passer : c'est une raison d'exiger qu'il sache se taire.

La technologie pour cela existe. On contraint la réponse aux données de l'entreprise, on vérifie chaque nombre avant de l'afficher, et on autorise explicitement la machine à répondre qu'elle ne sait pas. Ce sont des choix de conception, pas des options.