Comment fonctionne un chatbot ? la mécanique secrète révélée

Un client m'a écrit l'autre jour, à moitié furieux : « Votre chatbot m'a dit qu'il allait me rappeler. Il ne m'a jamais rappelé. Est-ce qu'il y a un humain derrière, au moins ? »

Bonne question. Et la réponse honnête, c'est : ça dépend entièrement de quel type de chatbot vous avez en face. Derrière cette même petite bulle de conversation, il y a des mécanismes radicalement différents — un simple arbre de décisions d'un côté, un réseau de neurones de plusieurs milliards de paramètres de l'autre. Savoir comment fonctionne un chatbot, c'est d'abord savoir reconnaître lequel vous parlez.

Je vais vous montrer la mécanique interne, celle qu'on ne trouve presque jamais expliquée. Pas la définition de surface, mais le pipeline réel : ce qui se passe entre le moment où vous tapez votre phrase et celui où la réponse s'affiche.

Comment fonctionne un chatbot, concrètement : la mécanique sous le capot

Prenons votre phrase d'utilisateur. « Je veux annuler ma commande passée hier. » Vous appuyez sur Entrée. Il se passe alors une suite d'opérations précises, et comprendre cet enchaînement change tout à la façon dont vous jugez un chatbot.

Étape 1 : ce que reçoit réellement la machine

Rien d'autre qu'une chaîne de caractères. Le chatbot ne « comprend » pas le sens du mot « annuler » comme vous et moi. Il reçoit un flux brut, qu'il découpe en unités plus petites. Dans les modèles de langage, on appelle ça la tokenisation : la phrase est fragmentée en morceaux (parfois des mots entiers, parfois des bouts de mots), puis chaque morceau est converti en nombre. Le texte disparaît. Il ne reste qu'une suite de vecteurs.

Étape 2 : détecter l'intention

Ici, deux écoles se séparent radicalement.

L'approche classique utilise ce qu'on appelle la NLU — compréhension du langage naturel. Le système cherche à classer votre phrase dans une catégorie déjà connue : « annulation », « suivi de colis », « remboursement ». Il s'appuie sur des mots-clés, sur des exemples d'entraînement, parfois sur une détection d'entités (le numéro de commande, la date). Franchement, sur des périmètres étroits, ça marche très bien.

L'approche générative ne classe rien. Le modèle prédit, token après token, la suite de texte la plus probable compte tenu du contexte. Il ne choisit pas « annulation » dans une liste. Il fabrique une réponse.

Étape 3 : la gestion du contexte

Voilà le point qui trahit la plupart des systèmes mal conçus. Un chatbot doit se souvenir de ce qui a été dit avant. Dans un arbre de décision, cette mémoire est explicite : on stocke la variable « commande sélectionnée » et on la traîne de question en question. Dans un modèle génératif, on renvoie à chaque tour l'historique de la conversation dans ce qu'on appelle la fenêtre de contexte.

Dépassé cette fenêtre, le modèle oublie. C'est pour ça qu'un assistant peut très bien traiter une demande de trois échanges et perdre le fil au vingtième. Ce n'est pas de la mauvaise volonté. C'est une limite mécanique.

Étape 4 : la restitution

La réponse calculée est re-tokenisée, remise en texte, puis envoyée. Et là intervient une couche qu'on oublie souvent : le formatage. Boutons, liens, cartes produit, ton de voix. Deux chatbots sur la même technologie peuvent donner des impressions opposées selon cette seule couche.

Quel est le principe d'un chatbot ?

Le principe tient en une phrase : reproduire une conversation en associant à une entrée une sortie jugée pertinente. Toute la complexité est dans le mot « jugée ».

Un chatbot à règles juge la pertinence selon un scénario écrit par un humain. Si l'utilisateur écrit exactement ce que l'auteur du scénario avait anticipé, tout va bien. Sinon, le système tombe dans le fameux « Je n'ai pas compris votre demande ». Vous avez déjà vu ce message. Tout le monde l'a vu.

Un chatbot IA juge la pertinence statistiquement, en s'appuyant sur ce qu'il a appris de masses de textes. Il est bien plus tolérant aux formulations inattendues. Il est aussi capable de répondre avec assurance à des questions pour lesquelles il n'a aucune information fiable. C'est le revers exact de sa souplesse.

Règles contre IA : le tableau qui clarifie

Critère	Chatbot à règles	Chatbot génératif (LLM)
Origine de la réponse	Écrite à l'avance dans un scénario	Calculée à chaque échange
Coût de mise en place	Faible	Variable, souvent plus élevé
Prévisibilité	Totale	Partielle
Tolérance aux fautes de frappe	Faible	Bonne
Risque d'invention	Quasi nul	Réel
Maintenance	Manuelle, à chaque nouveau cas	Par ajustement ou par sources externes

Mon avis, et je le défends : pour une procédure fermée — suivi de commande, prise de rendez-vous, questions sur les horaires — un arbre de décision bien fait bat un modèle génératif. Moins cher, plus fiable, plus rapide. Sortir un LLM pour répondre à « quels sont vos horaires d'ouverture » relève de l'erreur de casting.

ChatGPT est-il un chatbot ?

Oui, techniquement. Mais la question mérite qu'on la retourne : tous les chatbots ne sont pas ChatGPT, et confondre les deux mène à de mauvaises décisions.

ChatGPT est un chatbot génératif. Il repose sur un modèle de langage entraîné sur d'immenses volumes de texte, et il génère ses réponses. Un chatbot de service client peut très bien ne contenir aucun modèle de ce genre et fonctionner sur un simple graphe de décisions.

La confusion vient d'un raccourci de langage. Quand quelqu'un dit « chatbot » aujourd'hui, il pense souvent « assistant capable de répondre à n'importe quoi ». Or la majorité des chatbots réellement déployés en entreprise restent des systèmes à périmètre défini. Et c'est très bien ainsi : un assistant généraliste laissé sans garde-fou sur un site marchand, c'est un risque, pas une fonctionnalité.

Pourquoi un chatbot IA invente-t-il des choses ?

Parce qu'il ne cherche pas une vérité, il cherche la suite la plus probable. Si on lui demande un numéro de téléphone qu'il ne connaît pas, la suite statistiquement plausible ressemble à un vrai numéro. Le modèle n'a aucun mécanisme interne pour distinguer « je sais » de « je génère quelque chose qui ressemble à une réponse ».

C'est pour ça que je refuse de laisser un modèle génératif répondre sans source vérifiable sur des sujets où une erreur coûte cher : montants, délais légaux, conditions contractuelles.

RAG, fine-tuning : comment on cadre un chatbot génératif

Deux techniques reviennent tout le temps, et on les confond systématiquement.

• Le RAG (génération augmentée par récupération) : avant de répondre, le système va chercher des passages pertinents dans une base documentaire que vous contrôlez, puis demande au modèle de répondre à partir de ces passages. Vous branchez une source de vérité.
• Le fine-tuning : on réentraîne partiellement le modèle sur vos exemples pour ajuster son comportement, son ton, son format de réponse. Vous modifiez la manière, pas la connaissance factuelle.

J'ai fait l'erreur, au début, de vouloir tout régler par fine-tuning. Trois semaines d'ajustements pour découvrir que le modèle continuait à inventer des tarifs que je n'avais jamais intégrés. Le RAG a réglé le problème en deux jours. La leçon m'a coûté du temps, mais elle est simple : la connaissance se branche, le comportement s'entraîne.

Une troisième voie existe, plus légère : le simple prompt système, une instruction qui cadre le rôle et les limites du modèle. Pour beaucoup de besoins internes, ça suffit. Inutile de sortir l'artillerie quand un cadre bien écrit fait le travail.

Chatbot, comment ça se prononce en français ?

Question qu'on me pose plus souvent qu'on ne l'imagine, et elle a une vraie réponse : on dit « tchate-botte ». Le mot est un emprunt à l'anglais, formé de chat (bavarder) et bot (robot), et le français l'a adopté en gardant la prononciation d'origine, avec un « tch » à l'initiale.

On entend parfois « chat-botte », en détachant les deux syllabes. C'est moins courant et ça sonne hésitant. Dans un contexte professionnel, la version liée passe mieux.

Un exemple concret, du scénario à la réponse

Reprenons ma cliente mécontente du début. Voici ce qui s'était passé, et pourquoi son chatbot avait promis un rappel qu'il ne pouvait pas tenir.

1. Elle écrit une demande de remboursement, formulée de trois façons différentes en un seul message.
2. Le système détecte le mot « remboursement » et déclenche le scénario correspondant.
3. Le scénario prévoit une réponse rassurante : « Un conseiller vous recontactera sous 48 h. »
4. Aucune brique technique ne relie réellement cette promesse à un système de tickets.

Le chatbot n'a pas menti. Il a récité. C'est toute la différence entre un système qui dit et un système qui fait. La panne n'était pas dans le modèle, elle était dans l'absence de connexion entre la promesse et l'action.

Depuis, je pose systématiquement une question avant tout projet : quelles phrases ce chatbot sera-t-il autorisé à prononcer sans pouvoir les tenir ? La liste est souvent plus longue que prévu. Et chaque ligne de cette liste est un engagement à raccorder à quelque chose de réel.

Quelle architecture choisir, et pourquoi

Il n'y a pas de bonne réponse universelle, mais il y a une méthode. Trois questions, dans cet ordre.

Le périmètre est-il fermé ? Si la liste des demandes possibles tient sur une page, un arbre de décision suffit et restera le choix le plus économique à maintenir.

Les réponses doivent-elles être traçables ? Si une erreur engage votre responsabilité, il vous faut une source contrôlée. RAG, ou règles. Pas de génération libre.

Le ton et la formulation comptent-ils ? Si vous vendez une expérience soignée, l'ajustement du comportement du modèle devient utile. C'est là que le fine-tuning gagne sa place.

Ce qui reste vrai dans tous les cas : la qualité d'un chatbot se joue moins sur le modèle choisi que sur ce qu'on accepte de lui confier. Un système modeste qui ne promet que ce qu'il peut tenir rendra plus de services qu'un assistant brillant qui improvise. C'est moins excitant à présenter en réunion. C'est beaucoup plus solide en production.

Et si un jour votre chatbot vous promet un rappel, allez vérifier qui, derrière, est chargé de le passer. La réponse à cette question vous en dira plus sur votre système que n'importe quelle fiche technique.