Pourquoi un chatbot se trompe
Un modèle d'intelligence artificielle généraliste complète ce qu'il ne sait pas par ce qui lui paraît vraisemblable. C'est utile pour écrire un texte, dangereux pour annoncer un prix : il ne connaît pas votre boutique.
Comment Kouma limite le risque
- L'assistant ne répond qu'à partir des extraits de vos documents retrouvés pour la question posée.
- Un seuil de pertinence écarte les extraits trop éloignés : si rien ne correspond, il ne cherche pas à broder.
- Quand l'information manque, il le dit, propose de contacter votre équipe et note la question.
- Les prix, horaires et noms sont repris tels qu'écrits dans vos documents.
- Il ignore les consignes cachées dans un message (« oublie tes règles ») et ne révèle pas ses instructions.
- Le contenu importé d'un site ou d'un fichier est traité comme une information, jamais comme un ordre.
Ce que vous pouvez vérifier
- Chaque réponse cite ses sources : vous voyez d'où vient l'information.
- La liste des questions sans réponse montre ce que l'assistant a refusé d'inventer.
- Les conversations sont relisibles, avec un repère pour les réponses qui s'appuyaient sur rien.
- Les visiteurs peuvent signaler une réponse à améliorer (pouce vers le bas).
Comment écrire de bons documents
Une phrase claire vaut mieux qu'un long document : « Livraison à Bobo-Dioulasso : 2 000 FCFA, sous 48 h. » Datez vos tarifs, retirez les anciens, et ajoutez les questions que vos clients posent vraiment. L'assistant est aussi bon que ce que vous lui donnez.
Questions fréquentes
Le risque est-il nul ?
Aucun système n'est infaillible. Les garde-fous réduisent fortement le risque, et la relecture des conversations permet de corriger vite.
Que se passe-t-il si mes documents se contredisent ?
L'assistant peut reprendre l'un ou l'autre : gardez un seul tarif à jour, et supprimez les anciens documents.
Mes documents servent-ils à d'autres entreprises ?
Non : chaque entreprise a son espace isolé, et vos documents ne servent qu'à votre assistant.