1. Il prédit la suite du texte
Un chatbot repose sur un grand modèle de langage (LLM). Le modèle lit votre message et rédige sa réponse petit morceau par petit morceau. Ces morceaux s’appellent des tokens — en gros un mot court ou une partie de mot. À chaque étape, il choisit un token probable en fonction de tout ce qui précède.
Comme il construit sa réponse étape par étape, lui demander de « réfléchir étape par étape » ou de planifier avant de répondre améliore souvent la qualité sur les problèmes complexes. Beaucoup d’assistants le font désormais automatiquement dans un mode « raisonnement ».
2. La fenêtre de contexte est sa mémoire à court terme
Tout ce que le modèle peut « voir » à la fois — vos messages, ses réponses, les fichiers envoyés — s’appelle la fenêtre de contexte. Les fenêtres actuelles peuvent contenir des livres entiers, mais elles restent limitées. Dans une très longue conversation, les premiers détails peuvent être oubliés ou moins pris en compte.
- Ouvrez une nouvelle conversation quand vous passez à une tâche sans rapport.
- Recollez les faits importants si une longue conversation dérive.
- Utilisez les Projets, GPT personnalisés ou Gems (module 4) pour garder des consignes permanentes.
3. Les données d’entraînement ont une date limite
Les modèles apprennent à partir de données collectées jusqu’à une certaine date. Ce qui vient après — prix, actualités, nouvelles versions de logiciels — le modèle ne le sait pas, sauf s’il peut chercher sur le web ou si vous lui donnez l’information. Si la réponse dépend de faits récents, activez la recherche web ou collez vous-même la source.
4. Les outils élargissent ses capacités
Seul, un modèle ne produit que du texte. Les assistants deviennent bien plus puissants lorsqu’ils sont reliés à des outils : recherche web, exécution de code, lecture de fichiers, génération d’images ou pilotage d’autres applications. Quand un assistant « analyse des données » ou « navigue », il utilise un outil et lit le résultat.
Pourquoi les chatbots inventent
Quand le modèle n’a pas la bonne information, la suite « la plus plausible » peut être une réponse précise, assurée… et fausse. C’est ce qu’on appelle une hallucination. Cela arrive surtout avec les chiffres exacts, les citations, les liens, les faits très spécialisés et l’actualité récente.
Pour les réduire : donnez la source, demandez-lui de dire « je ne sais pas » en cas de doute, exigez des sources consultables, et vérifiez tout ce qui compte.
Réponds uniquement à partir du document ci-dessous. Si la réponse n’y figure pas, écris « Absent du document. » Cite mot pour mot la phrase que tu as utilisée. [collez le document]