Projet en cours : les essais locaux et les contrôles de provenance éclairent la conception. Ils ne prouvent pas l’absence d’inventions dans tous les dialogues.
Séparer les faits du monde et le texte généré
Pixelpit 3 explore un monde persistant dont les habitants sont pilotés par une IA locale. Le moteur de simulation conserve les faits du monde ; le modèle intervient dans des usages encadrés, comme préparer une activité, réagir ou dialoguer. Cette distinction permet de retrouver ce qui a effectivement eu lieu.
Cette séparation donne un point d’appui au diagnostic. Une phrase du personnage peut être examinée à côté des faits de simulation et de ses souvenirs. Elle ne devient pas, par sa seule formulation, une preuve qu’une action a eu lieu.
Retrouver un souvenir exprimé autrement
La mémoire est un bon exemple du problème. Fournir tout l’historique à chaque échange serait coûteux et noierait le contexte utile. Chercher seulement un mot exact manquerait une partie des souvenirs exprimés autrement.
Les embeddings offrent une piste intermédiaire. Ils représentent un texte sous forme de vecteur numérique pour comparer la proximité de sens. Une question reformulée peut alors retrouver un souvenir pertinent sans reprendre les mêmes mots.
Prenons un exemple fictif : un personnage a aidé quelqu’un à réparer un outil. Une question sur « le service rendu hier » peut être pertinente sans reprendre les mots de la réparation. Une recherche sémantique cherche ce rapprochement ; elle doit ensuite être combinée au contexte et aux droits de mémoire du personnage.
Le sens est un critère parmi plusieurs
Dans Pixelpit 3, cette proximité est combinée à d’autres critères : l’importance du souvenir, sa décroissance dans le temps et le lien avec les personnes présentes. La recherche reste propre à chaque personnage et se limite aux souvenirs actifs. La provenance garde aussi son rôle : entendre quelqu’un raconter une action ne transforme pas automatiquement ce récit en fait observé.
Un souvenir proche de la question peut être ancien, peu important ou rapporté par quelqu’un d’autre. Le retrouver ne signifie donc pas qu’il doit être présenté comme un fait vécu. L’étape de sélection doit garder ces différences visibles.
La limite par personnage a également une fonction narrative. Un habitant ne doit pas accéder à toutes les informations du monde simplement parce qu’elles existent dans le stockage. Sa mémoire contribue à son point de vue.
Choisir un profil compatible avec le fonctionnement local
Le dépôt contient un banc local comparant des modèles d’embedding sur un corpus synthétique français et une recherche implémentée dans le serveur. Ce travail a conduit à un profil de vecteurs stockés sur 512 dimensions. Le choix tient compte de la qualité de recherche, mais aussi de la place et du coût d’utilisation sur la machine. Les résultats d’un petit corpus de développement ne constituent pas une mesure universelle de compréhension.
Le banc de développement permet de comparer des choix sur les mêmes questions et souvenirs synthétiques. C’est une aide pour examiner les compromis entre représentation, stockage et recherche. Les dialogues d’un monde persistant ajoutent toutefois d’autres difficultés : nouvelles formulations, information incomplète et événements qui s’accumulent.
Un souvenir retrouvé peut encore être mal raconté
Une autre difficulté apparaît ensuite : retrouver un bon souvenir n’empêche pas le modèle d’inventer dans sa réponse. Les travaux récents rattachent davantage les souvenirs aux paroles réellement enregistrées et vérifient la fidélité des reformulations. Ils gardent la différence entre vécu, propos rapportés, intention et information inconnue.
Le travail de provenance aide à revenir de la réponse à ses éléments d’origine. Il permet aussi de conserver une information inconnue comme telle. Une intention formulée par un personnage ne doit pas être réécrite comme une action accomplie, et un propos entendu ne suffit pas à établir un souvenir personnel.
Évaluer les dialogues dans la durée
Cette exploration reste en cours. La longue durée, le comportement des dialogues et l’évaluation humaine demandent encore du travail. La génération et sa vérification par un modèle ne constituent pas, à elles seules, une garantie de vérité.
Mon prochain enjeu est de poursuivre des évaluations qui relient la conversation à ses sources : quel souvenir a été retenu, pourquoi celui-ci et quelle transformation a eu lieu dans la réponse ? Cela rend les erreurs discutables et les corrections plus ciblées.
Ce laboratoire m’intéresse aussi pour les outils métier utilisant une IA : la qualité ne dépend pas seulement d’une réponse fluide. Elle dépend de la capacité à retrouver la bonne information, à respecter son périmètre et à dire ce qui reste inconnu.
Cadrer un usage de l’IA avec ses sources
Recherche documentaire, assistants et automatisation demandent un périmètre de données et une évaluation explicites. Découvrez l’approche FAC6 pour les usages d’IA en entreprise.
Découvrir l’approche FAC6