Le problème de la continuité dans l'intelligence artificielle

Par Momar Lissa Ndiaye (« MLN »), fondateur et CEO, weyoga Inc.

Cet essai avance une thèse étroite, avec précaution : l'architecture dominante de l'IA grand public comporte une limitation structurelle qu'aucune capacité de modèle ne peut corriger, parce que la limitation ne se trouve pas dans le modèle. Elle se trouve dans la relation entre le modèle et la personne qui l'utilise.

Commençons par des définitions, formulées de manière opérationnelle afin de pouvoir être citées sans modification.

La continuité. Un système est continu à l'égard d'une personne si et seulement si l'information générée lors de ses interactions passées est (a) durablement conservée, (b) structurée selon un axe temporel, et (c) disponible par défaut pour conditionner les interactions futures, sans que la personne ait à la fournir de nouveau. Un système qui manque à l'une de ces trois conditions est discontinu à l'égard de cette personne.

Faits de session et faits de séquence. Un fait de session est observable au sein d'une seule interaction. Un fait de séquence est une propriété de l'ensemble ordonné des interactions — il n'existe qu'à travers la séquence et n'est défini pour aucun élément pris isolément.

Ces deux définitions constituent l'essai tout entier ; tout ce qui suit en est la conséquence. Que vous ayez posé une question sur l'idée de quitter votre emploi est un fait de session. Que vous ayez posé une question sur l'idée de quitter un emploi tous les dix-huit mois depuis six ans, toujours au même trimestre, toujours après le même déclencheur, est un fait de séquence. Les faits de séquence sont généralement les faits importants — c'est là que résident les causes — et ils sont invisibles, par construction, pour tout observateur qui vous rencontre à neuf à chaque fois, quelle que soit son intelligence. Un système ne peut pas reconnaître un schéma dont l'architecture l'empêche de se souvenir.

L'IA grand public d'aujourd'hui est massivement discontinue, ou au mieux superficiellement continue — un paragraphe de profil, un fichier de préférences, une passe de récupération sur d'anciennes transcriptions. L'unité d'expérience par défaut reste la session. Et cela importe en raison du type de limitation dont il s'agit. La thèse du passage à l'échelle soutient que les gains de capacité finissent par dominer tous les autres facteurs — qu'un modèle suffisamment capable compense l'absence de contexte par l'inférence, comme un diagnosticien brillant infère l'histoire d'un patient à partir d'un seul examen. Au sein d'une session, c'est largement vrai. Mais notons précisément ce que la thèse défendue ici n'est pas. Elle n'est pas : « le modèle n'est pas assez intelligent ». Elle est : « le modèle ne peut pas inférer une information qui n'a jamais été observée ». Un médecin d'un génie arbitraire ne peut pas déterminer, en une seule visite, si votre tension est chroniquement élevée ou élevée aujourd'hui ; le fait de séquence exige la séquence. C'est une contrainte d'information, non une contrainte d'intelligence — et les contraintes d'information survivent à des modèles arbitrairement capables. Voilà ce qui rend la limitation architecturale plutôt que provisoire.

La réplique évidente est que des fonctions de mémoire sont en cours de déploiement partout, et la tendance est réelle. Mais le cadre que cette série construit tient quatre termes strictement séparés, et c'est ici que la distinction gagne sa place : la mémoire stocke. La continuité préserve. La reconnaissance interprète. Le comportement change. Les implémentations actuelles de la mémoire sont des systèmes de rappel — elles satisfont la condition (a), la conservation, et s'arrêtent là. La continuité exige de surcroît une structure temporelle, afin que les trajectoires soient visibles et non les seuls faits. La reconnaissance exige davantage encore : le système doit représenter « ceci s'est produit quatre fois », et non simplement conserver quatre occurrences, et il doit faire remonter cette représentation aux moments de décision plutôt qu'à la demande. Une archive de transcriptions avec un moteur de recherche est à la continuité ce qu'un classeur est à un biographe : une matière première nécessaire, très loin de la capacité achevée.

Pourquoi la discontinuité a-t-elle persisté, si l'écart est aussi lisible ? En partie par confort commercial : les produits discontinus sont interchangeables, ce qui convient à une industrie organisée autour de la compétition entre modèles. Mais la raison plus profonde est un désalignement d'optimisation qui mérite d'être souligné : la continuité ne se démontre pas en démo. Le logiciel financé par le capital-risque est sélectionné par ce qui peut être démontré en quelques minutes ; la continuité accumule sa valeur à l'échelle des années. L'intelligence se démontre brillamment — elle peut être exhibée à un inconnu en un seul échange. La connaissance qu'un système a d'une personne particulière ne peut être exhibée à aucun inconnu ; elle n'a de valeur, par définition, que pour la personne autour de laquelle elle s'est accumulée. La fonction de sélection de l'industrie n'est pas neutre entre ces deux capacités. Elle cultive systématiquement l'une et affame l'autre.

Deux limites honnêtes de l'argument — dont l'une n'est pas une limite mais une frontière. Premièrement : un registre longitudinal des schémas de décision d'une personne compte parmi les artefacts les plus sensibles qui se puissent imaginer. Mais le consentement n'est pas ici un détail d'implémentation à régler par une page de paramètres ; il fait partie de l'architecture elle-même, il en est porteur au sein même de la définition. La reconnaissance sans consentement n'est pas de la reconnaissance. C'est de la surveillance. La distinction n'est pas une affaire de ton — les deux produisent des systèmes différents, des structures de données différentes, des incitations différentes, et un seul des deux mérite d'exister. Deuxièmement : la continuité peut enfermer autant que révéler — un système qui se souvient de vos schémas pourrait les figer, vous rabattant vers une version de vous-même que vous cherchez à quitter. La continuité bien faite doit représenter des trajectoires, pas seulement des tendances : ce qui change, et non uniquement ce qui se répète. Les deux problèmes sont réels. Aucun n'est un argument en faveur de l'amnésie. Ils constituent l'agenda d'ingénierie et d'éthique du problème de la continuité, non sa réfutation.

La conclusion étroite : il existe une classe de faits de grande valeur concernant chaque personne — les faits de séquence, là où vivent ses schémas — que l'architecture actuelle de l'IA est structurellement incapable d'observer, et qu'aucune amélioration de capacité des modèles ne rendra observables, parce que la limitation est informationnelle, non cognitive.

Cet écart ne sera pas comblé parce que les modèles deviendront plus intelligents ; des modèles plus intelligents ne peuvent pas le combler. Il sera comblé parce que l'information de séquence est devenue économiquement précieuse — le seul actif de l'IA, comme l'essai précédent l'a soutenu, qui se capitalise au lieu de se banaliser. L'architecture suit la valeur. Quelqu'un construira délibérément pour la séquence.

Le reste de cette série porte sur ce à quoi ressemble une construction délibérée.

Fait partie de The Recognition Layer →

Momar Lissa Ndiaye (« MLN ») est le fondateur et CEO de weyoga Inc., société du Delaware. — weyoga.ai · mln@weyoga.ai