L'IA résout le mauvais problème

Par Momar Lissa Ndiaye (« MLN »), fondateur et CEO, weyoga Inc.

L'IA a résolu l'information. Elle n'a pas encore résolu la reconnaissance.

Cette phrase pourrait bien décrire l'une des erreurs de catégorie les plus coûteuses de l'histoire de la technologie — non pas parce que l'industrie échoue dans ce qu'elle a entrepris, mais parce que ce qu'elle a entrepris ne représente que la moitié du problème humain.

Précisons d'abord les termes, car toute la suite de cette série en dépend. Par reconnaissance, je n'entends pas la mémorisation de faits concernant une personne. J'entends quelque chose de plus strict : la capacité d'identifier des schémas comportementaux récurrents dans le temps, et de les renvoyer à la personne avant qu'ils ne produisent un nouveau résultat. La mémoire stocke des événements. La reconnaissance détecte la récurrence. Ce sont deux capacités fondamentalement différentes — et c'est pourquoi, nous le verrons, aucune fenêtre de contexte, aussi longue soit-elle, ne résout ce problème à elle seule.

Considérons maintenant ce que les quatre dernières années ont réellement produit, et rendons-lui pleinement justice. Toute personne munie d'un téléphone peut désormais obtenir des réponses de niveau expert sur pratiquement n'importe quel sujet : médecine, droit, code, histoire, négociation, nutrition. Le coût marginal d'une bonne réponse s'est effondré vers zéro. C'est un accomplissement civilisationnel authentique, exécuté avec brio. Les laboratoires ne résolvent pas mal le mauvais problème. Ils résolvent extraordinairement bien le bon problème — qui n'est que la moitié du problème.

Car voici ce que ces mêmes quatre années ont également démontré, à l'échelle planétaire : des personnes disposant d'un accès illimité aux meilleures réponses du monde prennent à peu près les mêmes décisions qu'avant. Les mêmes relations se terminent de la même manière. Les mêmes engagements sont abandonnés le même mois. Les mêmes schémas financiers se répètent avec de nouveaux chiffres. La génération la plus informée de l'histoire n'en est pas une génération sensiblement plus sage.

L'explication implicite de l'industrie est que les réponses ne sont pas encore assez bonnes — que l'écart se comblera avec plus de paramètres, plus de raisonnement, plus de capacité. D'où la course : des modèles plus grands, des contextes plus longs, de meilleurs benchmarks. Mais cette explication suppose tacitement que le facteur limitant de la décision humaine est la qualité de l'intelligence disponible. Un siècle de recherche comportementale montre que cette hypothèse est fausse. Les gens ne répètent pas de mauvaises décisions par manque de connaissances. Ils les répètent parce qu'ils ne reconnaissent pas les schémas qui les produisent. Le fumeur connaît les statistiques. Le fondateur qui s'épuise tous les dix-huit mois a lu les essais sur le burn-out. La personne qui entre dans sa troisième relation identique peut décrire, avec une précision clinique, ce qui a mal tourné dans les deux premières — chez les autres. La connaissance n'est pas le goulot d'étranglement. La reconnaissance l'est.

La reconnaissance a des exigences différentes de celles de l'information. L'information est générale ; la reconnaissance est particulière. L'information peut être livrée en un seul échange ; la reconnaissance exige la continuité — un fil architectural ininterrompu à travers les interactions d'une personne au fil du temps, sans lequel la récurrence reste tout simplement invisible. Les humains obtiennent la reconnaissance, quand ils l'obtiennent, de longs mariages, de vieux amis, de bons thérapeutes, parfois d'un mentor de plusieurs décennies. C'est la ressource la plus rare d'une vie, et elle n'a jamais pu être fabriquée.

Comparons maintenant cela à ce que nous avons construit. Nous avons créé les machines à répondre les plus capables de l'histoire, et nous les avons rendues structurellement amnésiques. Chaque conversation repart de zéro. Le modèle capable de réussir l'examen du barreau ne peut pas remarquer que vous êtes en train d'avoir la même dispute qu'en mars, parce que pour le modèle, mars n'a jamais existé. Nous avons optimisé l'intelligence et traité la continuité — le substrat dont naît la reconnaissance — comme une demande de fonctionnalité.

La version inconfortable de cette critique vise la manière dont le domaine se mesure lui-même. La culture du benchmark récompense exactement un type de capacité. Nous avons passé des années à demander : le modèle peut-il répondre à cette question ? Presque personne ne demande : ce système reconnaîtra-t-il le même schéma chez cette personne dans six mois ? Il n'existe aucun classement pour cela. Aucune évaluation pour cela. Et ce qu'une industrie ne peut pas mesurer, elle ne le construit pas. La limitation la plus profonde de l'IA actuelle ne réside pas dans les modèles. Elle réside dans la question que tout l'appareil d'évaluation a été conçu pour trancher.

Voici l'argument le plus solide en faveur de la direction actuelle, car il le mérite. Il existe des domaines entiers — la science, l'ingénierie, la médecine — où un modèle plus intelligent est tout simplement un meilleur modèle, et où les rendements de l'intelligence brute restent immenses. Si vous cherchez à guérir des maladies ou à démontrer des théorèmes, vous devez vouloir la frontière. Rien dans cet essai ne le conteste. Mais ce sont des problèmes institutionnels. Le problème personnel non résolu — celui dans lequel chaque individu vit réellement — n'est pas que son IA manque de génie. C'est qu'elle ne le connaît pas. Un système simplement compétent qui a véritablement été témoin de vos deux dernières années changera davantage de vos décisions qu'un système génial qui vous rencontre pour la première fois. Faites le test sur votre propre vie : le meilleur conseil que vous ayez jamais reçu n'était presque certainement pas le conseil le plus intelligent disponible. C'était le conseil de quelqu'un qui vous connaissait.

Ce qui nous mène là où tout ceci se dirigeait depuis le début : le capital. Aujourd'hui, la quasi-totalité de l'investissement en IA se dirige vers l'intelligence — vers la couche dont le prix chute d'un ordre de grandeur tous les un à deux ans, à mesure que la capacité se diffuse et se banalise. Si l'argument ci-dessus est juste, l'actif rare en IA n'a jamais été l'intelligence. C'est la reconnaissance accumulée : la continuité avec des humains particuliers, qui se capitalise avec le temps, impossible à répliquer à quelque prix que ce soit, sur quelque calendrier accéléré que ce soit. L'une de ces couches se déprécie. L'autre se capitalise. Le marché n'en valorise aujourd'hui qu'une seule.

Quelqu'un finira par remarquer que l'actif rare n'a jamais été la réponse. Quand cela arrivera, la question qui définit la prochaine ère de l'IA changera discrètement — de « quelle est l'intelligence de votre modèle ? » à « à quel point votre système connaît-il la personne qu'il sert ? »

Ce sont deux problèmes différents. Nous n'en avons résolu qu'un seul.

Fait partie de The Recognition Layer →

Momar Lissa Ndiaye (« MLN ») est le fondateur et CEO de weyoga Inc., société du Delaware. — weyoga.ai · mln@weyoga.ai