Le procès contre l'IA « plus intelligente »

Par Momar Lissa Ndiaye (« MLN »), fondateur et CEO, weyoga Inc.

Cet essai s'adresse à la communauté de recherche, et il devrait s'ouvrir en désamorçant honnêtement le titre : il n'y a pas de procès contre l'IA plus intelligente au sens de la capacité — la science est magnifique, les gains sont réels, et rien ici ne plaide pour ralentir quoi que ce soit de tout cela. Le procès porte contre « plus intelligent » comme définition de mieux par le domaine — contre une monoculture d'optimisation dans laquelle un axe de progrès a absorbé le talent, le capital, l'appareil d'évaluation et l'imagination du domaine si complètement qu'un second axe, sans doute d'une valeur plus grande pour davantage d'êtres humains, ne fait pas simplement du retard. Il n'existe pas comme discipline du tout.

Énonçons d'abord l'observation structurelle, car tout le reste en dépend. Un domaine se définit par ce qu'il optimise, et ce qu'il optimise est défini par ce qu'il mesure. Parcourez la pile de mesure de l'IA contemporaine — les suites de benchmarks, les classements, les cadres d'évaluation, les rapports de capacité — et remarquez l'invariant : pratiquement tous les instruments dans l'armoire du domaine mesurent la performance au sein d'une session, pour un utilisateur anonyme. Profondeur de raisonnement, exactitude factuelle, achèvement de tâches, innocuité — tous en forme de session, tous sans sujet. Nommons maintenant ce qui n'a aucun instrument nulle part dans la pile : si un système, déployé avec un être humain particulier pendant un an, a rendu meilleures les décisions de cet humain. Le bénéfice longitudinal, par sujet — la chose même que chaque essai précédent de cette série a soutenu être le produit réel de l'IA dans une vie — n'a aucun benchmark, aucun classement, aucune évaluation, aucun atelier, aucune piste de conférence. Le domaine n'échoue pas à la mesure. Le domaine ne l'a pas proposée. Et le silence d'une discipline sur une mesure est une décision sur ce qui compte comme progrès, que quelqu'un l'ait prise délibérément ou non.

Fixons ici la cible de cet essai, exactement, avant que tout autre chose ne soit argumentée : le procès n'est pas contre les chercheurs, dont les incitations sont fixées par des instruments qu'ils ont hérités ; il est contre l'instrument manquant. Le domaine possède d'excellents benchmarks de capacité et presque aucun benchmark d'impact humain longitudinal. Tout ce qui suit est une note de bas de page à cette phrase.

La réponse prévisible est que c'est un travail d'application — les modèles sont généraux ; le bénéfice longitudinal est une question de produit pour l'industrie, non une question de recherche pour le domaine. Cette réponse mérite d'être démontée soigneusement, car c'est le mur porteur de la monoculture. Considérons ce qui est réellement non résolu dans la construction de la couche de reconnaissance que cette série a précisée : comment représenter la séquence comportementale d'une personne de telle sorte que la récurrence soit détectable à travers la variation de surface (un problème d'apprentissage de représentation, et un problème difficile) ; comment calibrer la confiance dans un schéma détecté par rapport au coût éthique d'un faux positif délivré à son sujet (un problème de calibration dont les enjeux n'ont jamais été chiffrés par le domaine) ; comment modéliser la réflexivité — le phénomène central de l'essai 7, une prévision qui altère sa cible lors de la livraison — ce qui brise les hypothèses i.i.d. sous-jacentes à la plupart de la théorie du domaine ; comment évaluer tout cela, quand l'effet de traitement de la reconnaissance se déploie sur des années et que le fait pour le sujet de voir la mesure change ce qui est mesuré. Ce ne sont pas des questions de produit. Ce sont des problèmes de recherche ouverts de premier ordre — représentation, calibration, non-stationnarité, évaluation sous réflexivité — et ils sont non revendiqués non pas parce qu'ils sont faciles ou appliqués, mais parce que le gradient de prestige du domaine, comme l'a observé l'essai 11 à propos de l'industrie, pointe ailleurs. « Ce n'est qu'une application » est la manière dont une monoculture décrit chaque axe qu'elle a refusé d'instrumenter.

Maintenant le contre-argument le plus solide, car un procès adressé à des chercheurs doit passer leur revue. La généralité est le pari, et le pari gagne : la leçon centrale de l'ère du scaling — la leçon amère — est que la capacité générale, mise à l'échelle, finit par englober toute architecture spécialisée ; construisez le modèle assez intelligent et la couche personnelle en découle comme un détail de déploiement en aval. Trois réponses, par ordre croissant de force. Premièrement, le bilan empirique dans les propres termes de la thèse : la capacité s'est mise à l'échelle à travers plusieurs générations stupéfiantes tandis que l'axe du bénéfice longitudinal a bougé d'à peu près zéro — si la couche personnelle était en aval de la capacité, un certain gradient devrait être visible maintenant, et le « courant mince » universellement ressenti de l'essai 17 est le résultat nul, rapporté par des centaines de millions de sujets. Deuxièmement, le mécanisme, pour la dernière fois dans cette série : l'information de niveau séquence est absente, non latente — aucune capacité ne récupère une information qui n'a jamais été observée, donc l'écart n'est pas en aval de l'intelligence ; il lui est orthogonal, ce qui explique précisément pourquoi le scaling ne le touche jamais. Troisièmement, et visant la leçon elle-même : la leçon amère met en garde contre l'ingénierie manuelle de ce que le calcul peut apprendre — elle ne dit rien sur ce que l'architecture des données permet d'observer. La continuité n'est pas une fonctionnalité astucieuse destinée à être englobée par l'échelle. C'est la précondition des observations dont l'échelle apprendrait. Mal lire une contrainte d'observabilité comme un choix d'architecture est la façon dont une leçon correcte devient une erreur de catégorie.

Il existe aussi un argument humain, et une audience de recherche a gagné la version candide. La monoculture n'est pas seulement une allocation de mesure ; c'est une allocation de carrières — une génération des esprits techniques les plus capables vivants, triée par le gradient de prestige pour rendre la machine à répondre marginalement meilleure pour répondre, tandis que les questions de représentation, d'architecture de consentement, d'évaluation réflexive, et de bénéfice longitudinal — des questions dont les solutions se capitaliseraient dans des millions de vies — restent essentiellement non dotées, attendant que le domaine décide qu'elles sont respectables. Les domaines ont déjà pris cette décision auparavant. La médecine a passé des siècles classée par prestige autour de l'intervention héroïque avant que l'épidémiologie — peu glamoureuse, longitudinale, à l'échelle de la population — ne devienne une science, et les ingénieurs sanitaires et les suiveurs de cohortes ont sauvé plus de vies que les chirurgiens. Les chercheurs qui construiront les instruments pour le second axe de l'IA seront les épidémiologistes de cette génération : moins cités d'abord, démodés d'abord, et corrects.

Ainsi, le procès contre l'IA « plus intelligente » se réduit à une proposition que tout chercheur peut mettre en œuvre, et elle est délibérément modeste : construisez un instrument. Proposez le benchmark pour la détection de récurrence de schéma dans des séquences comportementales longitudinales. Publiez le cadre d'évaluation pour le timing d'intervention sous réflexivité. Définissez la norme d'architecture de consentement de la manière dont la confidentialité différentielle a été définie — comme des mathématiques, non des politiques. La monoculture ne sera pas raisonnée hors de l'existence, et elle ne devrait pas l'être : l'axe de capacité mérite son éclat. Elle prendra fin de la manière dont les monocultures prennent toujours fin — par la première mesure crédible sur un second axe, après quoi le domaine découvre qu'il avait été une monoculture depuis le début.

Les systèmes les plus intelligents du domaine ne peuvent toujours pas dire à une personne la phrase unique qui changerait son année. Ce n'est pas un écart de capacité, et aucune quantité de « plus intelligent » ne le comble. C'est une discipline qui n'existe pas encore — attendant, comme toute discipline le fait, son premier instrument.

L'essai suivant quitte la salle de recherche pour le fauteuil de l'opérateur : ce que les gens qui bâtissent des entreprises — et les financent, et s'y épuisent — se trompent systématiquement sur les schémas que cette série décrit.

Fait partie de The Recognition Layer →

Momar Lissa Ndiaye (« MLN ») est le fondateur et CEO de weyoga Inc., société du Delaware. — weyoga.ai · mln@weyoga.ai