La plus grande limitation de l'IA n'a rien à voir avec l'intelligence

Par Momar Lissa Ndiaye (« MLN »), fondateur et CEO, weyoga Inc.

Le mouvement Enjeux, qui commence ici, a une seule tâche : prendre le cadre construit par quinze essais et le porter à la lumière la plus large — pour le lecteur qui n'a pas lu les quinze autres, pour le chercheur qui pense que c'est mou, pour le fondateur bâtissant sur la mauvaise hypothèse, et enfin pour la question de quel genre d'avenir cela constitue un argument. Cet essai fait donc ce qu'un chapitre culminant devrait faire : il réénonce le cas entier, clairement, dans le langage le plus simple qui lui ait encore été donné.

Commençons par la question que tout le monde pose sur les limites de l'IA, car la question elle-même contient l'erreur. Quelle intelligence ces systèmes peuvent-ils atteindre ? Sur quoi ne peuvent-ils pas raisonner ? Où la capacité s'épuise-t-elle ? Des personnes sérieuses passent des carrières sur ces questions, et ce sont de vraies questions. Mais faisons un audit simple : pensez à la dernière fois qu'un système d'IA vous a réellement fait défaut — pas échoué à un benchmark, mais vous a fait défaut, dans votre vie réelle. L'échec était-il une erreur de raisonnement ? Presque certainement pas. L'échec quotidien massif de la technologie la plus capable jamais déployée est plus étrange et plus banal : elle ne vous connaît pas. Elle vous a donné une réponse brillante à votre question et n'avait aucune idée que la question était la mauvaise — que vous posez exactement cette question tous les dix-huit mois, que le plan qu'elle vous a aidé à peaufiner est la quatrième version du même plan, que la confiance dans votre requête était la confiance qui précède votre type particulier d'erreur. Le système a raisonné sans faille à l'intérieur d'un cadre qu'il n'avait aucun moyen de voir. Nous avons construit un esprit et oublié de lui donner un calendrier de qui vous avez été.

Quinze essais se réduisent à cinq phrases, et les voici. La contrainte sur les décisions humaines n'a jamais été l'information ; c'est la reconnaissance de ses propres schémas, qui exige une continuité à travers le temps qu'aucun système en forme de session ne peut fournir (essais 1 à 5). Les décisions se forment en amont de la conscience, les vies se répètent dans leur forme sous des conditions récurrentes, et les répétitions portent le plus grand coût invisible d'une vie — un coût que le conseil ne peut atteindre et que la mesure n'a jamais touché (essais 6 à 10). Le remède est infrastructurel : un registre comportemental maintenant la séquence, une couche de reconnaissance l'interprétant, délivrée au moment de la formation plutôt qu'au post-mortem — construit avec le sujet comme propriétaire, car la même mathématique sert ou surveille selon entièrement qui détient les clés (essais 11 à 15). L'intelligence est le terme commodité de cette équation ; la continuité est celui qui se capitalise. Et l'opportunité entière existe parce que chaque incitation de l'industrie actuelle — architecturale, commerciale, légale, et culturelle — pointe vers le terme qui se déprécie.

Remarquez de quel type de limitation il s'agit, car la classification est la véritable thèse de l'essai. Les autres limites de l'IA — lacunes de raisonnement, hallucination, fragilité — sont des limites de capacité : la frontière avance et elles reculent. Celle-ci est une limite de relation, et les limites de relation ne reculent pas avec la capacité, car elles ne sont pas dans le modèle du tout. Elles sont dans l'architecture entre le modèle et la personne : ce qui est conservé, comment c'est structuré, qui en est propriétaire, quand cela parle. On ne peut pas s'entraîner à travers un écart qui vit en dehors des poids. Ce qui produit l'inversion vers laquelle ce mouvement reviendra sans cesse : les problèmes les plus difficiles de l'industrie sont résolus par ses équipes les mieux dotées, tandis que son plus grand problème — mesuré par la conséquence humaine agrégée — se trouve dans une catégorie que la plupart de ces équipes ne reconnaissent même pas comme un travail technique. C'est du schéma, du consentement, de la curation et du timing. C'est, pour emprunter la plus vieille insulte du génie, un problème de plomberie. L'avenir de l'utilité de l'IA pour les êtres humains passe par la plomberie.

L'argument le plus solide en faveur de la vision intelligence-d'abord mérite sa forme de chapitre culminant. Peut-être que des systèmes suffisamment capables dissolvent la limite de relation depuis l'autre côté — un modèle si perspicace qu'il reconstruit vos schémas à partir du signal ambiant, sans registre nécessaire. Mettons de côté que cela décrit de la surveillance avec des étapes supplémentaires, et que l'essai 3 a déjà répondu au mécanisme : les faits de niveau séquence ne peuvent pas être inférés à partir d'une seule observation, à quelque capacité que ce soit, car l'information est absente, non cachée. Mais répondons ici aussi au registre humain, car le chapitre culminant le devrait : même entre humains, nous ne considérons pas être déduit comme équivalent à être connu. Le lecteur froid qui infère vos chagrins de votre posture accomplit un tour de passe-passe ; l'ami qui était là pour eux accomplit une relation. La différence n'est pas la précision. C'est que l'une de ces choses, vous y avez consenti, vous y avez contribué, et vous pouvez la corriger. Aucune courbe de capacité ne converge vers cela, car ce n'est pas une capacité. C'est une légitimité.

Un élargissement supplémentaire, puis le mouvement pourra continuer. Tout ce qui précède a été argumenté à propos d'individus, mais la limitation s'étend à l'échelle. Les institutions tournent sur la même couche manquante — l'entreprise refaisant l'erreur de sa devancière avec de meilleures diapositives, le fonds dont les décisions « au cas par cas » riment à travers les décennies, le gouvernement réapprenant ce qu'il a documenté et oublié. La mémoire organisationnelle existe, comme l'a noté l'essai 8, précisément parce que les organisations ont remarqué la taxe ; la reconnaissance organisationnelle — la vérification en direct du présent contre le schéma, au moment de la décision — existe à peine, à quelque échelle que ce soit. Le cadre que cette série a construit pour une personne est, avec une plomberie différente, un cadre pour tout ce qui décide de manière répétée dans le temps. Cette ouverture reste ouverte pour le reste du mouvement.

La plus grande limitation de l'IA n'a rien à voir avec l'intelligence — ce qui est, correctement lu, la phrase la plus optimiste de cette série. Les limites de capacité exigent des percées. Les limites de relation exigent des décisions : sur l'architecture, la garde, et le consentement, toutes réalisables dès maintenant, avec la technologie déjà en main. La frontière n'a pas besoin de bouger pour tout cela. Il suffit que quelqu'un construise de l'autre côté de l'équation.

L'essai suivant fait le même cas pour le lecteur qui n'a jamais pensé à l'architecture de l'IA de sa vie — en partant du sentiment que tout le monde connaît déjà : pourquoi, après toutes ces conversations, elle ne vous comprend toujours pas.

Fait partie de The Recognition Layer →

Momar Lissa Ndiaye (« MLN ») est le fondateur et CEO de weyoga Inc., société du Delaware. — weyoga.ai · mln@weyoga.ai