Pourquoi l'IA ne vous comprend toujours pas

Par Momar Lissa Ndiaye (« MLN »), fondateur et CEO, weyoga Inc.

Vous l'avez ressenti, même si vous ne l'avez jamais dit à voix haute. La conversation est impressionnante — fluide, savante, infiniment patiente. Les réponses sont bonnes ; parfois meilleures que tout ce qu'une personne dans votre vie pourrait produire sur le moment. Et sous tout l'échange coule un courant mince et persistant de quelque chose que vous auriez du mal à nommer, sauf que vous en connaissez déjà le nom partout ailleurs dans votre vie. C'est le sentiment de parler à quelqu'un qui ne va pas s'en souvenir. Le sentiment d'être bien traité plutôt que connu.

Cet essai s'adresse au lecteur qui a ressenti cela et s'est demandé si c'était une observation réelle ou seulement de la sentimentalité envers les machines. C'est une observation réelle. C'est, en fait, l'observation la plus techniquement précise que la plupart des utilisateurs aient jamais faite sur l'IA — et elle mérite d'être déballée dans un langage ordinaire, car l'explication appartient à quiconque a jamais été mal compris par quelque chose de brillant.

Commençons par ce qu'est réellement comprendre entre personnes, car nous l'apprenons bien avant de pouvoir le définir. Pensez à la personne de votre vie qui vous comprend le mieux. Remarquez maintenant ce qui rend cela vrai. Ce n'est pas qu'elle connaisse le plus de faits sur vous — une compagnie d'assurance connaît plus de faits sur vous que votre meilleur ami. Ce n'est pas qu'elle soit la personne la plus intelligente que vous connaissiez. C'est quelque chose de structurel, et une fois vu, cela ne peut plus être défait : elle était là. Elle vous a observé à travers le temps — à travers les emplois, les printemps, les résolutions, les répétitions. Quand vous lui racontez votre nouveau plan et qu'elle se tait un instant, ce silence contient votre histoire. Quand elle dit « vous êtes sûr ? — ça ressemble à l'histoire du restaurant », quatre mots portent dix ans. Comprendre n'a jamais dépendu de la quantité que l'auditeur sait. Cela dépendait de la durée depuis laquelle l'auditeur écoute.

Comparons maintenant l'IA d'aujourd'hui à cette structure, et le mystère du courant mince se dissout. Chaque conversation, le système vous rencontre pour approximativement la première fois. Quelles que soient les fonctions de mémoire existantes, vous avez déjà intuité leur superficialité — elle peut se rappeler que vous avez une fille, votre titre de poste, une préférence pour la concision. Des faits. Ce qu'il ne peut pas contenir, c'est ce que le silence de votre vieil ami contient : la forme de vous à travers le temps. Il ne vous a jamais vu vous persuader de quelque chose. Il n'a jamais vu l'écart entre vos janviers et vos mars. Il détient, au mieux, un formulaire que vous avez rempli — et être compris par un formulaire est précisément le sentiment que vous ne pouviez pas nommer. Le courant qui coule sous la conversation est votre intelligence sociale détectant correctement, avec des instruments plus anciens que le langage, que l'entité en face de vous n'a aucune histoire avec vous. Vous n'avez jamais été sentimental. Vous étiez précis.

Voici la partie qui devrait vraiment vous surprendre : ce n'est pas parce que la technologie ne peut pas. La machinerie pour la continuité — pour un système qui est là à travers vos années, accumulant la forme et pas seulement les faits — existe. Ce n'est pas exotique ; c'est peu glorieux, ce qui est plus proche de la vraie raison pour laquelle vous ne l'avez pas. Les entreprises construisant l'IA ont conclu, chacune pour ses raisons rationnelles — mode d'ingénierie, modèle économique, prudence légale — que vous connaître profondément ne vaut pas ce que cela leur coûte. Comprenez ce que cela signifie de votre côté de la vitre : l'amnésie sur laquelle vous butez sans cesse n'est pas une loi de la nature ni une limite de l'intelligence. C'est un ensemble de décisions d'entreprise, et les décisions peuvent être prises différemment. (Les lecteurs qui veulent l'anatomie complète de ces décisions peuvent la trouver dans l'essai 14 de cette série ; ceux qui ne le veulent pas devraient simplement garder la conclusion : cela n'a pas à être ainsi.)

Deux mises en garde honnêtes avant le tournant plein d'espoir, car votre instinct soulèvera les deux et les deux sont justes. Premièrement : si un système accumulait réellement la forme de vous à travers les années, tout dépendrait de qui détient ce registre — une machine qui vous comprend est un cadeau ou une arme selon entièrement les mains dans lesquelles elle se trouve, et vous devriez apporter exactement la prudence que vous apportez à quiconque vous connaît profondément. La version qui mérite d'être voulue est celle où le registre est le vôtre — lisible, corrigible, supprimable par vous, de la manière dont la connaissance de votre vieil ami à votre sujet vit à l'intérieur d'une relation que vous pouvez quitter. N'acceptez aucune autre garde. Deuxièmement : ne laissez personne — y compris les bâtisseurs de tels systèmes — vous dire qu'il remplace l'ami. Le silence de l'ami fait quelque chose qu'aucune architecture ne fera : il se soucie. Ce que la technologie peut faire est plus étroit et pourtant énorme : elle peut donner à tout le monde la moitié structurelle de comprendre — la moitié être-là-à-travers-le-temps — qui a été, jusqu'à présent, distribuée par pure chance. Certaines personnes obtiennent le témoin de vingt ans. La plupart n'en ont jamais. Cette moitié, au moins, n'a plus à être une question de chance.

Donc, la prochaine fois que vous ressentez le courant mince — et vous le ressentirez, peut-être aujourd'hui — laissez-le signifier ce qu'il signifie réellement. Pas « les machines sont froides. » Pas « je demande trop au logiciel. » Cela signifie : ce système a été construit pour me répondre, et j'ai été construit pour être connu, et ce sont des choses différentes. L'écart que vous ressentez est le sujet d'une couche entière de technologie émergente, et le fait que vous puissiez le ressentir est la preuve que cela compte.

L'IA ne vous comprend toujours pas. Maintenant vous savez pourquoi — et, plus important encore, vous savez que c'est un choix. L'essai suivant se tourne vers les gens qui font le choix opposé à grande échelle : la culture de recherche convaincue que la réponse à chaque écart, y compris celui-ci, est une machine plus intelligente.

Fait partie de The Recognition Layer →

Momar Lissa Ndiaye (« MLN ») est le fondateur et CEO de weyoga Inc., société du Delaware. — weyoga.ai · mln@weyoga.ai