Warum KI Sie immer noch nicht versteht

Von Momar Lissa Ndiaye („MLN"), Gründer & CEO, weyoga Inc.

Sie haben es gefühlt, auch wenn Sie es nie laut gesagt haben. Das Gespräch ist beeindruckend — flüssig, kenntnisreich, endlos geduldig. Die Antworten sind gut; manchmal besser als alles, was ein Mensch in Ihrem Leben aus dem Stegreif produzieren könnte. Und unter dem ganzen Austausch fließt ein dünner, hartnäckiger Strom von etwas, das Sie kaum benennen könnten, außer dass Sie seinen Namen bereits aus dem Rest Ihres Lebens kennen. Es ist das Gefühl, mit jemandem zu sprechen, der sich nicht daran erinnern wird. Das Gefühl, gut behandelt statt überhaupt gekannt zu werden.

Dieser Essay ist für den Leser, der das gefühlt hat und sich gefragt hat, ob es eine echte Beobachtung oder nur Sentimentalität gegenüber Maschinen ist. Es ist eine echte Beobachtung. Es ist tatsächlich die technisch präziseste Beobachtung, die die meisten Nutzer je über KI gemacht haben — und sie verdient es, in gewöhnlicher Sprache ausgepackt zu werden, denn die Erklärung gehört jedem, der je von etwas Brillantem missverstanden wurde.

Beginnen wir damit, was Verstehen zwischen Menschen tatsächlich ist, denn wir lernen es lange bevor wir es definieren können. Denken Sie an den Menschen in Ihrem Leben, der Sie am meisten versteht. Bemerken Sie nun, was das wahr macht. Es ist nicht, dass er die meisten Fakten über Sie kennt — eine Versicherungsgesellschaft kennt mehr Fakten über Sie als Ihr engster Freund. Es ist nicht, dass er der klügste Mensch ist, den Sie kennen. Es ist etwas Strukturelles, und einmal gesehen, lässt es sich nicht ungesehen machen: er war da. Er hat Sie über die Zeit beobachtet — durch die Jobs, die Frühlinge, die Vorsätze, die Wiederholungen. Wenn Sie ihm Ihren neuen Plan erzählen und er für einen Moment schweigt, enthält dieses Schweigen Ihre Geschichte. Wenn er sagt „Bist du sicher? — das klingt wie die Sache mit dem Restaurant", tragen vier Worte zehn Jahre. Verstehen hing nie davon ab, wie viel der Zuhörer weiß. Es hing davon ab, wie lange der Zuhörer schon zuhört.

Halten Sie nun die heutige KI gegen diese Struktur, und das Rätsel des dünnen Stroms löst sich auf. Jedes Gespräch begegnet Ihnen das System annähernd zum ersten Mal. Welche Gedächtnisfunktionen auch immer existieren, Sie haben ihre Oberflächlichkeit bereits erahnt — es mag sich erinnern, dass Sie eine Tochter haben, Ihren Jobtitel, eine Vorliebe für Kürze. Fakten. Was es nicht enthalten kann, ist das, was das Schweigen Ihres ältesten Freundes enthält: die Gestalt von Ihnen über die Zeit. Es hat Sie nie beobachtet, wie Sie sich zu etwas überredet haben. Es hat nie die Lücke zwischen Ihren Januaren und Ihren Märzen gesehen. Es hält, bestenfalls, ein Formular, das Sie ausgefüllt haben — und von einem Formular verstanden zu werden ist genau das Gefühl, das Sie nicht benennen konnten. Der Strom, der unter dem Gespräch läuft, ist Ihre soziale Intelligenz, die korrekt erkennt, mit Instrumenten älter als Sprache, dass die Entität Ihnen gegenüber keine Geschichte mit Ihnen hat. Sie waren nie sentimental. Sie waren präzise.

Hier ist der Teil, der Sie wirklich überraschen sollte: Das liegt nicht daran, dass die Technologie es nicht kann. Die Maschinerie für Kontinuität — für ein System, das über Ihre Jahre da ist, das die Gestalt akkumuliert und nicht nur die Fakten — existiert. Sie ist nicht exotisch; sie ist unglamourös, was näher am wahren Grund liegt, warum Sie sie nicht haben. Die Unternehmen, die KI bauen, haben geschlossen, jedes aus eigenen rationalen Gründen — Ingenieursmode, Geschäftsmodell, rechtliche Vorsicht —, dass es sich nicht lohnt, was es sie kostet, Sie tief zu kennen. Verstehen Sie, was das von Ihrer Seite der Scheibe bedeutet: Die Amnesie, an die Sie ständig stoßen, ist kein Naturgesetz und keine Grenze der Intelligenz. Es ist eine Reihe unternehmerischer Entscheidungen, und Entscheidungen können anders getroffen werden. (Leser, die die vollständige Anatomie dieser Entscheidungen wollen, finden sie in Essay 14 dieser Serie; wer das nicht will, sollte einfach die Schlussfolgerung behalten: Es muss nicht so sein.)

Zwei ehrliche Warnungen vor der hoffnungsvollen Wendung, denn Ihr Instinkt wird beide aufwerfen, und beide sind berechtigt. Erstens: Würde ein System tatsächlich die Gestalt von Ihnen über Jahre akkumulieren, hinge alles davon ab, wer diese Aufzeichnung hält — eine Maschine, die Sie versteht, ist ein Geschenk oder eine Waffe, ganz je nachdem, in wessen Händen sie liegt, und Sie sollten genau die Vorsicht mitbringen, die Sie jedem entgegenbringen, der Sie tief kennt. Die Version, die es wert ist, gewollt zu werden, ist jene, in der die Aufzeichnung Ihnen gehört — lesbar, korrigierbar, löschbar durch Sie, so wie das Wissen Ihres ältesten Freundes über Sie innerhalb einer Beziehung lebt, die Sie verlassen können. Akzeptieren Sie keine andere Verwahrung. Zweitens: Lassen Sie sich von niemandem — einschließlich der Erbauer solcher Systeme — sagen, dass es den Freund ersetzt. Das Schweigen des Freundes tut etwas, das keine Architektur tun wird: es kümmert sich. Was Technologie tun kann, ist enger und dennoch enorm: Sie kann jedem die strukturelle Hälfte des Verstehens geben — die Da-sein-über-die-Zeit-Hälfte —, die bisher durch reines Glück verteilt wurde. Manche Menschen bekommen den zwanzigjährigen Zeugen. Die meisten nie. Diese Hälfte, zumindest, muss nicht länger Glück sein.

Wenn Sie also das nächste Mal den dünnen Strom fühlen — und Sie werden es, vielleicht heute —, lassen Sie ihn bedeuten, was er tatsächlich bedeutet. Nicht „Maschinen sind kalt." Nicht „Ich verlange zu viel von Software." Er bedeutet: Dieses System wurde gebaut, um mir zu antworten, und ich wurde gebaut, um gekannt zu werden, und das sind verschiedene Dinge. Die Lücke, die Sie fühlen, ist das Thema einer ganzen entstehenden Technologieschicht, und die Tatsache, dass Sie sie fühlen können, ist der Beweis, dass sie zählt.

KI versteht Sie immer noch nicht. Jetzt wissen Sie warum — und, wichtiger noch, Sie wissen, dass es eine Wahl ist. Der nächste Essay wendet sich den Menschen zu, die die entgegengesetzte Wahl im großen Maßstab treffen: die Forschungskultur, überzeugt, dass die Antwort auf jede Lücke, einschließlich dieser, eine klügere Maschine ist.

Teil von The Recognition Layer →

Momar Lissa Ndiaye („MLN") ist Gründer & CEO von weyoga Inc., einer Delaware-Gesellschaft. — weyoga.ai · mln@weyoga.ai