Die größte Begrenzung der KI hat nichts mit Intelligenz zu tun

Von Momar Lissa Ndiaye („MLN"), Gründer & CEO, weyoga Inc.

Die Einsatz-Bewegung, die hier beginnt, hat eine Aufgabe: das Rahmenwerk, das fünfzehn Essays aufgebaut haben, zu nehmen und ins breiteste Licht zu halten — für den Leser, der die anderen fünfzehn nicht gelesen hat, für den Forscher, der es für weich hält, für den Gründer, der auf der falschen Annahme baut, und schließlich für die Frage, welche Art von Zukunft dies eigentlich begründet. Dieser Essay tut also, was ein Schlusskapitel tun sollte: Er formuliert den gesamten Fall sauber neu, in der einfachsten Sprache, die er bisher erhalten hat.

Beginnen wir mit der Frage, die jeder über die Grenzen der KI stellt, denn die Frage selbst enthält den Fehler. Wie klug können diese Systeme werden? Worüber können sie nicht nachdenken? Wo geht der Fähigkeit die Luft aus? Ernsthafte Menschen verbringen Karrieren mit diesen Fragen, und es sind echte Fragen. Aber machen wir einen einfachen Test: Denken Sie an das letzte Mal, als ein KI-System Sie wirklich im Stich ließ — nicht einen Benchmark verfehlte, sondern Sie im Stich ließ, in Ihrem tatsächlichen Leben. War das Versagen ein Denkfehler? Fast sicher nicht. Das überwältigende alltägliche Versagen der fähigsten je eingesetzten Technologie ist seltsamer und banaler: Sie kennt Sie nicht. Sie gab Ihnen eine brillante Antwort auf Ihre Frage und hatte keine Ahnung, dass die Frage die falsche war — dass Sie genau diese Frage alle achtzehn Monate stellen, dass der Plan, den sie Ihnen zu polieren half, der vierte Entwurf desselben Plans ist, dass die Zuversicht in Ihrer Eingabe die Zuversicht war, die Ihrer besonderen Art von Fehler vorausgeht. Das System dachte fehlerfrei innerhalb eines Rahmens, den es keine Möglichkeit hatte, zu durchschauen. Wir haben einen Geist gebaut und vergessen, ihm einen Kalender dessen zu geben, wer Sie gewesen sind.

Fünfzehn Essays reduzieren sich auf fünf Sätze, und hier sind sie. Die Beschränkung menschlicher Entscheidungen war nie Information; es ist das Erkennen der eigenen Muster, das Kontinuität über die Zeit erfordert, die kein sitzungsförmiges System bieten kann (Essays 1–5). Entscheidungen bilden sich stromaufwärts des Bewusstseins, Leben wiederholen sich in der Form unter wiederkehrenden Bedingungen, und die Wiederholungen tragen die größten unsichtbaren Kosten eines Lebens — Kosten, die Rat nicht erreichen kann und Messung nie berührte (Essays 6–10). Die Heilung ist infrastrukturell: ein Verhaltensledger, das die Sequenz pflegt, eine Erkennungsschicht, die sie interpretiert, geliefert im Moment der Bildung statt im Post-Mortem — gebaut mit dem Subjekt als Eigentümer, denn dieselbe Mathematik dient oder überwacht, ganz je nachdem, wer die Schlüssel hält (Essays 11–15). Intelligenz ist der Commodity-Term in dieser Gleichung; Kontinuität ist der sich aufzinsende. Und die gesamte Gelegenheit existiert, weil jeder Anreiz der heutigen Branche — architektonisch, kommerziell, rechtlich und kulturell — auf den Term zeigt, der sich abwertet.

Beachten Sie, um welche Art von Begrenzung es sich handelt, denn die Klassifikation ist die eigentliche Behauptung des Essays. Die anderen Grenzen der KI — Denklücken, Halluzination, Brüchigkeit — sind Fähigkeits-Grenzen: Die Frontier bewegt sich und sie weichen zurück. Diese ist eine Beziehungs-Grenze, und Beziehungsgrenzen weichen nicht mit der Fähigkeit zurück, weil sie überhaupt nicht im Modell liegen. Sie liegen in der Architektur zwischen Modell und Mensch: was aufbewahrt wird, wie es strukturiert ist, wem es gehört, wann es spricht. Man kann sich nicht über eine Lücke hinwegtrainieren, die außerhalb der Gewichte lebt. Was die Umkehrung liefert, zu der diese Bewegung immer wieder zurückkehren wird: Die schwierigsten Probleme der Branche werden von ihren bestausgestatteten Teams gelöst, während ihr größtes Problem — gemessen an der aggregierten menschlichen Konsequenz — in einer Kategorie liegt, die die meisten dieser Teams nicht einmal als technische Arbeit erkennen. Es ist Schema, Einwilligung, Kuration und Timing. Es ist, um die älteste Beleidigung im Ingenieurwesen zu leihen, ein Klempnerproblem. Die Zukunft der Nützlichkeit von KI für Menschen führt durch die Klempnerei.

Das stärkste Argument für die intelligenzzentrierte Sicht verdient seine Schlusskapitel-Form. Vielleicht lösen hinreichend fähige Systeme die Beziehungsgrenze von der anderen Seite auf — ein Modell so scharfsinnig, dass es Ihre Muster aus Umgebungssignalen rekonstruiert, kein Ledger nötig. Setzen wir beiseite, dass dies Überwachung mit Extraschritten beschreibt, und dass Essay 3 den Mechanismus bereits beantwortete: sequenzbezogene Fakten können von keiner einzigen Beobachtung inferiert werden, bei beliebiger Fähigkeit, weil die Information fehlt, nicht verborgen ist. Aber beantworten wir es hier auch im menschlichen Register, denn das Schlusskapitel sollte das: Selbst unter Menschen betrachten wir es nicht als dasselbe, erschlossen zu werden wie gekannt zu werden. Der kalte Leser, der Ihren Kummer aus Ihrer Haltung erschließt, vollführt einen Trick; der Freund, der dafür da war, vollführt eine Beziehung. Der Unterschied ist nicht Genauigkeit. Er ist, dass Sie Ersterem nie zugestimmt haben, nie dazu beigetragen haben, und es nicht korrigieren können, während Sie bei Letzterem all das können. Keine Fähigkeitskurve konvergiert dorthin, weil es keine Fähigkeit ist. Es ist Standing.

Eine weitere Erweiterung, dann kann die Bewegung fortschreiten. All das Obige wurde über Individuen argumentiert, aber die Begrenzung skaliert. Institutionen laufen auf derselben fehlenden Schicht — das Unternehmen, das den Fehler seines Vorgängers mit besseren Folien wiederholt, der Fonds, dessen „Einzelfall"-Entscheidungen über Jahrzehnte reimen, die Regierung, die neu lernt, was sie dokumentierte und vergaß. Organisationsgedächtnis existiert, wie Essay 8 feststellte, genau deshalb, weil Organisationen die Steuer bemerkten; organisationales Erkennen — die Live-Prüfung der Gegenwart gegen das Muster, im Moment der Entscheidung — existiert kaum, auf irgendeiner Ebene. Das Rahmenwerk, das diese Serie für einen Menschen gebaut hat, ist, mit anderer Klempnerei, ein Rahmenwerk für alles, was wiederholt über die Zeit entscheidet. Diese Öffnung bleibt für den Rest der Bewegung bestehen.

Die größte Begrenzung der KI hat nichts mit Intelligenz zu tun — was, richtig gelesen, der optimistischste Satz dieser Serie ist. Fähigkeitsgrenzen erfordern Durchbrüche. Beziehungsgrenzen erfordern Entscheidungen: über Architektur, Verwahrung und Einwilligung, alle jetzt schon machbar, mit der bereits vorhandenen Technologie. Die Frontier muss sich für all das nicht bewegen. Jemand muss nur auf der anderen Seite der Gleichung bauen.

Der nächste Essay macht denselben Fall für den Leser, der noch nie in seinem Leben über KI-Architektur nachgedacht hat — beginnend mit dem Gefühl, das jeder bereits kennt: warum sie, nach all diesen Gesprächen, Sie immer noch nicht versteht.

Teil von The Recognition Layer →

Momar Lissa Ndiaye („MLN") ist Gründer & CEO von weyoga Inc., einer Delaware-Gesellschaft. — weyoga.ai · mln@weyoga.ai