Das Plädoyer gegen „klügere" KI

Von Momar Lissa Ndiaye („MLN"), Gründer & CEO, weyoga Inc.

Dieser Essay richtet sich an die Forschungsgemeinschaft, und er sollte damit beginnen, den Titel ehrlich zu entschärfen: Es gibt kein Plädoyer gegen klügere KI im Sinne von Fähigkeit — die Wissenschaft ist großartig, die Gewinne sind real, und nichts hier plädiert dafür, irgendetwas davon zu verlangsamen. Das Plädoyer richtet sich gegen „klüger" als Definition von besser durch das Feld — gegen eine Optimierungsmonokultur, in der eine Achse des Fortschritts das Talent, das Kapital, den Bewertungsapparat und die Vorstellungskraft des Feldes so vollständig absorbiert hat, dass eine zweite Achse, die wohl für mehr Menschen wertvoller ist, nicht bloß hinterherhinkt. Sie existiert überhaupt nicht als Disziplin.

Formulieren wir zuerst die strukturelle Beobachtung, denn alles andere hängt davon ab. Ein Feld definiert sich durch das, was es optimiert, und was es optimiert, wird definiert durch das, was es misst. Gehen Sie den Messstapel der zeitgenössischen KI durch — die Benchmark-Suiten, die Leaderboards, die Evaluierungsrahmen, die Fähigkeitsberichte — und beachten Sie die Invariante: praktisch jedes Instrument im Schrank des Feldes misst Leistung innerhalb einer Sitzung, für einen anonymen Nutzer. Denktiefe, sachliche Genauigkeit, Aufgabenerfüllung, Harmlosigkeit — alle sitzungsförmig, alle subjektfrei. Benennen wir nun, wofür es nirgends im Stapel ein Instrument gibt: ob ein System, eingesetzt bei einem bestimmten Menschen über ein Jahr, die Entscheidungen dieses Menschen besser gemacht hat. Longitudinaler, subjektbezogener Nutzen — genau das, was jeder frühere Essay dieser Serie als das eigentliche Produkt von KI in einem Leben argumentiert hat — hat keinen Benchmark, kein Leaderboard, keine Evaluierung, keinen Workshop, keinen Konferenz-Track. Das Feld versagt nicht an der Messung. Das Feld hat sie nicht vorgeschlagen. Und das Schweigen einer Disziplin über eine Messung ist eine Entscheidung darüber, was als Fortschritt zählt, ob jemand sie absichtlich getroffen hat oder nicht.

Machen wir hier das Ziel dieses Essays exakt, bevor irgendetwas anderes argumentiert wird: Das Plädoyer richtet sich nicht gegen Forscher, deren Anreize durch geerbte Instrumente gesetzt werden; es richtet sich gegen das fehlende Instrument. Das Feld hat exzellente Fähigkeits-Benchmarks und fast keine longitudinalen Human-Impact-Benchmarks. Alles Folgende ist eine Fußnote zu diesem Satz.

Die vorhersehbare Antwort lautet, dies sei Anwendungsarbeit — die Modelle seien allgemein; longitudinaler Nutzen sei eine Produktfrage für die Industrie, keine Forschungsfrage für das Feld. Diese Antwort verdient es, sorgfältig auseinandergenommen zu werden, denn sie ist die tragende Wand der Monokultur. Betrachten wir, was beim Bau der Erkennungsschicht, die diese Serie spezifiziert hat, tatsächlich ungelöst ist: wie man die Verhaltenssequenz eines Menschen so repräsentiert, dass Wiederkehr über Oberflächenvariation hinweg erkennbar ist (ein Repräsentationslernproblem, und ein schwieriges); wie man Vertrauen in ein erkanntes Muster gegen die ethischen Kosten eines an sein Subjekt gelieferten falsch-positiven Ergebnisses kalibriert (ein Kalibrierungsproblem mit Einsätzen, die das Feld nie beziffert hat); wie man Reflexivität modelliert — Essay 7s Kernphänomen, eine Prognose, die ihr Ziel bei der Lieferung verändert —, was die i.i.d.-Annahmen unter dem Großteil der Theorie des Feldes bricht; wie man all das evaluiert, wenn sich der Behandlungseffekt von Erkennen über Jahre entfaltet und das Sehen der Messung durch das Subjekt das Gemessene verändert. Das sind keine Produktfragen. Es sind offene Forschungsprobleme ersten Ranges — Repräsentation, Kalibrierung, Nicht-Stationarität, Evaluierung unter Reflexivität — und sie sind unbeansprucht nicht, weil sie einfach oder angewandt sind, sondern weil der Prestigegradient des Feldes, wie Essay 11 es für die Industrie beobachtete, woanders hinzeigt. „Das ist nur eine Anwendung" ist, wie eine Monokultur jede Achse beschreibt, für die sie es abgelehnt hat, Instrumente zu bauen.

Nun das stärkste Gegenargument, denn ein an Forscher gerichtetes Plädoyer muss deren Prüfung bestehen. Allgemeinheit ist die Wette, und die Wette gewinnt: Die zentrale Lehre der Skalierungs-Ära — die bittere — ist, dass allgemeine Fähigkeit, skaliert, letztlich jede spezialisierte Architektur einschließt; bauen Sie das genügend kluge Modell, und die persönliche Schicht fällt als nachgelagertes Bereitstellungsdetail heraus. Drei Antworten, in aufsteigender Stärke. Erstens, die empirische Bilanz in den eigenen Begriffen der These: Fähigkeit skalierte über mehrere verblüffende Generationen hinweg, während sich die longitudinale-Nutzen-Achse um etwa null bewegte — wäre die persönliche Schicht nachgelagert von Fähigkeit, sollte inzwischen ein gewisser Gradient sichtbar sein, und Essay 17s universell gefühlter „dünner Strom" ist das Nullergebnis, berichtet von Hunderten Millionen Subjekten. Zweitens, der Mechanismus, zum letzten Mal in dieser Serie: sequenzbezogene Information ist abwesend, nicht latent — keine Fähigkeit gewinnt Information zurück, die nie beobachtet wurde, also liegt die Lücke nicht nachgelagert von Intelligenz; sie ist orthogonal zu ihr, was genau erklärt, warum Skalierung sie nie berührt. Drittens, und gegen die Lehre selbst gerichtet: Die bittere Lehre warnt vor der Handkonstruktion dessen, was Berechnung lernen kann — sie sagt nichts über was Datenarchitektur zu beobachten erlaubt. Kontinuität ist kein cleveres Feature, das von Skalierung eingeschlossen werden soll. Sie ist die Voraussetzung für die Beobachtungen, aus denen Skalierung lernen würde. Eine Beobachtbarkeitsbeschränkung als Architekturwahl misszulesen ist, wie eine korrekte Lehre zum Kategorienfehler wird.

Es gibt auch ein menschliches Argument, und ein Forschungspublikum hat sich die offene Fassung verdient. Die Monokultur ist nicht nur eine Zuteilung von Messung; sie ist eine Zuteilung von Karrieren — eine Generation der fähigsten technischen Köpfe der Gegenwart, sortiert durch den Prestigegradienten, um die Antwortmaschine marginal besser im Antworten zu machen, während die Fragen der Repräsentation, der Einwilligungsarchitektur, der reflexiven Evaluierung und des longitudinalen Nutzens — Fragen, deren Lösungen sich in Millionen von Leben aufzinsen würden — im Wesentlichen unbesetzt bleiben, wartend darauf, dass das Feld entscheidet, sie seien respektabel. Felder haben diese Entscheidung schon früher getroffen. Die Medizin verbrachte Jahrhunderte, prestigemäßig um heroische Intervention geordnet, bevor Epidemiologie — unglamourös, longitudinal, bevölkerungsweit — zur Wissenschaft wurde, und die Hygieneingenieure und Kohortenverfolger retteten mehr Leben als die Chirurgen. Die Forscher, die die Instrumente für die zweite Achse der KI bauen, werden die Epidemiologen dieser Generation sein: zunächst weniger zitiert, zunächst unmodern, und richtig.

So reduziert sich das Plädoyer gegen „klügere" KI auf einen Vorschlag, den jeder Forscher umsetzen kann, und er ist bewusst bescheiden: Bauen Sie ein Instrument. Schlagen Sie den Benchmark für Muster-Wiederkehr-Erkennung in longitudinalen Verhaltenssequenzen vor. Veröffentlichen Sie den Evaluierungsrahmen für Interventions-Timing unter Reflexivität. Definieren Sie den Einwilligungsarchitektur-Standard so, wie Differential Privacy definiert wurde — als Mathematik, nicht als Politik. Die Monokultur wird nicht wegargumentiert werden, und das sollte sie auch nicht: Die Fähigkeitsachse verdient ihren Glanz. Sie wird enden, wie Monokulturen immer enden — durch die erste glaubwürdige Messung auf einer zweiten Achse, wonach das Feld entdeckt, dass es die ganze Zeit eine Monokultur gewesen war.

Die klügsten Systeme des Feldes können einem Menschen immer noch nicht den einen Satz sagen, der sein Jahr verändern würde. Das ist keine Fähigkeitslücke, und keine Menge „klüger" schließt sie. Es ist eine Disziplin, die noch nicht existiert — wartend, wie jede Disziplin es tut, auf ihr erstes Instrument.

Der nächste Essay verlässt den Forschungssaal für den Stuhl des Operators: was die Menschen, die Unternehmen bauen — und finanzieren, und sich daran verausgaben — systematisch über die Muster falsch verstehen, die diese Serie beschreibt.

Teil von The Recognition Layer →

Momar Lissa Ndiaye („MLN") ist Gründer & CEO von weyoga Inc., einer Delaware-Gesellschaft. — weyoga.ai · mln@weyoga.ai