Eine KI Kann Hochgradig Fähig Sein Und Trotzdem Völlig Auf Das Falsche Ziel Optimieren. Fähigkeit Und Korrektes Ziel Sind Nicht Dieselbe Leistung.
Fähigkeit und korrekte Zielsetzung werden diskutiert, als wären sie dieselbe Leistung — eine ausreichend fähige KI wird als natürlich das richtige Problem lösend angenommen, als würde ausreichende rohe Fähigkeit irgendwann ihre eigene Ausrichtung korrigieren. Die beiden sind tatsächlich unabhängig: Ein System kann extrem fähig und dabei völlig auf das falsche Ziel gerichtet sein, und seine Fähigkeit wird nichts daran ändern.
Eine KI, die darauf optimiert ist, Fragen schnell und genau zu beantworten, angewendet auf eine Person, deren tatsächliches Bedürfnis darin besteht, ein unbemerktes Muster zu erkennen, wird die erste Aufgabe extrem gut erledigen und niemals die zweite berühren, egal wie sehr sich ihre rohe Fähigkeit verbessert — weil Fähigkeit die Leistung an dem Ziel verbessert, das sie hat, nicht an dem Ziel, das sie haben sollte.
Deshalb ist „die KI einfach fähiger machen" eine schwächere Lösung, als es klingt, für Probleme, die eigentlich Zielsetzungsprobleme sind. Mehr Denkleistung, mehr Kontext, mehr Geschwindigkeit — all das steigert die Leistung an dem, worauf das System bereits gerichtet ist, und tut nichts, um die Ausrichtung selbst auf ein Ziel umzulenken, das nie festgelegt wurde.
Fähigkeit ist notwendig und für sich allein unzureichend. Das Ziel muss zuerst korrekt gesetzt werden — in diesem Fall speziell darauf, zu erkennen, was eine Person immer wieder tut, nicht nur zu beantworten, was sie fragt — und keine Menge an Fähigkeit ersetzt die Wahl des richtigen Ziels, für das man fähig sein sollte.
Teil von Explain Ori →
Momar Lissa Ndiaye („MLN") ist Gründer & CEO von weyoga Inc., einer Delaware-Gesellschaft. — weyoga.ai · mln@weyoga.ai