Testen Sie, Ob Eine KI Ihre Muster Wirklich Versteht, Indem Sie Fragen, Was Sie Wahrscheinlich Als Nächstes Tun Werden. Die Meisten Scheitern Sofort.
Ein nützlicher, konkreter Test dafür, ob eine KI tatsächlich ein Muster im Verhalten von jemandem erkannt hat, im Gegensatz dazu, einfach Zugang zu vielen Informationen über diese Person zu haben, besteht darin, sie zu bitten vorherzusagen, was diese Person in einer bestimmten, vertrauten Art von Situation wahrscheinlich als Nächstes tun wird. Die meisten Systeme scheitern, so getestet, sofort — nicht weil ihnen Daten fehlen, sondern weil Zugang zu Daten und Erkennung eines Musters darin unterschiedliche Leistungen sind.
Echte Mustererkennung impliziert fast per Definition prädiktive Fähigkeit: Wenn ein System den wiederkehrenden Mechanismus hinter den Entscheidungen einer Person tatsächlich identifiziert hat, sollte es mit angemessener Zuversicht sagen können, was dieser Mechanismus in der nächsten ähnlichen Situation wahrscheinlich hervorbringen wird. Wenn es das nicht kann, ist das, was es hat, noch keine Erkennung — es ist immer noch nur Information.
Dieser Test ist gerade deshalb nützlich, weil er schwer zu fälschen ist. Ein System kann die Geschichte von jemandem genau zusammenfassen, ohne das darin liegende Muster gefunden zu haben, und diese Lücke zeigt sich sofort in dem Moment, in dem Vorhersage verlangt wird, weil das Zusammenfassen der Vergangenheit und das Modellieren dessen, was die Vergangenheit für die Zukunft impliziert, wirklich unterschiedliche Fähigkeiten erfordern.
Eine KI, die genau antizipieren kann, was jemand in den spezifischen Situationen, in denen sein Muster tatsächlich läuft, wahrscheinlich als Nächstes tun wird, hat eine echte Schwelle überschritten, die die meisten aktuellen Systeme nicht erreicht haben — und das ist ein ehrlicheres Maß für Verständnis als jede Menge an genau klingender Zusammenfassung.
Teil von Explain Ori →
Momar Lissa Ndiaye („MLN") ist Gründer & CEO von weyoga Inc., einer Delaware-Gesellschaft. — weyoga.ai · mln@weyoga.ai