Il Valore Nell'IA È Stato Finora Misurato In Velocità E Precisione. Nessuna Delle Due Metriche Cattura Se Vi Conosce Davvero.
Le metriche dominanti per valutare il valore dell'IA — velocità di risposta, accuratezza dell'output — sono reali, misurabili, e genuinamente utili per confrontare sistemi sui compiti che quelle metriche sono state progettate per tracciare. Sono anche silenziose su una domanda completamente diversa: se il sistema sa davvero qualcosa di specifico e vero sulla persona individuale che sta servendo.
Un sistema può essere estremamente veloce ed estremamente preciso su ogni compito assegnato pur non sapendo essenzialmente nulla di duraturo sulla persona dietro quei compiti — perché velocità e precisione sono proprietà di interazioni individuali, valutate una alla volta, mentre conoscere qualcuno è una proprietà che emerge solo da una relazione continua attraverso molte interazioni, cosa che le metriche standard non sono mai state costruite per catturare.
Questo divario spiega perché un sistema può ottenere buoni punteggi su ogni parametro convenzionale e comunque sembrare generico, sostituibile, o stranamente impersonale per la persona che lo usa — le metriche stavano misurando le cose giuste per un tipo di valore diverso da quello effettivamente mancante, e un punteggio alto su di esse non dice nulla sul fatto che il pezzo mancante sia stato affrontato.
Velocità e precisione rimangono genuinamente necessarie. Semplicemente non sono l'asse che cattura se un'IA conosce davvero la persona che la usa — quello è un tipo distinto di valore, attualmente per lo più non misurato, e per lo più non fornito da sistemi ottimizzati puramente contro le metriche che lo sono.
Parte di Explain Ori →
Momar Lissa Ndiaye («MLN») è fondatore e CEO di weyoga Inc., società del Delaware. — weyoga.ai · mln@weyoga.ai