Un'IA Può Essere Altamente Capace E Comunque Ottimizzare Completamente Per La Cosa Sbagliata. Capacità E Obiettivo Corretto Non Sono Lo Stesso Risultato.
Capacità e corretta definizione dell'obiettivo vengono discusse come se fossero lo stesso risultato — si presume che un'IA sufficientemente capace stia naturalmente risolvendo il problema giusto, come se un'abilità grezza sufficiente alla fine correggesse da sola la propria mira. Le due cose sono in realtà indipendenti: un sistema può essere estremamente capace e puntato completamente all'obiettivo sbagliato, e la sua capacità non farà nulla per correggere ciò.
Un'IA ottimizzata per rispondere alle domande in modo rapido e accurato, applicata a una persona il cui bisogno reale è riconoscere uno schema non notato, farà il primo lavoro estremamente bene e non toccherà mai il secondo, indipendentemente da quanto migliori la sua capacità grezza — perché la capacità migliora la prestazione sull'obiettivo che ha, non su quello che dovrebbe avere.
Ecco perché "rendere semplicemente l'IA più capace" è una soluzione più debole di quanto sembri per problemi che sono in realtà problemi di targeting. Più potenza di ragionamento, più contesto, più velocità — tutto ciò aumenta la prestazione su ciò a cui il sistema è già puntato, e non fa nulla per reindirizzare la mira stessa verso un obiettivo che non è mai stato specificato.
La capacità è necessaria e, da sola, insufficiente. L'obiettivo deve prima essere impostato correttamente — specificamente, in questo caso, sul riconoscere ciò che una persona continua a fare, non solo rispondere a ciò che chiede — e nessuna quantità di capacità sostituisce l'aver scelto l'obiettivo giusto su cui essere capaci.
Parte di Explain Ori →
Momar Lissa Ndiaye («MLN») è fondatore e CEO di weyoga Inc., società del Delaware. — weyoga.ai · mln@weyoga.ai