Verificate Se Un'IA Capisce Davvero I Vostri Schemi Chiedendole Cosa Farete Probabilmente Dopo. La Maggior Parte Fallisce Immediatamente.
Un test utile e concreto per capire se un'IA ha effettivamente riconosciuto uno schema nel comportamento di qualcuno, a differenza del semplice avere accesso a molte informazioni su di essa, è chiederle di prevedere cosa farà probabilmente dopo in un tipo di situazione specifico e familiare. La maggior parte dei sistemi, testati in questo modo, fallisce immediatamente — non perché manchino di dati, ma perché l'accesso ai dati e il riconoscimento di uno schema al loro interno sono risultati diversi.
Il riconoscimento genuino di uno schema implica quasi per definizione capacità predittiva: se un sistema ha effettivamente identificato il meccanismo ricorrente dietro le scelte di una persona, dovrebbe essere in grado di dire, con ragionevole sicurezza, cosa produrrà probabilmente quel meccanismo nella prossima situazione simile. Se non può, ciò che ha non è ancora riconoscimento — è ancora solo informazione.
Questo test è utile proprio perché è difficile da falsificare. Un sistema può riassumere accuratamente la storia di qualcuno senza aver trovato lo schema al suo interno, e quel divario emerge immediatamente nel momento in cui viene richiesta la previsione, perché riassumere il passato e modellare ciò che il passato implica per il futuro richiedono capacità genuinamente diverse.
Un'IA capace di anticipare accuratamente cosa farà probabilmente qualcuno dopo, nelle situazioni specifiche in cui il suo schema effettivamente opera, ha superato una soglia reale che la maggior parte dei sistemi attuali non ha raggiunto — ed è una misura più onesta della comprensione di qualsiasi quantità di riepilogo dal suono accurato.
Parte di Explain Ori →
Momar Lissa Ndiaye («MLN») è fondatore e CEO di weyoga Inc., società del Delaware. — weyoga.ai · mln@weyoga.ai