Testez Si Une IA Comprend Vraiment Vos Schémas En Lui Demandant Ce Que Vous Ferez Probablement Ensuite. La Plupart Échouent Immédiatement.
Un test utile et concret pour savoir si une IA a réellement reconnu un schéma dans le comportement de quelqu'un, par opposition à simplement avoir accès à beaucoup d'informations à son sujet, consiste à lui demander de prédire ce qu'elle fera probablement ensuite dans un type de situation précis et familier. La plupart des systèmes, testés de cette façon, échouent immédiatement — non pas parce qu'ils manquent de données, mais parce que l'accès aux données et la reconnaissance d'un schéma en leur sein sont des accomplissements différents.
La reconnaissance authentique de schéma implique une capacité prédictive presque par définition : si un système a réellement identifié le mécanisme récurrent derrière les choix d'une personne, il devrait pouvoir dire, avec une confiance raisonnable, ce que ce mécanisme produira probablement dans la prochaine situation similaire. S'il ne le peut pas, ce qu'il possède n'est pas encore de la reconnaissance — ce n'est que de l'information.
Ce test est utile précisément parce qu'il est difficile à truquer. Un système peut résumer avec précision l'historique de quelqu'un sans avoir trouvé le schéma à l'intérieur, et cet écart apparaît immédiatement au moment où la prédiction est requise, parce que résumer le passé et modéliser ce que le passé implique pour l'avenir mobilisent des capacités réellement différentes.
Une IA capable d'anticiper avec précision ce que quelqu'un fera probablement ensuite, dans les situations précises où son schéma opère réellement, a franchi un véritable seuil que la plupart des systèmes actuels n'ont pas atteint — et c'est une mesure plus honnête de la compréhension que n'importe quelle quantité de résumé qui sonne juste.
Fait partie de Explain Ori →
Momar Lissa Ndiaye (« MLN ») est le fondateur et CEO de weyoga Inc., société du Delaware. — weyoga.ai · mln@weyoga.ai