Une IA Peut Être Très Capable Et Pourtant Optimiser Complètement La Mauvaise Chose. Capacité Et Cible Correcte Ne Sont Pas Le Même Accomplissement.
La capacité et le bon ciblage sont discutés comme s'il s'agissait du même accomplissement — une IA suffisamment capable est supposée résoudre naturellement le bon problème, comme si une capacité brute suffisante finissait par corriger sa propre visée. Les deux sont en réalité indépendants : un système peut être extrêmement capable et viser entièrement la mauvaise cible, et sa capacité ne fera rien pour corriger cela.
Une IA optimisée pour répondre aux questions rapidement et précisément, appliquée à une personne dont le besoin réel est de reconnaître un schéma non remarqué, fera extrêmement bien le premier travail et ne touchera jamais au second, peu importe à quel point sa capacité brute s'améliore — parce que la capacité améliore la performance sur la cible qu'elle a, pas sur la cible qu'elle devrait avoir.
C'est pourquoi « rendre simplement l'IA plus capable » est une solution plus faible qu'il n'y paraît pour des problèmes qui sont en réalité des problèmes de ciblage. Plus de puissance de raisonnement, plus de contexte, plus de vitesse — tout cela accroît la performance sur ce que le système vise déjà, et ne fait rien pour rediriger la visée elle-même vers une cible qui n'a jamais été spécifiée.
La capacité est nécessaire et, en soi, insuffisante. La cible doit d'abord être correctement fixée — précisément, dans ce cas, sur la reconnaissance de ce qu'une personne continue de faire, pas seulement sur la réponse à ce qu'elle demande — et aucune quantité de capacité ne remplace le fait d'avoir choisi la bonne cible sur laquelle être capable.
Fait partie de Explain Ori →
Momar Lissa Ndiaye (« MLN ») est le fondateur et CEO de weyoga Inc., société du Delaware. — weyoga.ai · mln@weyoga.ai