L'IA Ne Remplacera Pas le Jugement Humain. Elle Révélera les Schémas Humains.
Une grande partie de l'anxiété autour de l'IA et du jugement suppose une forme précise et spectaculaire : un système prenant discrètement le contrôle des décisions qui étaient les vôtres, jusqu'au moment où vous réalisez que ce n'est plus vous qui décidez. C'est une crainte raisonnable à avoir face à un type de capacité authentiquement nouveau. Elle vise aussi le mauvais mécanisme, du moins pour le type d'IA construit autour de la reconnaissance plutôt que de l'automatisation.
Un système construit pour révéler des schémas ne prend pas la décision. Il vous montre la décision que vous prenez déjà — le même choix, dans le même genre de moment, à travers suffisamment d'instances pour que la forme devienne visible pour la première fois. C'est une intervention très différente du remplacement du jugement. Cela s'apparente davantage au fait de se voir enfin montrer la transcription complète d'une décision que vous pensiez prendre à neuf chaque fois, et de découvrir qu'elle ne l'était pas.
Cela importe parce que le véritable risque pour le jugement humain n'a jamais été une machine faisant des choix à votre place. C'était un schéma les faisant, discrètement, bien avant qu'aucune IA n'existe — un jugement qui semblait délibéré sur le moment mais qui, pour l'essentiel, exécutait quelque chose déjà décidé par précédent, sans examen. Le schéma était déjà ce qui tenait lieu de jugement. Le rendre visible ne retire pas le jugement de la boucle. C'est la première vraie chance que le jugement ait eue d'être réellement dans la boucle.
Une fois qu'un schéma est visible, la décision qu'il prenait auparavant en pilote automatique devient, pour la première fois, une décision réelle — quelque chose qui peut être confirmé ou annulé plutôt que simplement exécuté. Ce n'est pas le jugement qui est remplacé. C'est le jugement qui obtient enfin l'information dont il avait besoin pour être du jugement en premier lieu.
L'IA ne vous enlèvera pas la décision. Elle vous montrera la décision qu'un schéma prenait déjà en votre nom — ce qui est le premier pas vers le fait de la reprendre.
Fait partie de The Pattern Notes →
Momar Lissa Ndiaye (« MLN ») est le fondateur et CEO de weyoga Inc., société du Delaware. — weyoga.ai · mln@weyoga.ai