L’histoire des techniques est, au fond, l’histoire d’une succession de délégations : la roue a délégué l’effort de transporter, la machine a délégué la force musculaire; l’ordinateur a délégué le calcul.
Puis Internet a délégué une partie de notre mémoire.
Chaque progrès nous a rendus plus puissants et plus vulnérables en même temps, sans jamais remettre toutefois en cause ce qui faisait notre singularité : notre capacité à exercer un jugement critique, un discernement.
L’IA introduit une rupture d’une nature totalement différente. Pour la première fois, un outil ne se contente plus d’exécuter une tâche ou de produire un résultat. Il est capable d’analyser, de comparer, d’argumenter, de critiquer, de proposer des alternatives et, de plus en plus souvent, de recommander une décision.
Nous continuons de croire que le jugement nous appartient parce que nous formulons encore la question -le fameux prompt. Pourtant, cette conviction mérite d’être interrogée.
Depuis toujours, le progrès technique suit une logique constante : lorsqu’une machine accomplit une fonction mieux que nous, nous finissons presque toujours par lui confier cette fonction.
Des preuves ? Nous n’effectuons plus nos calculs de tête. Nous suivons un GPS sans connaître l’itinéraire. Nous acceptons qu’un algorithme sélectionne les informations que nous lirons, les films que nous regarderons ou les restaurants dans lesquels nous nous restaurerons.
Pourquoi le jugement humain échapperait-il à cette logique historique ?
Le véritable basculement interviendra lorsque l’être humain estimera qu’il n’est plus nécessaire de penser par lui-même.
Vous me direz que c’est déjà presque le cas pour certains…
Ce glissement sera imperceptible et insidieux. Nous demandons déjà un avis, et de plus en plus une recommandation. Nous lui demandons également de choisir la meilleure option. La logique implacable voudra peut-être que nous cessions un jour de nous interroger, parce que la réponse de la machine sera devenue plus pertinente que la nôtre.
À cet instant, il se produira un phénomène inédit dans l’histoire de l’humanité. Pour la première fois, une civilisation disposera de la possibilité de déléguer non plus seulement son travail, sa mémoire ou son calcul, mais l’exercice même de son jugement intime.
La question a déjà cessé d’être technologique. Elle est d’ores et déjà anthropologique.
Qu’est-ce qu’un être humain lorsque l’acte de juger, qui fonde depuis des millénaires sa responsabilité, sa liberté et sa capacité à décider, n’est plus exercé par lui, mais par un système dont les conclusions lui paraissent plus fiables que les siennes ?
Je ne crois pas que le véritable défi de l’IA soit de devenir un jour une machine capable de « penser » comme quelque chose qui ressemblera peu ou prou à la pensée humaine.
Le véritable danger, à mon sens, est de savoir si l’humanité continuera à trouver une raison de penser elle-même.
En savoir plus sur Décider dans le réel
Subscribe to get the latest posts sent to your email.
Ouvrir la discussion
Vous pouvez ouvrir la discussion.