L'IA et le philosophe

Une IA vous répond, vous corrige, vous complimente. Mais comprend-elle ce qu’elle dit ? Les philosophes se posaient la question bien avant ChatGPT.

L’intelligence artificielle pose à la philosophie une question très ancienne sous une forme nouvelle : une machine peut-elle penser ? Depuis la mise en ligne de ChatGPT, en novembre 2022, des millions de personnes échangent chaque jour avec des programmes capables de rédiger un courriel, d’expliquer un théorème ou de tenir une conversation. Les réponses sont souvent bluffantes. Mais produire des phrases justes, est-ce comprendre ? Et que veut dire, au juste, « penser » ?

Penser, est-ce calculer ?

L’idée qu’une machine puisse raisonner suppose d’abord que raisonner soit une forme de calcul. Thomas Hobbes le soutient dans le Léviathan (1651) : raisonner revient à calculer, c’est-à-dire à additionner et à soustraire. Leibniz rêvait, lui, d’une langue universelle qui permettrait de régler les disputes en calculant.

Descartes pose au contraire une limite dans le Discours de la méthode (1637). Une machine pourrait prononcer des mots, mais jamais, selon lui, les arranger de façon variée pour répondre au sens de tout ce qu’on dit devant elle, comme le fait même l’homme le plus borné. Pour Descartes, l’usage souple du langage est le signe de la pensée. C’est précisément ce critère que les IA actuelles semblent mettre à l’épreuve.

Le test de Turing : juger sur les apparences ?

En 1950, le mathématicien britannique Alan Turing publie l’article « Computing Machinery and Intelligence » dans la revue Mind. Plutôt que de définir la pensée, il propose un « jeu de l’imitation ». Un examinateur dialogue par écrit avec un humain et une machine, sans les voir. S’il ne parvient pas à les distinguer, pourquoi refuser de dire que la machine pense ?

Dans le même article, Turing répond à plusieurs objections. L’une vient d’Ada Lovelace, qui notait dès 1843 que la machine analytique de Charles Babbage ne prétend rien créer : elle fait seulement ce qu’on sait lui ordonner. L’expression « intelligence artificielle » apparaît plus tard, en 1955, dans le projet de la conférence de Dartmouth porté notamment par John McCarthy.

La chambre chinoise : comprendre ou manipuler des symboles ?

En 1980, le philosophe américain John Searle publie l’article « Minds, Brains, and Programs ». Il imagine une personne qui ne parle pas chinois, enfermée dans une pièce avec un manuel de règles. On lui glisse des questions écrites en chinois. En suivant les règles, elle assemble des caractères et renvoie des réponses parfaites. Vue de l’extérieur, la pièce semble comprendre le chinois. Pourtant, personne à l’intérieur ne comprend un mot.

Pour Searle, un programme fait la même chose : il manipule des symboles selon leur forme (la syntaxe) sans accéder à leur sens (la sémantique). Réussir le test de Turing ne prouverait donc pas la compréhension. L’argument a suscité de nombreuses réponses. Certains soutiennent par exemple que c’est le système entier, personne, manuel et pièce réunis, qui comprend.

Ce que l’IA oblige à repenser

Hubert Dreyfus, dans What Computers Can’t Do (1972), soutenait que l’intelligence humaine repose sur un corps, des habitudes et une situation dans le monde, que des règles formelles ne peuvent pas capturer. Les débats actuels prolongent ces questions sans les avoir tranchées : les grands modèles de langage comprennent-ils quelque chose, ou imitent-ils la compréhension ? Chercheurs et philosophes restent divisés. La question a au moins un mérite : elle oblige à préciser ce que l’on entend par intelligence, conscience ou compréhension chez l’être humain lui-même.

Ce qu'il faut retenir

• Pour Descartes (1637), l’usage libre du langage distingue l’homme de la machine.
• Turing (1950) propose de juger une machine sur son comportement : c’est le jeu de l’imitation.
• Searle (1980) objecte, avec la chambre chinoise, que manipuler des symboles n’est pas comprendre.
• Savoir si les IA actuelles comprennent ce qu’elles disent reste une question ouverte.

Aller plus loin

Cette fiche n’en donne qu’un aperçu. Pour approfondir le rapport entre l’intelligence artificielle et la pensée, avec exemples et références, regardez le cours complet sur le Patreon du Précepteur.

Sur le site, l’épisode Être trop intelligent peut-il rendre bête ? interroge ce que l’on appelle intelligence. À voir aussi, les cours La technique est-elle un progrès ? et Matérialisme VS Idéalisme : lequel a raison ?, qui pose la question du rapport entre l’esprit et la matière.