Pourquoi l'intelligence artificielle n'est pas intelligente

L'intelligence artificielle (IA) n'existe pas, ou, au mieux, elle est beaucoup trop artificielle. Rien à voir avec celle de l'humain. Luc Julia, à l'origine de l'assistant vocal Siri d'Apple et aujourd'hui vice-président innovation chez Samsung, ainsi que Jean-Louis Dessalles, enseignant-chercheur à Télécom ParisTech, s'accordent sur ce point dans leurs ouvrages respectifs, parus fin janvier.

Bien loin des gourous de la Silicon Valley qui annoncent la venue prochaine de la singularité , d'une IA capable de dépasser les humains, voire dotée d'une autonomie morale , ils condamnent ces prophéties et cherchent à démontrer ce qui nous différencie de la machine. Mais ils admettent volontiers l'incommensurabilité de leur tâche : à vouloir dire ce qui nous distingue, il faut définir ce que nous sommes.

Face aux lacunes inhérentes à leur entreprise, aucun n'interdit d'ailleurs qu'il soit un jour possible de créer une intelligence similaire à la nôtre, voire meilleure. « Je ne peux pas exclure qu'elle existera un jour, je pense qu'elle nécessitera un changement d'approche [...] fondé sans doute sur un mélange de sciences bien différentes telles que la biologie, la chimie ou encore la physique quantique », écrit Luc Julia. « La question de la singularité technologique ressemble à celle de la surpopulation sur Mars : on ne peut exclure que le problème se pose un jour, mais ce n'est pas demain », ajoute Jean-Louis Dessalles. En attendant, les deux auteurs font ce qu'il y a certainement de mieux à faire, ce qu'il leur reste à faire : énumérer les critères de comparaison.

Intelligence artificielle restreinte

Selon Luc Julia, l'intelligence est « réservée au vivant ». C'est un postulat, donc non prouvé. Pour le reste, pour l'humain, viennent ensuite la capacité à contextualiser, la curiosité, l'innovation, l'aptitude à lier différentes disciplines. « C'est en comparant l'IA à l'intelligence humaine qu'on s'aperçoit à quel point l'IA se concentre sur un domaine d'activité et néglige le vécu, la sensibilité, l'assimilation d'expériences, en un mot, la multidisciplinarité. » Elle peut être supérieure à l'humain, comme c'est le cas aux échecs ou au jeu de go, mais seulement pour certaines tâches bien définies. Au-delà, son horizon est terriblement restreint.

Le robot raisonnera en fonction de ce qu'il connaît, des données sur lesquelles il s'est entraîné, comme avec l'apprentissage automatique qui permet à un logiciel d'induire des règles en dégageant de grands traits dans une multitude : « Il emmagasine, il recrache. » Ce qui lui manque finalement, c'est la compréhension, mais Luc Julia ne fait qu'effleurer le sujet. Plus détaillée, la première moitié de son livre raconte son parcours de chercheur et d'entrepreneur dans la Silicon Valley, qui l'a mené du laboratoire SRI (Stanford Research International) aux bureaux de HP, Apple et Samsung, dont il dirige désormais la recherche en intelligence artificielle en Californie et à Paris.

Comprendre et percevoir

Le thème de la compréhension est en revanche plus développé dans l'ouvrage de Jean-louis Dessalles qui s'attache davantage à la technique et aux problèmes conceptuels.

En 2016, Microsoft lance sur le réseau social Twitter un robot conversationnel sous les traits d'une jeune femme nommée « Tay ». « Sa force réside dans sa capacité d'analyser et de produire des messages dans le style de ceux des jeunes adultes présents sur le réseau à cette période, explique Jean-Louis Dessalles. Comme pour la plupart des agents conversationnels, l'intelligence de Tay se nourrit des paroles précédemment échangées. » Sauf que des individus qui avaient parfaitement compris le principe en ont profité pour la tourner en dérision, jusqu'à ce que Tay en vienne à parler « d'Adolf Hitler, l'inventeur de l'athéisme ». Microsoft a fini par débrancher Tay et effacer ses messages. Aurait-elle tenu de tels propos si elle avait compris ce qu'elle publiait ? « Comprendre, c'est bon pour les humains », écrit Jean-Louis Dessalles. Il n'en reste pas moins que la machine est très performante pour inférer et manipuler des symboles , des mots : « Une IA n'aurait pas besoin de comprendre pour être intelligente. »

L'enjeu sous-jacent est celui de la conscience. Comprendre, c'est une expérience qui a une qualité sensible à laquelle l'humain prête attention, dont il a conscience. Ca n'empêche pas de dire des bêtises, ça peut permettre de s'en rendre compte.

« La question qui se pose est donc de savoir si tous nos raisonnements perceptifs peuvent […] être simulés par des fonctions précalculées. » Peut-on quand même programmer une IA qui ferait parfaitement illusion ? On peut se contenter d'une simulation de la conscience, comme l'aurait fait le mathématicien Alan Turing. Il avait imaginé un test qui porte aujourd'hui son nom : si rien ne permet de distinguer la machine d'un humain dans une conversation à l'aveugle, alors rien ne permet de dire qu'elle ne « pense » pas. Dans ce cas, on se satisfait d'une liste de critères à remplir par elle.

Seulement, les critères où la machine n'égale pas l'humain sont encore très nombreux, insiste Jean-Louis Dessalles. Mais, surtout, aussi perfectionné soit le robot, il finira toujours par dire des bêtises et à être démasqué « tout simplement parce qu'il ne comprend pas le problème dont il est question ». Pourquoi ? Parce que nos expériences conscientes sont liées à la causalité de nos actions, à ce que nous pouvons répondre par exemple, les symboles ne suffisent pas.

« L'Intelligence artificielle n'existe pas », Luc Julia, First éditions, 290 pages, 17,95 euros ; et « Des intelligences très artificielles », Jean-Louis Dessalles, Odile Jacob, 198 pages, 22,90 euros.