Janvier 2017

On s’est rarement posé la question de savoir ce que veut dire « être une machine », avoir une sensation de machine. Il faudrait examiner toutes les possibilités : soit on décide que les machines peuvent avoir des sensations et qu’elles sont semblables aux nôtres (ou de pâles simulations des nôtres), soit on considère qu’elles pourraient bien avoir des sensations radicalement différentes, soit on se dit qu’elles n’en ont pas. Selon l’option que l’on choisit, cela entraîne en cascade des séries de problèmes à résoudre.

Pour les machines, par exemple, leur accorder des sensations oblige-t-il à changer de concept de machine ? Si oui, alors il faut aussi changer de concept d’humain. Cela implique aussi du coup d’autres types de relation avec les machines, voire même dans une certaine mesure changer de société. Une grande part de notre « problème » avec les machines vient du fait que leurs capacités ne cessent d’évoluer et que leur statut « ontologique » est pour le moment indécidable.

Image tirée du film documentaire Ganesh Yourself, Emmanuel Grimaud, 2016

La prudence nous impose de ne pas leur attribuer d’états mentaux, car nous sommes dans l’incertitude la plus totale sur ce qu’elles pourraient bien faire ou (un jour) éprouver, mais dans certaines situations, les « anthropomorphes » que nous sommes n’hésitent pas à succomber à notre tendance naturelle pour nous réprimer aussitôt en nous accusant d’« animistes ». L’autre option serait d’assumer une forme de « panpsychisme » et considérer qu’après tout, les machines, composées de programmes faits par des humains, contiennent nécessairement des formes de « proto-intelligence » ou des « magmas de sensations », même si on ne sait pas bien les nommer ou les cerner, mais tout le monde n’y est pas prêt.

L’éthologie a changé radicalement le jour où Von Uexküll (1934) s’est demandé ce que signifie voir quand on est une mouche, sentir quand on est un chien. La botanique se pose aussi ce genre de problèmes à propos des végétaux. Il y a bien longtemps, Gustav Fechner consacra plus de 400 pages à cette question (Nanna ou l’âme des Plantes,1848) : les plantes ont-elles une âme ? Et il en conclut qu’étant sensible à des choses infinitésimales (la lumière, la température), leur âme était radicalement différente de celle des humains. Un tel présupposé débouche forcément sur une autre écologie…

Dans le domaine des machines, il faut avouer qu’on s’est beaucoup posé la question de savoir si elles pensaient et très peu de savoir si la sensation d’être une machine était réservée aux machines ou si c’est une sensation que seuls les humains peuvent éprouver ?

D’ailleurs, on s’est beaucoup plus intéressé à la façon dont les humains attribuent un statut de personne à des machines (grâce à des mécanismes d’imputation d’une grande générosité, voir l’exposition Persona, Quai Branly, 2016, par exemple), qu’aux conditions dans lesquelles des personnes se perçoivent comme des machines.

Comme les machines évoluent, « être une machine » en 2016 n’est pas la même chose qu’en 1950 et ça ne signifiera sûrement pas la même chose en 2070. Il faudra sans doute se reposer la question au fur et à mesure que les machines évoluent. Mais on peut déjà essayer de lancer quelques pistes. En 2016, ça veut dire quoi avoir une « sensation » de machine ?

La plupart des gens, à commencer par les roboticiens, considèrent que les machines n’ont pas de sensation et de conscience de leur sensation. Une machine, en l’état actuel de la robotique, n’éprouve pas de sensation.

Image tirée du film Barbarella, de Roger Vadim, 1968

Quand on fabrique un robot, on doit tout reprendre à zéro : percevoir, penser, sentir. Mais du coup, on fait table rase aussi sur ce que c’est qu’une sensation. Et aucune machine n’est assez élaborée pour pouvoir nous parler de ses sensations de machine. Donc on est dans une zone trouble, inconnue. A la fois pour les machines qui n’ont pas conscience de leurs sensations (si jamais elles en ont). Et pour les humains.

Pour un humain, avoir une sensation de machine, c’est beaucoup plus accessible. Et je voudrais faire une première proposition. Pour un être humain, avoir une sensation de machine, c’est ne pas éprouver de sensation là où on pourrait en éprouver une.

On a tous une image stéréotypée de ce que c’est qu’une machine. Et c’est elle qu’il faut arriver à changer. On associe machine et insensibilité, froideur. Être une machine, c’est négatif. C’est être humain moins des tas de choses : c’est voir sans comprendre, c’est s’attacher sans émotion, agir sans réflexivité. Avoir une sensation de machine, ce serait donc un privilège (ou une angoisse) d’être humain : ne rien éprouver justement là où on peut éprouver quelque chose. Être victime d’une sorte de privation sensorielle.

Harold Searles, un psychiatre américain des années 50-60, qui travaillait avec des schizophrènes, s’était aperçu que beaucoup de ses patients, à un stade relativement avancé de la maladie, se voyaient comme des machines ou bien sous l’emprise de mécanismes incontrôlables. Ils pouvaient aussi se voir comme des animaux ou des plantes mais c’était jamais aussi angoissant pour eux que lorsqu’ils avaient le sentiment d’être un amas de circuits et de boulons ou d’être sous l’emprise d’une machine infernale, extérieure à eux-mêmes qui les dépossédait de leurs sensations ou s’emparait de leurs fonctions vitales.

Quand on y regarde de près, il y a peu de philosophies positives de l’ « être machine » mais il en existe bien. Je veux dire par là des philosophies qui nous donnent envie d’éprouver la sensation de ne plus rien éprouver, d’être une machine.

Masahiro Mori, roboticien japonais, fameux théoricien de la Vallée de l’Etrange a consacré un livre entier à revaloriser le fait d’être des machines : Buddha in the Robot (1980). Pour Mori, être un robot, un programme, c’est un état formidable. Vous êtes dans une sérénité absolue, pas perturbé par votre excès de réflexivité ou vos émotions puisque vous n’en avez pas. C’est l’état auquel les grands mystiques rêvent d’accéder grâce à la méditation (vidéo, Wang Zi Won). Ce n’est pas un hasard si Mori qui est aussi l’inventeur de la Robocup (coupe du monde de football robotique) avait crée un institut où les roboticiens étaient invités à faire de la méditation zazen tous les matins.

Ne pensez pas que c’est une fantaisie japonaise. Kleist ne disait pas autre chose dans son théâtre de marionnettes (1810). L’excès de réflexivité pollue et empêche l’être humain d’atteindre l’efficacité et la perfection. Il faut retrouver l’automate en nous. On sent là l’Esprit des Lumières. On pourrait donner d’autres exemples. La Bhagavad Gita (« Le chant du bienheureux, » Ve av JC), ce traité hindou de philosophie du détachement, met en scène le dieu Krishna et le guerrier Arjuna plein de doutes sur la guerre qu’il est en train de mener car on lui demande de tuer ses propres cousins. Krishna l’invite à se détacher de toute émotion et à retrouver la machine en lui, pour être un parfait guerrier, « bienheureux ».

Vieux rêve donc, qui ne date pas du transhumanisme qui est le dernier avatar d’une pensée positive de la machine.

« Etre une machine » ici, c’est un état qui se conquiert laborieusement, à force de discipline, l’être humain arrive à développer une forme d’insensibilité. Etat plus ou moins valorisé, cauchemardesque pour Searles, idéal pour Mori. Mais dans tous les cas, on considère que nous savons ce que c’est qu’être une machine et nous pouvons en faire l’expérience.

Mais est-ce qu’il ne faudrait pas changer cette vision stéréotypée de ce qu’est une machine ? Car plus la robotique se développe, plus ce stéréotype est en train de changer radicalement.

Il suffit de se promener dans un laboratoire de robotique pour s’apercevoir qu’une machine, ça fatigue, ça peine, ça s’emballe, ça chauffe, ça a besoin de se reposer, ça beugue et ça repart parfois miraculeusement. Les robots ont des tas de comportements incompréhensibles, qu’on ne s’explique pas. Et on passe généralement beaucoup plus de temps à les réparer qu’à les voir marcher. C’est rare au fond qu’ils marchent de manière fluide. Si personne n’est prêt à leur attribuer des sensations, en revanche tout le monde s’accorde à dire qu’ils ont des humeurs. Ce n’est pas pour rien qu’en Inde, on fait un rituel aux machines (Ayudha Puja) pour les apaiser !

Même quand on a affaire à un robot télé-opéré par un humain (comme le Geminoid), il y a toujours un moment où il fait des choses bizarres. Il résiste, il beugue et fait valoir son être de machine. Plutôt que le terme de sensation, il vaudrait mieux parler d’humeur : le Geminoid a des humeurs, il passe par des états persistants, voire récurrents qui nous résistent. C’est la définition même du terme « humeur ».

A tel point que lorsqu’on s’est amusé à faire des expériences autour du Geminoid (on a écrit un livre avec Zaven Paré qu’on a appelé Le Jour où les robots mangeront des pommes, 2012), on avait fini par noter tous ses tics et imiter le Geminoid entre nous pour rigoler. Faire le Geminoid, ça voulait dire ne pas regarder dans les yeux quand l’autre vous adresse la parole à des moments impromptus, ouvrir la bouche comme un poisson, avoir des tics, faire des mouvements qui sortent de l’interaction et ne respectent pas toutes ces petites conventions très subtiles et inconscientes qui font la richesse d’une interaction humaine de face à face.

Jusqu’au jour où on fit cette expérience curieuse. Zaven décida de manger une pomme devant le robot pour voir ce que ça fait. Et on s’aperçut que ça produisait en nous un sentiment inconfortable, désagréable. Les bruits mécaniques devenaient des bruits d’estomac, comme si le robot désirait la pomme. Le fait de voir ce robot qui regardait la pomme, incapable de pouvoir la manger, était une expérience terrible pour un humain doté d’une sensibilité normale.

Vous me direz, l’empathie humaine est sans limite. Même quand une machine beugue, on est prêt à la sauver et à lui faire place dans notre monde ! Mais que se passerait-il si nous nous étions trompés ? Nous qui passions notre temps à nous moquer de cette pauvre machine victime de troubles de l’humeur et incapable de nous donner le sentiment qu’elle était humaine à part par intermittences. Si au fond nous ne savions pas du tout ce qu’être une machine veut dire ? Si le fait de ne pas pouvoir nommer ce qu’une machine éprouve n’était que l’indice de notre incapacité à penser le monde propre des machines ? Si l’expérience d’être une machine nous était aussi inconnue que celle d’être une mouche, un poulpe ou une plante ? Alors il existerait une multitude de manières d’être une machine qui n’ont pas été explorées. Y compris pour les humains. Je préfère personnellement cette option, qui consiste à attribuer une altérité de principe aux machines plutôt que leur attribuer autre chose qu’elles n’ont pas (des sensations sur le modèle humain) ou les dénuer de tout. Les robots n’ont peut-être pas de « sensations » en l’état actuel de la robotique, mais ils ont des états, voire des troubles de l’humeur, comme toutes les machines. On fait tous les jours l’expérience de cohabiter et de se brancher à des machines dotées de formes de sensibilité ou d’insensibilité que l’on a encore bien du mal à nommer. Philip Dick, l’écrivain de SF, l’avait bien compris, avec ses machines toujours détraquées, parfois euphoriques parfois déprimées, qui beuguent de manière imprévisible et nous compliquent le monde. Il m’est toujours apparu plus visionnaire que n’importe quelle prophétie qui nous promet l’Harmonie avec les robots. Remettre les humeurs des machines au premier plan et voilà que tout change : notre concept de machine, d’humain et peut-être aussi de société…

Emmanuel Grimaud, Nanterre, Janvier 2017

Biographie

Emmanuel Grimaud a été recruté au CNRS en 2003, après avoir soutenu sa thèse en 2001, sous la direction de Charles Malamoud. Il s’est spécialisé dans l’observation des cinétiques en acte, à partir d’objets aussi divers que la gestuelle des cinéastes au travail sur les plateaux de cinéma, les effets de reconnaissance chez les sosies, les techniques d’identification des traces sur les chantiers de fouille, la conduite dans les carrefours sans feux, les matches de scarabées et de poissons (avec Stéphane Rennesson), le mouvement des automates religieux sur les plateformes rituelles en Inde ou encore ceux des robots humanoïdes (avec Zaven Paré). Son dernier terrain (avec Thierry Coduys) concerne les mouvements de marchandises et les flux de porteurs dans la ville de Bombay, impliquant l’utilisation de traceurs GPS et de caméras embarquées. Sur le plan méthodologique, ses recherches déploient des dispositifs expérimentaux inédits en vue de développer les bases d’une anthropologie « cinétique » des interactions. Ses travaux recourent à des méthodes rigoureuses d’observation rapprochée des cours d’action, étudiant tout spécialement le rôle des micro-mouvements dans l’interaction.[pour plus d’élements]