Recherche, arts et pratiques numériques #32: Robots, miroirs fragiles ?

Mercredi 08 avril 2020
09h30-12h
Ecole Supérieure d’Art d’Aix en Provence Felix Ciccolini,
Amphithéâtre
Rue Émile Tavan
13100 Aix-en-Provence

Entrée libre

Robots, miroirs fragiles ?

Une proposition organisée en collaboration avec France Cadet, artiste, professeure à l’école d’art d’Aix en Provence

Zaven Paré, chercheur en robotique et artiste, résident à l’IMéRA

Robots, miroirs fragiles ?

Lorsqu’on roule en voiture, on se déplace dans un espace bidimensionnel de A à B, lorsqu’on se déplace en avion il s’agit d’un espace tridimensionnel et sans doute qu’avec les robots, il serait possible d’émettre l’hypothèse de nouveaux véhicules qui donneraient la possibilité de se déplacer non plus simplement dans un espace géométrique, mais dans une autre dimension, telle celle qu’on expérimente lorsqu’on se regarde dans un miroir. L’ubiquité proposée par certains dispositifs robotisés permettrait par exemple de se télérobotiser dans des corps mécaniques plus ou moins éloignés. Les robots anthropomorphiques ne seraient plus simplement une imitation, mais pourraient bien être des sortes de véhicules, en tant qu’agents de dédoublement des hommes dans le cas de la communication par téléprésence. Les robots sont des facettes de ce jeu de miroir entre l’homme et son univers, proposant des modes d’interopérabilité nouveaux.
Considérer certains objets comme nos alter ego, nos compagnons ou ces sortes de miroirs ne serait donc pas exclu. Ainsi, dans un très grand nombre de cultures, les marionnettes constituent phylogénétiquement et ontologiquement des projections d’alter ego et, aujourd’hui, cette familiarité séculaire avec ces figures anthropomorphiques animées entraîne les robots dans leur filiation.

Extrait d’un dialogue avec le professeur Ishiguro Hiroshi à l’Advanced Telecommunication Research International Institute en 2013 (« The Art of Being Together with Robots : A Conversation with Professor Ishiguro Hiroshi », International Journal of Social Robotics, numéro hors-série, Londres, Springer, 2014, p. 129-136) :

Z.P. : Notre relation à nous-même se fait généralement à travers notre image dans les miroirs, les photos et le regard des autres. Quelle est la différence une fois que vous avez une copie de vous-même ?
I.H. : […] L’image dans le miroir n’est pas nous-même, au contraire, c’est une illusion […]. Si je compare une photo de moi à mon reflet dans le miroir, il s’agit de deux choses différentes.
Z.P. : Est-ce que le fait que vous vous êtes dupliqué change votre connaissance de vous-même ?
I.H. : Non, pas du tout, mais le geminoid est plus qu’une simple image. Généralement personne ne connaît sa propre apparence et son propre comportement. Ma secrétaire connaît mon comportement mieux que moi-même. Le geminoid est comme un frère jumeau, mais je ne peux pas me reconnaître en lui. Logiquement le geminoid est ma copie, et c’est tout.
Z.P. : Qu’est-ce qui va changer avec vos deux copies de vous-même ?
I.H. : Que voulez-vous dire ? Il se pourrait que je n’aie plus besoin de venir ici ou d’aller à l’université d’Ôsaka, par exemple.
Z.P. : Vous allez rester à la maison et contrôler les deux en même temps ?
I.H. : Oui, je pourrais le faire.

Les robots sont souvent présentés comme de nouvelles frontières de nos corps. Avec le théâtre des robots, il fut remarquable de pouvoir découvrir comment il était aussi possible de transformer une créature artificielle en être moral et fragile. Dans la première pièce avec l’andréide Geminoid F, à défaut d’un véritable dialogue, la poésie habitait la machine, elle grandissait le robot et le transformait en véritable « fable » humaine, un miroir d’Orphée, un rêve providentiel renvoyant l’image du miroir de notre impuissance.

Agnes Giard, anthroplogue, chercheuse au sein du projet EMTECH, Freie Universität Berlin et au laboratoire Sophiapol, Paris Nanterre

Robots faibles et poupées stupides : les créatures alternatives au Japon

Depuis le début du XXIe siècle, le gouvernement japonais qui refuse d’ouvrir les frontières mène une politique pro-robot afin que le travail soit confié à des machines « pour pallier au manque de bras ». Dopée par cette politique pro-robot, les ersatz d’humains se multiplient au Japon, notamment dans le domaine des relations sociales et émotionnelles. De façon très révélatrice, la plupart d’entre eux sont développés sur des modèles conceptuels très proches de ceux qui président à la fabrication des poupées de silicone. Ainsi que j’aimerais le démontrer, ces robots ne visent en effet pas à reproduire l’humain « en mieux », mais au contraire à en fournir une version « pathétique », sous des formes marquées par l’immaturité, la déficience ou l’infirmité. Pour le dire plus clairement : ces robots, en apparence, ne servent pas à grand-chose. Comment comprendre que les laboratoires japonais accouchent de prototypes qui s’inscrivent à rebours des attendus habituels en matière de robotique ? En comparant la fabrique des love dolls avec celle des robots sociaux, j’espère apporter un éclairage inédit sur ce phénomène.

Comité d’organisation

Cédric Parizot (IREMAM, CNRS/AMU), Jean Cristofol (ESAAix, PRISM AMU/CNRS), Jean-Paul Fourmentraux (Centre Norbert Elias, CNRS/AMU/EHESS), Anna Guillo (LESA, AMU/CNRS), Manoël Penicaud (IDEMEC, CNRS/AMU)

Recherche, art et pratiques numériques est un séminaire transdisciplinaire qui s’intéresse aux perturbations productives que génèrent les collaborations entre les chercheurs en sciences humaines et les artistes dans le domaine du numérique. Il s’inscrit dans la suite des réflexions et des expérimentations que nous avons menées à l’IMéRA dans le programme antiAtlas des frontières depuis 2011 tout en élargissant notre questionnement au-delà de la seule question des frontières. (lire la suite)

Photo: Zaven Paré, c5 bleu.

Emmanuel Grimaud – Être machine : Il existe une multitude de manières d’être une machine qui n’ont pas été explorées

Janvier 2017

On s’est rarement posé la question de savoir ce que veut dire « être une machine », avoir une sensation de machine. Il faudrait examiner toutes les possibilités : soit on décide que les machines peuvent avoir des sensations et qu’elles sont semblables aux nôtres (ou de pâles simulations des nôtres), soit on considère qu’elles pourraient bien avoir des sensations radicalement différentes, soit on se dit qu’elles n’en ont pas. Selon l’option que l’on choisit, cela entraîne en cascade des séries de problèmes à résoudre.

Pour les machines, par exemple, leur accorder des sensations oblige-t-il à changer de concept de machine ? Si oui, alors il faut aussi changer de concept d’humain. Cela implique aussi du coup d’autres types de relation avec les machines, voire même dans une certaine mesure changer de société. Une grande part de notre « problème » avec les machines vient du fait que leurs capacités ne cessent d’évoluer et que leur statut « ontologique » est pour le moment indécidable.

Image tirée du film documentaire Ganesh Yourself, Emmanuel Grimaud, 2016

La prudence nous impose de ne pas leur attribuer d’états mentaux, car nous sommes dans l’incertitude la plus totale sur ce qu’elles pourraient bien faire ou (un jour) éprouver, mais dans certaines situations, les « anthropomorphes » que nous sommes n’hésitent pas à succomber à notre tendance naturelle pour nous réprimer aussitôt en nous accusant d’« animistes ». L’autre option serait d’assumer une forme de « panpsychisme » et considérer qu’après tout, les machines, composées de programmes faits par des humains, contiennent nécessairement des formes de « proto-intelligence » ou des « magmas de sensations », même si on ne sait pas bien les nommer ou les cerner, mais tout le monde n’y est pas prêt.

L’éthologie a changé radicalement le jour où Von Uexküll (1934) s’est demandé ce que signifie voir quand on est une mouche, sentir quand on est un chien. La botanique se pose aussi ce genre de problèmes à propos des végétaux. Il y a bien longtemps, Gustav Fechner consacra plus de 400 pages à cette question (Nanna ou l’âme des Plantes,1848) : les plantes ont-elles une âme ? Et il en conclut qu’étant sensible à des choses infinitésimales (la lumière, la température), leur âme était radicalement différente de celle des humains. Un tel présupposé débouche forcément sur une autre écologie…

Dans le domaine des machines, il faut avouer qu’on s’est beaucoup posé la question de savoir si elles pensaient et très peu de savoir si la sensation d’être une machine était réservée aux machines ou si c’est une sensation que seuls les humains peuvent éprouver ?

D’ailleurs, on s’est beaucoup plus intéressé à la façon dont les humains attribuent un statut de personne à des machines (grâce à des mécanismes d’imputation d’une grande générosité, voir l’exposition Persona, Quai Branly, 2016, par exemple), qu’aux conditions dans lesquelles des personnes se perçoivent comme des machines.

Comme les machines évoluent, « être une machine » en 2016 n’est pas la même chose qu’en 1950 et ça ne signifiera sûrement pas la même chose en 2070. Il faudra sans doute se reposer la question au fur et à mesure que les machines évoluent. Mais on peut déjà essayer de lancer quelques pistes. En 2016, ça veut dire quoi avoir une « sensation » de machine ?

La plupart des gens, à commencer par les roboticiens, considèrent que les machines n’ont pas de sensation et de conscience de leur sensation. Une machine, en l’état actuel de la robotique, n’éprouve pas de sensation.

Image tirée du film Barbarella, de Roger Vadim, 1968

Quand on fabrique un robot, on doit tout reprendre à zéro : percevoir, penser, sentir. Mais du coup, on fait table rase aussi sur ce que c’est qu’une sensation. Et aucune machine n’est assez élaborée pour pouvoir nous parler de ses sensations de machine. Donc on est dans une zone trouble, inconnue. A la fois pour les machines qui n’ont pas conscience de leurs sensations (si jamais elles en ont). Et pour les humains.

Pour un humain, avoir une sensation de machine, c’est beaucoup plus accessible. Et je voudrais faire une première proposition. Pour un être humain, avoir une sensation de machine, c’est ne pas éprouver de sensation là où on pourrait en éprouver une.

On a tous une image stéréotypée de ce que c’est qu’une machine. Et c’est elle qu’il faut arriver à changer. On associe machine et insensibilité, froideur. Être une machine, c’est négatif. C’est être humain moins des tas de choses : c’est voir sans comprendre, c’est s’attacher sans émotion, agir sans réflexivité. Avoir une sensation de machine, ce serait donc un privilège (ou une angoisse) d’être humain : ne rien éprouver justement là où on peut éprouver quelque chose. Être victime d’une sorte de privation sensorielle.

Harold Searles, un psychiatre américain des années 50-60, qui travaillait avec des schizophrènes, s’était aperçu que beaucoup de ses patients, à un stade relativement avancé de la maladie, se voyaient comme des machines ou bien sous l’emprise de mécanismes incontrôlables. Ils pouvaient aussi se voir comme des animaux ou des plantes mais c’était jamais aussi angoissant pour eux que lorsqu’ils avaient le sentiment d’être un amas de circuits et de boulons ou d’être sous l’emprise d’une machine infernale, extérieure à eux-mêmes qui les dépossédait de leurs sensations ou s’emparait de leurs fonctions vitales.

Quand on y regarde de près, il y a peu de philosophies positives de l’ « être machine » mais il en existe bien. Je veux dire par là des philosophies qui nous donnent envie d’éprouver la sensation de ne plus rien éprouver, d’être une machine.

Masahiro Mori, roboticien japonais, fameux théoricien de la Vallée de l’Etrange a consacré un livre entier à revaloriser le fait d’être des machines : Buddha in the Robot (1980). Pour Mori, être un robot, un programme, c’est un état formidable. Vous êtes dans une sérénité absolue, pas perturbé par votre excès de réflexivité ou vos émotions puisque vous n’en avez pas. C’est l’état auquel les grands mystiques rêvent d’accéder grâce à la méditation (vidéo, Wang Zi Won). Ce n’est pas un hasard si Mori qui est aussi l’inventeur de la Robocup (coupe du monde de football robotique) avait crée un institut où les roboticiens étaient invités à faire de la méditation zazen tous les matins.

Ne pensez pas que c’est une fantaisie japonaise. Kleist ne disait pas autre chose dans son théâtre de marionnettes (1810). L’excès de réflexivité pollue et empêche l’être humain d’atteindre l’efficacité et la perfection. Il faut retrouver l’automate en nous. On sent là l’Esprit des Lumières. On pourrait donner d’autres exemples. La Bhagavad Gita (« Le chant du bienheureux, » Ve av JC), ce traité hindou de philosophie du détachement, met en scène le dieu Krishna et le guerrier Arjuna plein de doutes sur la guerre qu’il est en train de mener car on lui demande de tuer ses propres cousins. Krishna l’invite à se détacher de toute émotion et à retrouver la machine en lui, pour être un parfait guerrier, « bienheureux ».

Vieux rêve donc, qui ne date pas du transhumanisme qui est le dernier avatar d’une pensée positive de la machine.

« Etre une machine » ici, c’est un état qui se conquiert laborieusement, à force de discipline, l’être humain arrive à développer une forme d’insensibilité. Etat plus ou moins valorisé, cauchemardesque pour Searles, idéal pour Mori. Mais dans tous les cas, on considère que nous savons ce que c’est qu’être une machine et nous pouvons en faire l’expérience.

Mais est-ce qu’il ne faudrait pas changer cette vision stéréotypée de ce qu’est une machine ? Car plus la robotique se développe, plus ce stéréotype est en train de changer radicalement.

Il suffit de se promener dans un laboratoire de robotique pour s’apercevoir qu’une machine, ça fatigue, ça peine, ça s’emballe, ça chauffe, ça a besoin de se reposer, ça beugue et ça repart parfois miraculeusement. Les robots ont des tas de comportements incompréhensibles, qu’on ne s’explique pas. Et on passe généralement beaucoup plus de temps à les réparer qu’à les voir marcher. C’est rare au fond qu’ils marchent de manière fluide. Si personne n’est prêt à leur attribuer des sensations, en revanche tout le monde s’accorde à dire qu’ils ont des humeurs. Ce n’est pas pour rien qu’en Inde, on fait un rituel aux machines (Ayudha Puja) pour les apaiser !

Même quand on a affaire à un robot télé-opéré par un humain (comme le Geminoid), il y a toujours un moment où il fait des choses bizarres. Il résiste, il beugue et fait valoir son être de machine. Plutôt que le terme de sensation, il vaudrait mieux parler d’humeur : le Geminoid a des humeurs, il passe par des états persistants, voire récurrents qui nous résistent. C’est la définition même du terme « humeur ».

A tel point que lorsqu’on s’est amusé à faire des expériences autour du Geminoid (on a écrit un livre avec Zaven Paré qu’on a appelé Le Jour où les robots mangeront des pommes, 2012), on avait fini par noter tous ses tics et imiter le Geminoid entre nous pour rigoler. Faire le Geminoid, ça voulait dire ne pas regarder dans les yeux quand l’autre vous adresse la parole à des moments impromptus, ouvrir la bouche comme un poisson, avoir des tics, faire des mouvements qui sortent de l’interaction et ne respectent pas toutes ces petites conventions très subtiles et inconscientes qui font la richesse d’une interaction humaine de face à face.

Jusqu’au jour où on fit cette expérience curieuse. Zaven décida de manger une pomme devant le robot pour voir ce que ça fait. Et on s’aperçut que ça produisait en nous un sentiment inconfortable, désagréable. Les bruits mécaniques devenaient des bruits d’estomac, comme si le robot désirait la pomme. Le fait de voir ce robot qui regardait la pomme, incapable de pouvoir la manger, était une expérience terrible pour un humain doté d’une sensibilité normale.

Vous me direz, l’empathie humaine est sans limite. Même quand une machine beugue, on est prêt à la sauver et à lui faire place dans notre monde ! Mais que se passerait-il si nous nous étions trompés ? Nous qui passions notre temps à nous moquer de cette pauvre machine victime de troubles de l’humeur et incapable de nous donner le sentiment qu’elle était humaine à part par intermittences. Si au fond nous ne savions pas du tout ce qu’être une machine veut dire ? Si le fait de ne pas pouvoir nommer ce qu’une machine éprouve n’était que l’indice de notre incapacité à penser le monde propre des machines ? Si l’expérience d’être une machine nous était aussi inconnue que celle d’être une mouche, un poulpe ou une plante ? Alors il existerait une multitude de manières d’être une machine qui n’ont pas été explorées. Y compris pour les humains. Je préfère personnellement cette option, qui consiste à attribuer une altérité de principe aux machines plutôt que leur attribuer autre chose qu’elles n’ont pas (des sensations sur le modèle humain) ou les dénuer de tout. Les robots n’ont peut-être pas de « sensations » en l’état actuel de la robotique, mais ils ont des états, voire des troubles de l’humeur, comme toutes les machines. On fait tous les jours l’expérience de cohabiter et de se brancher à des machines dotées de formes de sensibilité ou d’insensibilité que l’on a encore bien du mal à nommer. Philip Dick, l’écrivain de SF, l’avait bien compris, avec ses machines toujours détraquées, parfois euphoriques parfois déprimées, qui beuguent de manière imprévisible et nous compliquent le monde. Il m’est toujours apparu plus visionnaire que n’importe quelle prophétie qui nous promet l’Harmonie avec les robots. Remettre les humeurs des machines au premier plan et voilà que tout change : notre concept de machine, d’humain et peut-être aussi de société…

Emmanuel Grimaud, Nanterre, Janvier 2017

Biographie

Emmanuel Grimaud a été recruté au CNRS en 2003, après avoir soutenu sa thèse en 2001, sous la direction de Charles Malamoud. Il s’est spécialisé dans l’observation des cinétiques en acte, à partir d’objets aussi divers que la gestuelle des cinéastes au travail sur les plateaux de cinéma, les effets de reconnaissance chez les sosies, les techniques d’identification des traces sur les chantiers de fouille, la conduite dans les carrefours sans feux, les matches de scarabées et de poissons (avec Stéphane Rennesson), le mouvement des automates religieux sur les plateformes rituelles en Inde ou encore ceux des robots humanoïdes (avec Zaven Paré). Son dernier terrain (avec Thierry Coduys) concerne les mouvements de marchandises et les flux de porteurs dans la ville de Bombay, impliquant l’utilisation de traceurs GPS et de caméras embarquées. Sur le plan méthodologique, ses recherches déploient des dispositifs expérimentaux inédits en vue de développer les bases d’une anthropologie « cinétique » des interactions. Ses travaux recourent à des méthodes rigoureuses d’observation rapprochée des cours d’action, étudiant tout spécialement le rôle des micro-mouvements dans l’interaction.[pour plus d’élements]

Recherche, arts et pratiques numériques #7: quoi de neuf du côté des androïdes ?

10h-13h Mercredi 07 décembre,
IMéRA,
2 place Le verrier,
13004 Marseille

Comité d’organisation : Jean Cristofol (Ecole Supérieure d’Art d’Aix en Provence), Jean-Paul Fourmentraux (Centre Norbert Elias, LESA, AMU, EHESS), Cédric Parizot (IREMAM,CNRS/AMU), Manoel Penicaud (IMERAM, CNRS/AMU).

Recherche, art et pratiques numériques est une séminaire transdisciplinaire qui s’intéresse aux perturbations productives que génèrent les collaborations entre les chercheurs en sciences humaines et les artistes dans le domaine du numérique. Il s’inscrit dans la suite des réflexions et des expérimentations que nous avons menées à l’IMéRA dans le programme antiAtlas des frontières depuis 2011 tout en élargissant notre questionnement au-delà de la seule question des frontières. (Lire la suite)

Quoi de neuf du côté des androïdes ?

Emmanuel Grimaud, anthropologue, Laboratoire d’ethnologie et de sociologie comparative (LESC), Université Paris Ouest Nanterre La Défense, CNRS
La Vallée de l’Etrange. Mises a l’épreuve d’un mystère expérimental, entre robotique et anthropologie

Mon intervention reviendra sur la théorie du roboticien japonais Masahiro Mori, et le rôle moteur qu’elle a joué dans la robotique humanoïde contemporaine. J’aborderai aussi les expérimentations auxquelles nous nous sommes livrés avec l’artiste Zaven Paré, autour du Geminoid au Japon ainsi que l’expérience Ganesh yourself en Inde (un robot qui permet de se mettre à la place de Dieu et d’avoir avec lui une conversation). Je parlerai par ailleurs de la manière dont on a essayé de repenser la vallée de l’Etrange avec l’exposition Persona (MQB). On y confrontait arts premiers et robotique, invitant le spectateur à faire toute une série d’expériences sur les modalités d’attribution d’un statut de personne à des ‘non humains’.

[Lire l’article d’Emmanuel Grimaud]

France Cadet, artiste, professeure à l’école supérieure d’art d’Aix en Provence
Robot mon Amour

France Cadet est une artiste de l’hybridation qu’une armée de robots chien a propulsée sur la scène artistique internationale. Ses animaux de compagnie, elle les a génétiquement modifiés par le code informatique. Leurs mouvements singuliers, tout comme les cartels qui les identifient, nous incitent à repenser notre relation aux machines autonomes qui investissent notre quotidien. Elle poursuit dans la série Robot mon Amour ses hybridations avec des créatures mi-femme mi-robot où vivant et artificiel, chair et mécaniques s’entremêlent. Y a-t-il encore une femme dans la machine ? La question du genre, évidemment, est une problématique sous-jacente du travail de cette artiste aux multiples identités qui nous incite à repenser plus largement notre conception du vivre ensemble.

Angelica Lim, ingénieure en intelligence artificielle, SoftBank Robotics Europe, Kyoto University
Comment construire le cerveau d’un robot depuis l’intelligence artificielle jusqu’à l’intelligence émotionnelle ?

Que reste-t-il à accomplir pour que C3P-0 et Rosie le Robot deviennent réalité ? Angelica Lim explorera les éléments qui composent le cerveau d’un robot, autrement dit son programme interne, en regardant sous la capuche d’un vrai robot compagnon humanoïde

Ken Rinaldo – Paparazzi Bots

Ken Rinaldo
Paparazzi Bots
Série de robots autonomes

Les Paparazzi Bots sont une série de cinq robots autonomes à taille humaine. Composés de plusieurs caméras, de capteurs et d’actionneurs robotiques sur une plate-forme à roulement, ils se déplacent à la vitesse de marche d’un être humain, en évitant les murs et les obstacles grâce à des capteurs infrarouges. Ils cherchent une seule chose, prendre des photos de personnes et rendre ces images publiques. Chaque robot prend de façon autonome la décision de photographier certaines personnes, tout en en ignorant d’autres. Les technologies de surveillance reposent sur un équilibre délicat dans notre culture contemporaine entre protection et intrusion, où nous sommes tous photographiés à notre insu par les téléphones cellulaires, les caméras cachées.

Ken Rinaldo est un artiste et théoricien qui crée des installations multimédias interactives qui brouillent les frontières entre l’organique et l’inorganique. Il a travaillé à l’intersection de l’art et de la biologie depuis plus de deux décennies en robotique interactive, art biologique, vie artificielle, communication inter espèces, imagerie numérique et prototypage rapide. Ses œuvres ont été commandées et exposées dans divers musées, galeries et festivals (Perth, Madrid, Linz, Kiasma, Sydney, Chicago, Séoul, Rotterdam, Los Angeles, San Francisco).

Atelier 3 : Frontières et technologies

19-20 avril 2012
Maison des Astronomes, IMéRA,
2 place Le Verrier
13004 Marseille

Organisation: Cédric Parizot (IMéRA/CNRS-IREMAM), Amaël Cattaruzza (CREC, Saint Cyr-Coëtquidan), Nicola Maï (London Metropolitan University, IMéRA), Gabriel Popescu (Indiana University, South Bend)

L’utilisation de technologies de plus en plus perfectionnées pour contrôler les flux de personnes et de marchandises traversant les frontières est un phénomène largement répandu. Il suffit ainsi de mentionner le lancement du projet Frontières intelligentes ou Barrière virtuelle aux Etats Unis, la centralisation des systèmes de renseignement dans l’espace Schengen, les patrouilles de robots et les barrières de « high-tech » en Israël et dans les Territoires palestiniens occupés, les robots sentinelles tueurs en Corée du Sud et, enfin, l’adoption internationale des standards du passeport électronique pour avoir quelques exemples du phénomène. Sa mise en place repose sur l’idée largement partagée que ces techniques fournissent des outils plus efficaces pour identifier et stopper les personnes indésirables et suspectes au sein des flux globaux. Le déploiement de ces technologies soulève des questions fondamentales dans la mesure où il contribue aux transformations de la nature et des formes des frontières, des espaces, et des territorialités.

« Frontières intelligentes”: état de l’art

Amaël Cattaruzza (géographe, maître de conférences, École Saint Cyr Coëtquidan)
Contrôle des frontières : la tentation technologique

Mariya Polner (political scientist, research analyst, WCO Research and Strategies Unit)
Technologies de contrôle aux frontières: tendances et formes de développement

Philippe Bonditti (politologue, professeur assistant, IRI/PUC-Rio, Rio de Janeiro, Brésil et chercheur associé au CERI-Sciences Po Paris, France)
Flux et frontières, « Technologisation » des contrôles et traçabilité

Robots and border control / Robots et contrôle frontalier

Sylviane Pascal (Security & Europe Defence Business Development Manager ONERA – The French Aerospace Lab)
Le programme Talos : enjeux et perspective de l’usage de robots terrestres aux frontières

Noel Sharkey (artificial intelligence and robotics, professor, University of Sheffield)
À la limite du ridicule: contrôler nos mouvements à partir du ciel

When things bite back / Quand les choses mordent

Daniel Kopecky (lieutenant-colonel, chef du département relations internationales aux Ecoles de Saint-Cyr Coëtquidan)
Technologies aux frontières : les limites du système. Retour d’expérience de mission d’expertise en Asie du sud-est

Thomas Cantens (administrateur à l’Unité Recherche et Stratégies de l’OMD et membre du Centre Norbert Elias EHESS-Marseille)
Apprivoiser ou s’approprier : l’effet des transformations des techniques de contrôle douaniers sur le fonctionnement des administrations et la nature des frontières

Contrôle « sans fil » : mise en œuvre, effets et réappropriation

Gabriel Popescu (geographer, assistant professor, Indiana University South Bend, USA)
Technologies de contrôle à distance et production d’espaces frontaliers topologiques

Dana Diminescu (sociologue, EC Telecom Paristech, directeur scientifique du programme TIC Migrations FMSH Paris)
Migrants connectés: « K29? » dans la sociologie des migrations

Christophe Bruno (artiste, commissaire d’exposition) & Samuel Tronçon (philosophe, Résurgences, Marseille)
ArtWar(e) – vers une application Facebook pour détecter les formes artistiques

Résumés

Amaël Cattaruzza (géographe, maître de conférences, École Saint Cyr Coëtquidan)
Contrôle des frontières : la tentation technologique

En octobre 2006 était votée au Congrès américain la Secure Fence Act qui prévoyait la construction d’une barrière d’environ 1 100 km pour séparer les Etats-Unis du Mexique. Son but était de lutter contre l’immigration clandestine, le trafic de drogue et le terrorisme, en mettant en place une « surveillance systématique des frontières internationales terrestres et maritimes des Etats-Unis par l’usage plus efficace des personnels et de technologies, telles que les drones, senseurs sismiques, satellites, radars et caméras » (Secure Fence Act, Section 2). L’usage de technologies de surveillance apparaît donc ici comme l’un des éléments clefs du dispositif sécuritaire, car il permettrait une surveillance systématique et totale de la zone concernée, et semblerait donc apporter une réponse adaptée à l’incertitude et à l’imprévisibilité des flux illégaux. Quelques années auparavant la mise en place de smart borders avait permis l’adoption de technologies d’identifications des marchandises (usage de puces électroniques) et des personnes (contrôle biométriques, usage de cartes à puce contenant des données personnelles, etc.). L’exemple américain est loin d’être exceptionnel et l’usage des nouvelles technologies dans le domaine de la surveillance et du contrôle des flux aux frontières se généralise de nos jours. De tels procédés se retrouvent entre autres aux frontières de l’Espace Schengen. Cette intervention propose donc de dresser un état des lieux de l’usage des technologies pour le contrôle des frontières et de s’interroger sur la manière dont cet usage modifie la nature du phénomène frontalier. A travers l’outil technologique, ne voyons nous pas apparaître cet « ubiquituous border », frontière omniprésente, que décrit Stephen Graham, pour lequel le territoire urbain devient en lui-même un des multiples lieu de contrôle de la frontière ?

Mariya Polner (political scientist, research analyst, WCO Research and Strategies Unit)
Technologies de contrôle aux frontières: tendances et formes de développement

In a globalised world where interconnectedness and integration are key dynamics influencing economic growth and social development, policymakers are increasingly realizing the need for accelerated border management regulatory reform to reduce unnecessary barriers and burdens on trade. However, the fruits of globalization are used not only by legal businesses, but also by illegal traders. Therefore, border agencies face a serious challenge of balancing security and trade facilitation. The World Customs Organization (WCO) has developed a set of instruments in order to assist Customs Administrations in promoting the balance between the two, and technology plays a pivotal role striving for this objective. Deployment of technology, however, has never been and will never be a “silver bullet” to solve all public policy objectives.  This presentation will start with discussing the changing environment in which border agencies operate, with a focus on the notion of ‘border’ and its changing meaning over time. After the overview of WCO instruments we will look into different kinds of technologies that are currently in use, as well as those that are now being developed. We will also discuss issues pertaining to the operationalisation of technologies, as they become vital for any agency that considers using them. Finally, we will discuss critical aspects of technology development which would allow it to remain an indispensable tool in the hands of Customs.

Philippe Bonditti (politologue, professeur assistant, IRI/PUC-Rio, Rio de Janeiro, Brésil et chercheur associé au CERI-Sciences Po Paris, France)
Flux et frontières, « Technologisation » des contrôles et traçabilité

Voilà près de 20 ans que la lutte contre le « terrorisme » et autres phénomènes transnationaux a replacé la sécurité des frontières au cœur des problématiques dites de sécurité et de défense. Un peu partout dans le monde, les programmes de développement de smart borders se multiplient. Pourtant, loin de renforcer les frontières, leur technologisation contribue à brouiller l’image du monde géopolitique, nous rappelant que le renforcement du contrôle aux frontières ne vise pas tant les frontières en elles-mêmes que les flux susceptibles de les traverser. Ces contrôles – que l’on dit communément « aux frontières » – sont  en fait réalisés en des points bien spécifiques (checkpoints) qui ne correspondent que très rarement à ceux qui forment ces lignes aux moyens desquelles nous représentons la frontière sur les cartes du monde géopolitique. Ils sont en outre réalisés bien en amont de « l’entrée en mobilité » au moyen d’un régime déterritorialisé de contrôle des flux que nous nous proposons d’explorer plus avant dans cette présentation en nous appuyant plus spécifiquement sur le cas des Etats-Unis, et plus marginalement de l’Europe. Il s’agira de mettre en évidence la logique de mise en réseau des appareils de sécurité, la manière dont elle influe sur les pratiques contemporaines de frontiérisation, et l’avènement de la traçabilité comme technique majeure de la gouvernementalité contemporaine.

Sylviane Pascal (Security & Europe Defence Business Development Manager ONERA – The French Aerospace Lab)
Le programme Talos : enjeux et perspective de l’usage de robots terrestres aux frontières

Le projet TALOS (Transportable and Autonomous Land bOrder Surveillance system – www.talos-border.eu) est un projet financé par la Commission européenne (7ème Programme Cadre, thème Sécurité 2008 – 2012) dont l’objectif est de valider le concept d’un système de surveillance des frontières terrestres européennes qui fait largement appel à des équipements robotisés (robots terrestres, drones et tours d’observation) contrôlés depuis un centre de commandement transportable. TALOS doit permettre de traiter le problème de la surveillance de vastes zones frontalières, reconnu par la Commission Européenne comme étant un point crucial de la mission de sécurité des frontières. Le but de TALOS est d’aider à la détection, la poursuite et l’appréhension des personnes essayant de traverser la frontière hors des points de passage autorisés. Pour répondre aux besoins variés liés à la grande diversité des zones frontalières de l’Union européenne, le système de surveillance doit être adaptable à la configuration de terrain, transportable et d’un coût acceptable.

Noel Sharkey (artificial intelligence and robotics, professor, University of Sheffield)
À la limite du ridicule: contrôler nos mouvements à partir du ciel

Plans to automate killing by robot have been a prominent feature of most US forces’ roadmaps since 2004. The idea is to have a staged move from man-in-the-loop to man-on-the-loop to full autonomy. While this may create considerable military advantages it raises ethical concerns with regard to potential breaches of International Humanitarian Law. Moreover, we are already seeing these new technologies being deployed at borders in countries such as US, Latin, America, South Korea and Israel. Drone technology alone has proliferated to more than 51 countries and police forces are beginning to use it routinely. The talk will discuss the development of the technology into the near future as it becomes more autonomous and explore the ethical dimensions.

Daniel Kopecky (lieutenant-colonel, chef du département relations internationales aux Ecoles de Saint-Cyr Coëtquidan)
Technologies aux frontières : les limites du système. Retour d’expérience de mission d’expertise en Asie du sud-est

Fondé sur un retour d’expérience de mission d’expertise auprès de l’Armée Royale Thaïe et de dossiers techniques d’étude réalisés au profit d’industriels français, l’intervenant concentrera son exposé sur deux zones spécifiques en Asie du sud-est : la frontière nord de la Thaïlande (Birmanie) et la frontière sud de la Malaisie (île de Bornéo). Après un descriptif des enjeux spécifiques de la zone, l’exposé présentera ensuite les divers systèmes et moyens techniques envisagés pour assurer la sécurité frontalière des pays concernés par le développement des capacités technologiques en soulignant les contraintes et les enjeux notamment humains.

Thomas Cantens (administrateur à l’Unité Recherche et Stratégies de l’OMD et membre du Centre Norbert Elias EHESS-Marseille)
Apprivoiser ou s’approprier : l’effet des transformations des techniques de contrôle douaniers sur le fonctionnement des administrations et la nature des frontières

A partir de quelques exemples de technologies introduites dans les douanes en Afrique sub-saharienne et d’une enquête ethnographique menée dans une douane africaine en réforme pendant plus de 4 années, la communication développera trois idées principales. Tout d’abord, terrains de réforme influencées par l’extérieur, les administrations douanières africaines utilisent des technologies aussi avancées, parfois plus innovants que les douanes d’autres continents. Ensuite, ces technologies sont « apprivoisées » : bousculant les ordres elles génèrent de nouveaux rapports d’autorité et de pouvoir dans les administrations et les professions dites partenaires. Enfin, ces technologies sont des vecteurs politiques qui transforment les rapports entre Etats sans toujours avoir les effets attendus.

Gabriel Popescu (geographer, assistant professor, Indiana University South Bend, USA)
Technologies de contrôle à distance et production d’espaces frontaliers topologiques

Mobility imperatives under globalization are profoundly altering borders’ relationship to space. Risk management strategies associated with the quest to securitize transnational mobility have triggered a technological race to embed borders into all kinds of flows in order for the border to be able to travel with the flow and be ready to be performed whenever circumstances require. With the help of technologies such as Radio Frequency Identification (RFID) borders are disembedded from their local contexts, projected at distance, and then re-embedded anywhere in the state territory. Such articulation of borders changes the way movement through space is organized and how people and places come into contact. This “portal-like” logic of border geography brings people and places together by connecting them directly across space, unlike modern border territoriality that connects them via contiguous state territories. This situation opens up the entire space of the globe to bordering processes, thus accelerating the proliferation of borders and multiplying the actors involved in their establishment. The implications for society of such novel border spatiality are paramount. It is vital to understand how is democratic participation to be spatially reorganized to assure border governance remains in the public domain.

Dana Diminescu (sociologue, EC Telecom Paristech, directeur scientifique du programme TIC Migrations FMSH Paris)
Migrants connectés: « K29? » dans la sociologie des migrations

According to the Algerian sociologist Abdelmalek Sayad, the process of migration is marked by a double absence, as migrants are uprooted from their ‘home’ societies and they fail to ‘integrate’ in their countries of emigration. In this perspective, the migrant experience is characterized by a permanent break with the places that link the individual with his or her native environment as well as by the confrontation with a world that thinks and lives differently. Current understandings of the experience of migration, whether they refer to issues of cultural identity of integration, refer to and focus on a series of breaks and oppositions. These are constructed as inherent to migrants’ fate and are constantly used in theoretical reflections on populations on the move. For instance, migrants are described according to binary oppositions such as: mobile/immobile, neither there nor here, absent/present, central/peripheral, and so forth. This understanding of people’s movements is an historical and sociological simplification and does account for the way the world was transformed by the onset of generalized mobility and by the spread unprecedentedly complex means of communication. Today, the definition of the migrant based on different forms of rupture considered to be fundamental and radical is in trouble. Alternative organizing principles emerge, as mobility and connectivity mark the experiences of contemporary migrants. In this talk, my aim is to analyse the different and interlinked forms of rootedness, displacement and connectedness that are experienced by contemporary migrants. Contemporary sociological studies of migration must focus on issues of connectedness and of presence. These days it is increasingly rare to see migration as a movement between two distinct communities, belonging to separated places that are characterized by independent  systems of social relations. On the contrary, it is more and more common for migrants to maintain distant relations that are similar to relations of proximity and to be able to activate them remotely on adaily basis. This mediated bond — via telephone, email, or Skype- — makes it easier than before to stay close to one’s family, to others,  to what is happening at home or elsewhere. The development of communication practices —from simple ‘conversational’ methods where communication compensates for absence, to ‘connected’ modes where the services maintain a form of continuous presence in spite of the distance — has produced the most important change in migrants’ lives. Migratory practices (in particular the activation of networks, remote organization, and the monitoring of movements), the way  mobility is experienced and implicitly the construction of new  “home  territories” have been thoroughly transformed.

Christophe Bruno (artiste, commissaire d’exposition) & Samuel Tronçon (philosophe, Résurgences, Marseille)
ArtWar(e) – vers une application Facebook pour détecter les formes artistiques

ArtWar(e) est une plate-forme de «gestion des risques artistiques » et de « curating assisté par ordinateur ». Un de ses principaux objectifs est de visualiser dans les réseaux sociaux, des vagues d’émergence, d’obsolescence, et des phénomènes d’import-export de concepts artistiques, comme de repérer des formats. Contrairement à l’histoire de l’art qui nomme les formes une fois qu’elles sont devenues identifiables et formatées, ArtWar(e) cherche à détecter ces tendances au moment de leur émergence, alors qu’elles n’ont encore aucun nom et qu’elles n’ont pas reçu le label d’art. Il s’agit ici à la fois de construire, mais également de mettre en question un dispositif quelque peu kafkaïen. En effet, ArtWar(e) utilise les outils de surveillance les plus puissants jamais développés, comme Facebook, afin de détecter d’infimes soubresauts de la vie sociale des formes. Nous présenterons la méthodologie ainsi que les principes de l’application Facebook en cours de développement.

Partenariats

IMéRA (Aix-Marseille Université), Ecole supérieure d’Art d’Aix-en-Provence, Laboratoire PACTE (Université de Grenoble), Institut de Recherche et d’Etudes sur le Monde Arabe et Musulman (IREMAM, CNRS-AMU), Laboratoire Méditerranéen de Sociologie (LAMES, CNRS-AMU), Aix-Marseille Université, Réseau Français des Instituts d’Etudes Avancées (RFIEA), Région Provence-Alpes-Côte-d’Azur, CNRS