Les robots et nous

Download PDF

Depuis 2013, l’Institut pour l’étude des relations homme-robots offre une approche pluridisciplinaire pour réfléchir non seulement au monde de demain mais surtout à l’actuel. Les robots font effectivement partie de nos vies mais jusqu’à quel point ? Peut-on encore maîtriser l’intensité de ce qui nous liera à eux, intellectuellement, émotionnellement et physiquement ?

Ne cherchez pas à le visiter, il n’a élu domicile nulle part, sauf sur internet. De la cybernétique à la robotique, en passant par la psychologie ou le droit, l’Institut pour l’étude des relations homme-robots (IERHR) comble un vide et ouvre le débat : au-delà des aspects culturels et technologiques, le développement des robots dans nos vies est une question éminemment politique. La façon dont nous intégrerons ces nouvelles technologies dans nos vies influencera nos rapports entre humains.

Nous sortons donc de la mythologie pour entrer dans le réel, sans se détacher des images dont notre imaginaire collectif est empli. Déjà Homère évoquait le fantasme d’êtres artificiels créés par les immortels. Comme le raconte Yann Minh dans son MOOC sur la cybernétique proposé par l’IERHR, « le robot est le mème le plus puissant qui habite l’humanité » et rares sont les œuvres de science-fiction qui n’en contiennent pas.

Sanko Seisakusyo (三幸製作所) – Tin Wind Up – Tiny Zoomer Robots – Front

RUR, 1920 : invention du mot « robot »,

la machine qui exécute des tâches physiques à la demande de l’homme.

Depuis les premiers robots industriels de General Motors dans les années 1960, ces objets ont évolué pour servir de nouveaux usages. Ce ne sont plus que des tâches dangereuses ou impossibles pour l’humain qui leur sont confiées, mais aussi l’éducation de nos enfants, le soin de nos malades ou encore le divertissement de nos amis.

Dans un avenir proche, assure Serge Tisseron, psychanaliste, cofondateur de l’IERHR et membre de l’Académie des Technologies, « nous aurons autour de nous des petits robots comme nous avons aujourd’hui des écrans, jusque dans notre poche ». C’est même une partie de notre autonomie que nous placerons en eux, modifiant alors nos modes de vie, nos repères et nos relations.

Mais les recherches liées à ces transformations sont encore trop majoritairement menées par des ingénieurs et trouvent peu leur place au sein des sciences humaines. D’où l’importance de l’institut, laboratoire unique en France.

Quelles relations aurons-nous avec des robots qui nous ressemblent ?

Aldébaran Robotics, aujourd’hui Softbank Robotics, est l’un des leaders mondiaux de la robotique humanoïde, c’est-à-dire des robots à l’apparence humaine. Vous avez sûrement déjà entendu parler de leurs créations nommées NAO, Roméo et Pepper ; vous avez même peut-être croisé Pepper à l’entrée des magasins Darty qui a pour mission d’orienter la clientèle. Visage rond, deux yeux, une bouche, un corps aux courbes « féminines », deux bras, deux mains… Cette anthropomorphie aurait pour but de nous rassurer.

En 2006, un projet européen, Feelix Growing, avait même pour objectif de concevoir des robots capables de décrypter les manifestations émotionnelles des humains et de leur répondre de façon adaptée. Financées par la Commission européenne, ces recherches avaient un budget de 2,5 millions d’euros pour trois ans.Cette orientation est partagée par les principaux constructeurs de robots dans le monde. Aldébaran faisait partie des partenaires de ce programme de recherche. Aujourd’hui, Softbank travaille à rendre le regard de ses robots « plus humain ».

Les constructeurs envisagent donc des machines non seulement familières dans l’apparence mais aussi dans leurs comportements, grâce à une synchronisation avec son « utilisateur » humain. Copie de ses mimiques, de ses façons de parler, de ses attitudes, récolte d’informations sur ses repas, son entourage, ses loisirs… Grâce à ce profilage permanent et évolutif opéré par une intelligence artificielle ultra performante, nos robots seront capables de se caler sur nos attentes mais surtout de les anticiper. Comme le souligne Serge Tisseron, « ils auront un immense pouvoir de persuasion grâce à des algorithmes de manipulation sur mesure ».

En associant cette double familiarité, dans l’apparence et le comportement, un environnement de confiance est établi afin de se sentir à l’aise de partager tous les aspects de nos vies, jusqu’aux détails les plus intimes.

Des robots à notre image ?

En 2005, Hiroshi Ishiguro crée son robot géminoïde humanoïde qui lui ressemble et qui parle pour lui dans les colloques.

En 2012, le labo Affada (université d’Osaka) met au point un bébé mécanique ultra réaliste.

En 2014, le professeur Ishiguro présente au musée des sciences et de la technologie de Tokyo deux robots à l’image de présentatrices de télévision.

Toutes ces capacités de mimétisme donnent l’impression d’avoir une « vraie » personne en face. Déjà le fait que certains puissent répondre et avoir une « conversation » alimente le fantasme d’un robot sachant parler, ressentir, exister. Même si cette autonomie est largement surestimée par rapport à ce qu’un robot est capable de faire, nous constatons une puissance de projection de nous-même sur ces objet et un attachement très fort.

Cet attachement aux objets n’est pas nouveau, il suffit de voir les tombes égyptiennes emplies d’artefacts. Et après tout, certaines personnes développent bien des relations affectives avec leur voiture. Mais les robots vont « généraliser et accentuer ces attitudes qui étaient jusqu’ici à la marge et ne concernaient qu’une fraction réduite de la population », prévient Serge Tisseron.

« Que deviendront nos enfants élevés par des robots ? La réponse semble aller de soi : des adultes capables de tomber amoureux d’un robot. » (Serge Tisseron)

Dans son ouvrage Le jour où mon robot m’aimera, vers l’empathie artificielle, Serge Tisseron développe les différentes fonctions des robots : esclave, il exécute une tâche imposée ; témoin d’une histoire partagée ; complice d’actions plus ou moins avouables ; partenaire d’émotions et de relations. En cela, le robot peut être à la fois serviteur, complice, témoin et partenaire. Tout le monde ne les utilisera pas de la même façon, certains y verront un animal de compagnie, d’autres un compagnon amoureux ou amical, d’autres encore l’associeront aux animaux de boucherie, interchangeables à souhait, ne devant répondre qu’à un certain besoin pour une action particulière, sans attachement à l’objet.

La tradition animiste

La tradition animiste du Japon règle ces questions : les objets sont animés. Et si on prête vraiment une identité à nos robots, des sentiments et de souffrances, doit-on aussi envisager qu’ils puissent avoir des pathologies ? Faut-il prévoir de nouveaux métiers comme la médecine robotique ? Ou des pompes funèbres spécialisées pour les êtres robotiques ? Cette vision n’est pas si faussée, il suffit de voir du côté du Japon.

En psychanalyse, le robot est un facilitateur d’interaction et un médiateur utilisé par certains praticiens. Plusieurs configurations sont possibles, où le robot peut être un assistant du thérapeute, son avatar, un jouet, etc. Enfants autistes et adultes souffrant d’Alzheimer sont particulièrement concernés par ce type d’échanges. Cet impact auprès de certaines populations spécifiques ne diffère pas tellement d’une tendance des humains à aimer interagir avec les robots. On apprécie les robots.

Les robots peuvent donc être un très bon outil thérapeutique. Frédéric Tordo fait partie de l’IERHR et y a recours avec certains de ses patients. « Les robots ont une qualité rassurante, une familiarité et une souplesse d’utilisation. C’est une coque vide qui accueille des projections. Ils diffèrent de l’avatar numérique puisqu’on est dans une vie matérielle tangible. »

Mais n’oublions pas que les robots sont le produit de programmeurs et d’ingénieurs. Ils sont programmés pour simuler. L’ « empathie artificielle » nous fait donc croire que le robot est doté d’un comportement humain ou d’émotions, alors qu’il n’est qu’une machine.

Robophobie

Tout le monde n’est pas prêt à accepter les robots dans leur vie. D’un point de vue social, la question est de savoir comment la société peut tolérer leur présence ; d’un point de vue pratique, comment l’individu peut les supporter ?

Un rapport de 2015 sur les « systèmes autonomes » note que les Français ont à 52 % une attitude positive par rapport aux robots, alors que ce pourcentage était de 67 % en 2012. La population est donc de plus en plus méfiante. L’une des raisons principales est le risque de perte d’emplois. L’autre réside dans la crainte à l’égard de cette technologie : si d’un côté le fait qu’il nous ressemble est censé nous donner confiance, cela a tout autant l’effet inverse et d’avoir peur de ces machines « meilleures » que nous.

« La vallée de l’étrange », théorisée par Masahiro Mori en 1970, correspond à l’angoisse qui nous envahit quand on se trouve en contact avec un objet anthropomorphe, ce qui provoque le rejet plutôt que l’empathie. « Dans le film Star Wars, ne sommes-nous pas davantage portés par la sympathie à l’égard de R2-D2 plutôt que de C-3PO qui nous ressemble pourtant davantage ? », interroge Frédéric Tordo, psychologue et cofondateur de l’IERHR. Plus un robot nous ressemble, plus ses défauts nous semblent monstrueux. C’est ce qu’il appelle la « robophobie ». Dans un premier temps, on perçoit intellectuellement le robot comme notre semblable, on éprouve même de l’empathie. Mais vient ensuite l’ « indéciabilité » : suis-je en présence d’un humain ou d’un robot ? Enfin, arrive le state de l’ « empathie indéciable », c’est-à-dire l’angoisse et la peur : « Un objet est attendu inanimé, mais il se met à bouger, comme un mort-vivant », écrit Frédéric Tordo.

Le robot est alors perçu comme un danger potentiel, une menace pour le moi. Plus intelligent, plus évolué technologiquement, n’y aura-t-il pas bientôt un « grand remplacement » que certains redoutent. Cette peur de supériorité de la machine sur son créateur occulte complètement le fait que : cela reste des machines programmées par l’humain.

Les significations extrêmes et symboliques liées aux robots, les peurs et les espoirs qu’on y projettent, « incitent à mettre en place des mesures éthiques et éducatives » indique Serge Tisseron.

Mon robot aura-t-il les mêmes droits que moi ?

Ambiance talk show américain, projecteurs sur la scène, apparaît Alain Bensoussan, dans son costume noir et chemise blanche, coiffé à la perfection. Lors de sa conférence TEDx Paris, l’homme s’imagine plus en gourou d’une secte plutôt qu’en avocat spécialisé dans les nouvelles technologies. Il est l’un des lobbyistes les plus efficaces en matière de robotique au niveau européen. C’est en partie grâce (ou à cause) de lui que la « personnalité juridique » des robots est actuellement débattue au Parlement européen. L’Europe est donc en train de donner des droits à des robots, le tout en hésitant pas à citer les fameuses lois d’Asimov comme si elles étaient des règles juridiques… Faut-il alors rappeler qu’elles sont une œuvre de fiction, créées par un auteur de science-fiction ?

Aux États-Unis également, la chercheuse Kate Darling MIT propose que les robots bénéficient de lois qui les protègent contre la maltraitance. Mais encourager l’idée que les robots souffrent implique une impossibilité de mettre un frein au fait qu’ils puissent ressentir des émotions.

De son côté, l’IERHR appelle à prendre une autre direction, plus urgente, qui est d’instaurer des garde fous législatifs, technologiques et éducatifs. « La question de la personnalité juridique du robot autonome mérite d’être évacuée des réflexions portant sur le droit civil de la robotique, car elle est aussi inutile qu’incongrue », affirme Serge Tisseron. Vision partagée par Nathalie Nevejeans, elle aussi membre de l’IERHR, auteure du Traité de droit et d’éthique de la robotique civile (LEH édition, 2017), qui voit dans la question d’un droit spécifique aux robots un « débat stérile ». « Qui oserait donner la personnalité juridique à un robot cafard, à un robot tondeuse ou à un robot collaboratif ? » Ses conclusions sont claires : il suffit d’adapter les textes existant pour régler la question de responsabilité.

C’est bien là l’enjeu : qui doit assumer les actes des robots ? Lui conférer des droits revient tout simplement à faire glisser la responsabilité des fabricants vers celle des machines, et donc de leurs propriétaires.

Les législations mises actuellement en place à l’Union Européenne saute aussi des étapes fondamentales, comme définir des règles éthiques sur l’évolution de ces technologies. « C’est le défi de notre société, ajoute Nathalie Nevejeans, parce que nous n’avons aucun repère, aucun référant dans cette matière. Alors que le droit, on en a. »

Un robot qui accompagnera la personne âgée n’est-il pas un risque de délaissement par sa

 

famille ? Idem pour des personnes malades qui ne seraient plus en relation qu’avec des robots-médecin ? Que met-on également en place pour prévenir les risques de dépendance ou d’atteinte à la vie privée ? Un robot pourra-t-il décider à votre place ce que vous pouvez ou ne pouvez pas faire ? Imaginons un médecin interdisant à une personne paraplégique de boire et que le robot refuse de servir cette personne. Peut-il avoir le dernier mot ?

Sur Facebook, une jeune fille diffuse ses photos avec son robot produit dans un Fablab et annonce qu’elle souhaite se marier avec. Si cela venait à se généraliser, nous pourrions nous retrouver dans une société déshumanisée, les robots modifiant nos façons de penser, d’aimer, d’être, entre humains.

Le robot est l’avenir de l’homme. Mais quel avenir ?

Le débat ne se situe donc pas au bon endroit. Il s’agit de s’interroger sur notre capacité à comprendre le fonctionnement des robots et ce que cela implique d’un point de vue éthique, philosophique et politique, plutôt que d’essayer de lui donner une « personnalité juridique ». « Il faut encourager les enfants dès l’école primaire à construire et programmer des robots de manière à apprendre à les considérer comme des machines et pas comme des êtres vivants », recommande Serge Tisseron. Il ajoute : « Veillons à développer des robots qui favorisent l’humanisation de chacun de nous et la création de liens entre les humains. »

Par exemple, soutenir l’humain au travail, et non l’évincer, car de toute façon, dit-il, « il serait utopique de croire que la société serait capable de se réorganiser pour pouvoir prendre en charge des milliards d’humains oisifs ».

Dans une maison de retraite au Japon, des robots remplacent une tâche que les infirmiers et aides-soignants ont de plus en plus de mal à accomplir, faute de temps : saluer chaque personne le matin. Cela paraît incroyable mais c’est pourtant une réussite puisque les résidents seraient apparemment plus heureux. Mais c’est aussi un terrible constat pour l’humanité : la présence des robots éclaire l’absence de l’humain.

Deux types de robots sont à attendre pour les prochaines années : les « robots TV » : répondre à de plus en plus de besoins et désirs ; aider les personnes à mobilité réduite à aller aux toilettes, faire de la gym, cuisiner, apprendre l’anglais ou le piano… sans oublier le sex toy. Un partenaire parfait pour s’occuper de leur propriétaire. Ou les « robots web » (robots domestiques branchés à internet, ne l’oublions pas) : un robot socialisant qui encourage et accompagne les relations avec d’autres humains.

Il ne faut pas oublier que les robots de demain seront inter-communiquant en permanence, probablement par un autre réseau que celui d’internet et qu’ils apprendront chacun des expériences des autres. Serge Tisseron : « S’ils auront un jour une conscience, elle sera donc forcément collective parce qu’inter-connectée. » Les robots humanoïdes de Real Humans sont donc déjà dépassés.

Morale de l’histoire

Si le corps du robot est créé par l’humain, son cerveau l’est aussi. Ainsi, sa morale dépendra des choix de son programmeur. On se souvient de l’histoire de Tay, Le bot créé par Microsoft sur Twitter, devenu misogyne et nazi, en moins de 24h.

Dans ce cas, souhaitons-nous vraiment des robots à notre image ? La question de la reproduction des genres, du sexisme et du racisme dans les intelligences artificielles qui « animeront » les robots est encore trop peu discutée. Elle engage pourtant le devenir de nos sociétés pour les prochaines décennies. Car s’il ne faut pas oublier que ce sont juste des machines, elles sont bien créées par une majorité d’hommes, blancs, hétérosexuels. Ce qui est loin de prédire un monde merveilleux où on se baladerait heureux et sans stéréotypes, son robot sous le bras.

Toutes ces approches méritent d’être discutées. Dans une maison de retraite au Japon, des robots remplacent une tâche que les infirmiers et aides-soignants ont de plus en plus de mal à accomplir, faute de temps : saluer chaque personne le matin. Même si c’est une réussite, puisque les résidents seraient apparemment plus heureux, c’est aussi un terrible constat : la présence des robots éclaire l’absence de l’humain. Plus de robots impliquerait-il l’émergence d’une société de plus en plus déshumanisée ?

Par allusion au marché des seniors qualifié « d’or gris  », Serge Tisseron parle aussi de « l’or rose des célibataires ». Il sera plus facile de s’acheter un robot qui soit un agréable compagnon que de rencontrer une vraie personne – avec tous les efforts que cela comporte. Cette machine pourra satisfaire tous nos désirs : être un-e partenaire de jeu, un-e cuisinier-ère pour partager ses repas, un sex toy ultra performant, etc. Avec des métamorphoses très rapides, le robot comptable pourra devenir en un clic esclave sexuel, coach ou confident. Le risque est celui d’une « intolérance » des humains, imparfaits, ou de s’adresser à ses amis et collègues comme à des robots.

«  Il est dangereux d’idéaliser les robots, car cela nous fait sous-estimer le travail mental que nous devrons effectuer pour ne pas nous tromper sur eux », conclut Serge Tisseron. Le risque est de penser le robot comme une image souhaitable de l’humain et d’attendre des hommes les mêmes qualités d’efficacité et de fiabilité. «  Le slogan “Emotional robot has empathy” du robot Pepper n’est pas seulement un mensonge, c’est un poison qui pousse à la confusion entre l’homme et la machine, et qui risque de nous faire oublier qu’un robot « empathique » peut être en même temps un espion invisible et permanent de tous les faits et gestes de son propriétaire. Il va devenir nécessaire de penser autrement notre rapport aux objets : accepter que nous puissions les aimer et les désirer, peut-être même jusqu’à la passion amoureuse, et en même temps prendre en compte qu’ils puissent être autant de mouchards reliés à des tiers. »

Serge Tisseron recommande donc «  [d’] encourager les enfants dès l’école primaire à construire et programmer des robots de manière à apprendre à les considérer comme des machines et pas comme des êtres vivants ». Il ajoute : « Veillons à développer des robots qui favorisent l’humanisation et la création de liens, et qui nous permettent de faire ensemble avec eux. Ce que nous ne pouvons faire ni seuls avec eux, ni ensemble sans eux. »

Leur ouverture est de fait primordiale  : il faut pouvoir les bidouiller, les transformer… mais aussi les éteindre.

The following two tabs change content below.
Bourlingueuse du dimanche, exploratrice du quotidien, Wallifornienne à Paris.

Derniers articles de Hélène Molinari (voir tous)

Publiez vos réflexions