Les robots-androïdes, de quels droits fondamentaux ?

 

Par Serge Slama, Professeur à l’Université Grenoble Alpes

 

Le terme de « robot » a été inventé en 1921 dans une pièce du tchèque Karel Čapek, RUR, les Robots universels de Rossum pour désigner des « ouvriers artificiels », automates androïdes fabriqués par la firme R.U.R. pour se substituer à l’être humain dans certains travaux[1]. Selon le Dictionnaire historique de la langue française, il a été tiré du mot tchèque robota, qui signifie justement « travail » – au sens de « travail forcée, corvée ». Ce mot est issu du vieux slave rabota (russe robot’) dont le premier sens est « esclavage » puis « travail pénible » (effectué par celui-ci) ou encore « activité laborieuse ». Si, en 1921, un robot désigne un humanoïde artificiel capable d’accomplir des travaux exécutés par l’Homme, par la suite il s’agit d’une machine à l’aspect humain capable de se mouvoir et de parler (1939) puis, plus généralement, un appareil capable d’agir automatiquement pour réaliser une fonction donnée sans nécessairement avoir l’apparence humaine (1949). Il acquière alors aussi une dimension métaphorique. Ainsi dans La France contre les robots[2], écrit en 1944, Georges Bernanos critique violemment le machinisme et la civilisation industrielle, d’influence anglo-saxone, qui limiterait la liberté des hommes et leur mode de pensée.

L’idée de droit des robots n’est pas nouvelle. Les mythes et légendes autour des androïdes, et en premier lieu celui du Golem ou la figure de Frankenstein, reposent fréquemment sur l’idée sous-jacente qu’ils doivent être régis par des règles afin d’assurer leur contrôle et de protéger l’Homme de leurs agissements. Mais c’est surtout l’auteur de science-fiction Isaac Asimov qui a, le premier, imaginé, avec les « trois lois de la Robotique » (Runaround, 1942), des règles – qui sont exclusivement des obligations assignées aux robots – régissant les rapports entre les robots et l’être humain afin d’assurer la protection de ces derniers face à l’autonomisation des premiers[3]. Avec la « loi Zéro », ils sont même chargés de veiller à la sauvegarde de l’humanité dans son ensemble y compris contre elle-même[4]. Avec plusieurs figures d’androïdes, en particulier R. Daneel Olivaw[5], il les a systématiquement « testées » dans le Cycle des robots (Robot Series, 1950 – 1986)[6] en particulier dans L’homme bicentenaire (Bicentennial Man)[7], dans lequel Andrew, un androïde, obtient peu avant sa mort de la Cour suprême la reconnaissance de sa qualité « d’humain » et le droit de se marier avec une humaine, Portia. On trouve aussi des figures d’androïdes revendiquant leur humanité dans plusieurs nouvelles de science-fiction comme Dans le Torrent des Siècles (Time and Again, 1951) de Clifford D. Simak ou encore, bien sûr, dans Les androïdes rêvent-ils de moutons électriques? (Do Androids Dream of Electric Sheep ?, 1966)[8] de Philip K. Dick, librement adapté par Ridley Scott avec son Blade Runner (1982, récemment rebaptisé Blade Runner 2019 compte tenu de la sortie, en 2017, de Blade Runner 2049). Elle est aussi au cœur de récentes séries télévisées en particulier dans « Real Humans : 100 % humain » (2012), dans laquelle des androïdes (les « hubots ») occupent une place de plus en plus prépondérante dans la société suédoise[9] ou encore dans « Westworld » (2016) dans laquelle les androïdes (appelés « hôtes » – guest) d’un parc d’attractions futuriste récréant l’univers de l’Ouest américain (Far West) dysfonctionnent et accèdent à une certaine conscience de leur enfermement dans une boucle narrative sans fin[10].

Ces films et séries posent d’ailleurs implicitement la question qui est au cœur de cette contribution : la titularité des droits fondamentaux, apanage de seuls êtres humains (parmi les êtres vivants puisque certains d’entre eux sont reconnus aux personnes morales), devra-t-elle être également reconnue aux êtres non humains, produits artificiellement (par génie génétique ou électronique), dès lors qu’ils seront dotés de capacités d’autodétermination et d’apprentissage (deep learning) suffisantes pour échapper à leur seule programmation algorithmique (et donc seront dotés d’un certain libre arbitre voire d’une conscience), et même, pourraient surpasser, dans certains domaines, l’être humain ou fusionner avec lui (transhumanisme ou humanité augmentée) ?

Selon le traité de la robotique civile de Nathalie Nevejans, on définit le robot comme « une machine matérielle, alimentée en énergie, capable d’agir sur le réel, dotée d’une capacité de perception de son environnement et de décision, et faisant l’objet d’un apprentissage. Elle peut également être autonome et disposer de capacités de communication et d’interaction »[11].

Mais dans cette contribution, il ne s’agit pas tant d’évoquer le droit des robots, tel qu’il est remarquablement exposé dans ce traité, ni même des droits des robots[12], mais plutôt des droits (fondamentaux) des Androïdes[13] ou des Humanoïdes[14], forme évoluée du robot construit à l’image de l’Homme et qui tendent à acquérir des capacités identiques et même, sur certains aspects, supérieures à celui-ci ou, s’agissant du transhumanisme, à s’hybrider avec lui[15].

Des robots conversationnels (chatbot) ont déjà passé, avec succès, le « test de Turing »[16] (même si son utilité pour mesurer l’intelligence artificielle est contestée par des spécialistes de l’intelligence artificielle[17]) et ces chatbots sont d’ores et déjà utilisés sur des sites érotiques ou dans certains services à la personne (SAV, etc.). Des futurologues prédisent le basculement vers la « singularité technologique », c’est-à-dire du dépassement des capacités de l’intelligence humaine par l’intelligence artificielle, à l’horizon de 2035[18], ce qui, corrélé au désordre planétaire provoqué par le réchauffement climatique, signifierait, au pire, la fin de l’ère humaine sur la Terre et, au mieux, la fin du travail (en tout cas dans sa forme acuelle)[19]. Même si cette perspective relève pour certains du « mythe »[20], voire de mystification, en tout cas à une date rapprochée[21], au regard notamment du test de la « chambre chinoise »[22], force est de constater qu’avec le développement des techniques d’apprentissage profond (deep learning) permettant une certaine autonomisation de la machine, la question se pose de plus en plus – et se posera de manière accrue dans un avenir plus ou moins proche – des droits, mais aussi des obligations, des robots.

Dans ce contexte, des juristes, tels que Me Alain Bensousan[23], fondateur de l’Association du Droit des Robots[24], revendiquent dès maintenant la reconnaissance d’une « personnalité robot »[25]. Selon lui, elle pourrait même être fondée sur le « droit naturel » ( ?)[26]. Dans le même temps, l’Arabie Saoudite prétend accorder la « nationalité » à un robot social d’apparence féminine dénommée « Sophia »[27] (alors que les – vraies – femmes sont, toujours, reléguées dans un statut d’infériorité[28]). De manière plus réaliste, des réflexions sont en cours, aussi bien au niveau international, européen[29] que français, pour faire émerger un statut du robot et de nouveaux concepts juridiques pour régir leur condition spécifique[30]. Cela s’avère d’autant plus nécessaire que les robots lorsqu’ils gagnent en autonomie ne sont pas sans représenter des dangers pour l’être humain ou des risques de déviance ou d’isolement social (on pense notamment aux robots tueurs, aux voitures autonomes ou à certains robots sociaux au contact de personnes vulnérables ou âgées ou encore aux robots sexuels).

En tout état de cause, cette perspective de reconnaissance de droits aux robots hérisse les poils des milieux conservateurs, particulièrement chrétiens[31], ainsi que de certains juristes civilistes.  Pour ceux-ci, non seulement parce que, comme la consécration d’un statut à l’animal en tant qu’être sensible, elle érode encore plus la distinction entre la personne et les choses et constituerait, pour Grégoire Loiseau, « une monstruosité juridique » qui « nous entraînerait dans une spirale schizophrénique »[32], mais aussi car, selon Marie-Anne Frison-Roche, il existerait une convergence entre la reconnaissance d’une personnalité à des robots, alors que ce sont des choses, et la GPA, qui reposerait sur la réification de « la femme », qui est une personne[33].

Pourtant c’est parce qu’ils sont « doués de raison et de conscience » que la Déclaration universelle des droits de l’Homme en 1948 justifie le fait que tous les êtres humains « naissent libres et égaux en dignité et en droits ». De ce fait, qu’adviendra-t-il le jour où l’être humain ne sera plus le seul être, ou la seule entité, doté d’une conscience et d’une raison ?[34]

Avec l’évolution des robots vers une plus grande « humanisation » de ceux-ci, ne devra-t-on pas considérer que ces humanoïdes sont titulaires de droits équivalents à (ou convergents vers) ceux de l’Homme ? Comme le relève Xavier Bioy, une telle réflexion amène à s’interroger « sur le concept d’humanité et sur l’anthropomorphisme des androïdes […], à se demander si on peut parler d’humanité des androïdes et si cela implique de personnaliser le robot doué d’intelligence artificielle ou tout simplement le robot faisant corps avec l’homme »[35]. Toutefois, pour notre collègue, par hypothèse, faute d’autonomie, l’intelligence artificielle ne saurait bénéficier de « volonté propre » et, par suite, faute d’être « souverains », il estime que l’Androïde ne saurait bénéficier d’une « personnalité » ou d’un statut « pour soi »[36].

Ce point de vue nous semble contestable. Il repose sur un point de vue moral ou un postulat ontologique. Il est convaincu que « le statut des robots ne peut se penser par analogie avec le nôtre » et que « la condition d’une autonomie telle qu’elle conduirait à un statut de sujet de droit ne sera jamais remplie »[37].

Nous partons du postulat inverse selon lequel les robots-androïdes seront, un jour, souverains. Notre présupposé est que si des humanoïdes acquièrent des capacités cognitives et d’autodétermination suffisantes ils ne seront plus (ou plus seulement ou plus essentiellement) des choses mais des êtres (insensibles ?) et que, par suite, se posera la question de la titularité des droits fondamentaux[38].

A partir de ce postulat (qui est forcément falsifiable puisque nous ignorons si un jour des robots-androïdes vont acquérir ces capacités), cette contribution vise à s’interroger sur les motifs qui justifieraient la reconnaissance de droits fondamentaux (I.) et, si cette reconnaissance devait avoir lieu, s’interroger sur quels droits reconnaître (II).

 

I. Les motifs d’une possible reconnaissance de droits fondamentaux aux robots-androïdes

On peut identifier plusieurs types de motifs qui justifieraient de reconnaître des droits fondamentaux aux robots-androïdes. Ils sont soit anthropomorphiques (A.), soit égo/ethnocentriques, voire même robophobiques[39], dès lors qu’on considère qu’ils représentent un danger pour l’être humain (B.), soit, à l’inverse, par robophilie car, s’ils devenaient des êtres dotés de raison et d’une conscience, ils devraient être considérés comme des alter-ego, égaux en dignité et en droits, ou du moins, comme des semblables (C).

 

A. Motifs anthropomorphiques : les robots, un objet spécifique dans une interaction avec l’être humain

Dès lors qu’ils entrent en interaction avec les êtres humains et sont susceptibles, par le développement de leur capacités cognitives, d’interagir avec leur environnement, de progresser voire d’apprendre de leurs erreurs et même de prendre des initiatives, les robots sont des objets animés spécifiques.

Les robots entretiennent aussi de plus en plus de relations spécifiques – sociales et affectives – avec les êtres humains qu’ils côtoient. Ainsi, même s’ils ne sont matériellement que des choses, les humains ont tendance à les traiter « comme s’ils étaient vivants », en raison de la projection de leurs émotions sur eux, surtout lorsqu’ils assistent des personnes vulnérables ou isolées[40] ou entretiennent des relations affectives ou même, s’agissant des robots sexuels, physiques.

Comme l’explique Xavier Bioy, c’est par anthropomorphisme que les « admirateurs des androïdes » revendiquent des droits au bénéfice des robots[41]. Mais notre collègue vilipende ces « technoprophètes » pour lesquels « le droit devrait suivre les apparences : plus l’androïde nous ressemble plus l’anthropomorphisme juridique devrait progresser »[42].

Selon Kate Darling, une chercheure au MIT, cette projection anthropomorphique justifierait de leur reconnaître une forme de protection juridique particulière suivant le même schéma que des lois protègent les animaux de maltraitances ou leur reconnaissent la qualité « d’être sensible » ou qu’on accorde des droits à la nature[43]. Elle en veut pour preuve que lorsque dans un atelier elle demande aux participants de maltraiter Pleo, un petit dinosaure robotique, les gens ressentent un malaise ou se rebellent en refusant. De même, lorsque les militaires américains ont testé un robot « Packbot » en forme d’araignée géante à six pattes pour désamorcer les mines, l’expérience a dû être interrompue car les militaires vivaient mal de voir l’engin démembré lorsqu’il sautait sur une mine[44]. Yoshimi Kakimoto explique lui-aussi que dès lors que « notre regard sur les robots reflète notre compréhension de l’être humain, surtout concernant les robots humanoïdes […] nous hésitons à le traiter comme une machine » et avons la tentation les « classer parmi des artefacts comme une extension de l’espèce humaine »[45].

Cela est d’autant plus vrai au Japon que dans la tradition shintoïste et bouddhiste, il n’y a pas de ligne de démarcation nette entre le vivant et le non vivant. Il n’y a pas de conception binaire des êtres et des choses[46]. Dans la mesure où chaque objet a une âme, les robots ont une place spécifique dans la société – et ce d’autant plus qu’ils correspondent à un besoin économique dans un pays vieillissant où la main d’œuvre manque et qui refuse l’immigration.

Des cérémonies funéraires sont organisées à leur destination lorsqu’ils rendent… âme. Comme cela est expliqué dans un article de Libération, il s’agit non seulement « de les remercier pour tout ce qu’ils ont fait et de leur dire au revoir» mais « c’est surtout son propriétaire qui y dépose une part de la sienne. Le robot est un miroir, un reflet du cœur des hommes. Il est aussi une illusion, car il demeure une machine »[47].  En outre, dans cette conception shinto, les machines ne menacent pas la position de l’humain dans la représentation qu’il se fait du monde et de lui-même[48].

Le psychiatre Serge Tisseron[49] explique les ressorts psychologiques du ce phénomène anthropomorphique car, comme il le souligne, « quand le robot devient capable de simuler des émotions, l’observateur a beau savoir que ces émotions ne sont pas réelles, il n’en est pas moins enclin à le croire… »[50]. Néanmoins, à ses yeux, « notre empathie à leur égard restera toujours unilatérale, dans la mesure où nous n’irons jamais jusqu’à penser qu’ils puissent avoir une idée de la façon dont nous ressentons les choses »[51].

En tout état de cause, il nous semble que si l’anthropomorphisme justifie, le cas échéant, de reconnaître un statut particulier à des êtres (certains animaux) ou des choses entretenant des liens particuliers avec l’être humain, ce motif n’est pas suffisant pour leur reconnaître la titularité des droits fondamentaux.

Dans son traité, Nathalie Nevejans suggère également, compte tenu de la multiplication des cas de prise en charge de personnes vulnérables (personnes âgées, personnes handicapées, etc.) par des robots « sociaux » de poser comme « principe roboéthique » des relations entre êtres humains et robots, celui selon lequel il existerait un « droit pour la personne à refuser d’être prise en charge par un robot »[52]. Le droit des robots repose en effet, dès son origine (lorsqu’il a été inventé par Isaac Asimov avec ses lois de la robotique), sur des règles éthiques imposées aux concepteurs ou programmateurs des robots (Roboethics)[53], ou aux robots eux-mêmes (Machine ethics), visant à prévenir le danger qu’ils représentent potentiellement pour l’être humain[54]. Car dans l’inconscient collectif le robot humanisé renvoie aux terreurs et fantasmes du Golem, monstre mi-homme mi-robot de la mythologique juive – qui a très probablement influencé Asimov, auteur américain d’origine juive russe, mais aussi le père de la cybernétique, Norbert Wiener[55].

 

B. Motifs robophobiques : prévenir les dangers que les robots représentent pour l’être humain

La question des relations avec les robots hante l’imaginaire humain depuis des lustres. Elle est déjà présente dans les récits grecs et hébraïques antiques[56]. Ainsi, dans l’antiquité grecque, d’une part, des automates et créatures artificielles apparaissent dans l’Iliade d’Homère (VIIIè siècle av. J.-C.). En effet Héphaïstos, dieu « difforme, infirme » et même « boiteux », n’en est pas moins un « exceptionnel artisan » capable de créer des objets susceptibles de se déplacer par eux-mêmes, les automatoi[57]. Forgées à partir de métaux précieux (or, argent ou bronze) qui leur confèrent une immortalité ou invincibilité, ces créatures artificielles ne connaissant ni la peine, ni la contrainte, ni la fatigue et ont même vocation à se substituer aux esclaves en effectuant les travaux les plus répétitifs et les plus pénibles. Bien qu’artificielles, elles sont dotées d’une âme (psukhè) et d’une capacité d’action (noos) qui leur permettent de se mouvoir et d’agir de manière autonome[58].

L’un des descendants d’Héphaïstos et d’Athéna, Pygmalion, est à l’origine d’une autre figure antique du robot[59]. En effet, selon la légende racontée par Ovide dans les Métamorphoses, ce statutaire chypriote, révolté contre le mariage et ayant fait vœu de célibat, tombe amoureux de Galatée, statue d’ivoire qu’il a sculptée. Il obtient d’Aphrodite qu’elle donne vie à sa création et l’épouse en présence de la déesse[60] et, ainsi, comme le dit la fable, « Pygmalion devint amant/ De la Vénus dont il fut père »[61].

Dans la tradition hébraïque, d’autre part, la figure du Golem ne naît pas de la glaise mais de l’argile. Mentionné dans la bible en référence à l’état prénatal de l’être humain (« golem » signifie initialement l’acte d’envelopper), son sens évolue dans le Talmud de Babylone puisqu’il désigne alors « une masse de matière embryonnaire et informe, inachevée »[62]. Ainsi, lorsque Dieu créé Adam, il le fait d’abord golem, matière informe issue du sol et devient, ensuite, le premier homme composé de sang (« dam ») et d’une étincelle divine (la lettre « aleph »).

Car, contrairement aux automatoi d’Héphaïstos, cet être artificiel n’a pas d’âme. C’est en effet un être inachevé, à l’apparence humaine, fait d’argile mais qui est à la fois incapable de parole (caractéristique de l’Homme dans la tradition juive[63]) et, par suite, dépourvu de libre-arbitre.

On doit aussi à cette tradition l’idée de création et de « programmation » du Golem par des savants. En effet, dans des commentaires du livre de la création (Sefer Yetsirah) datant du XIIè-XIIIè siècle, on trouve l’idée que seuls les grands maîtres, experts de la loi juive, peuvent le façonner à partir d’une miniature en argile et l’animer en écrivant sur son front le mot « emet » (formé de trois lettres – alef, mem, tav – et qui signifie en hébreu « vérité »). Ce n’est qu’en effaçant la première lettre, alef – pour ne plus laisser apparaître que les deux lettres mem et tav, composant le mot « met », signifiant « mort » – qu’on l’éteint (il redevient glaise)[64].

Mais progressivement de mythe effrayant, le Golem devient une légende populaire et bienfaitrice. Ainsi, chez les Sépharades, le poète et philosophe juif espagnol du XIè siècle, Salomon Ibn Gabirol, mentionne un golem de sexe… féminin chargé.e de tenir le foyer (comme les servantes d’Héphaïstos). Non moins prosaïque, chez les Ashkénazes, en particulier pour le rabbin Yehoudah Loew, dit le Maharal de Prague (vers 1525-1609), le Golem acquière une dimension protectrice de la communauté juive pragoise face aux pogroms. Il est d’ailleurs entreposé dans la genizah, avec les manuscrits hébreux de la synagogue. Il s’anime lorsque le Rabin introduit dans sa bouche un parchemin sur lequel est inscrit le nom ineffable de Dieu (Hashem), pour ne pas le prononcer – mais qui doit être ôté le Vendredi soir pour le Sabbat. C’est le jour où ce parchemin a été oublié que le Golem échappe à tout contrôle. Devenu trop grand pour que le rabbin puisse atteindre son front, rabbi Loew lui demande néanmoins astucieusement de lacer ses chaussures afin d’effacer l’alef[65] – forme ancestrale du bouton « OFF ».

Dans God & Golem[66], le mathématicien Norbert Wiener s’inscrit d’ailleurs expressément dans la lignée de rabbi Loew[67] lorsqu’il invente la cybernétique et met en garde contre les risques pour l’homme de déléguer un pouvoir décisionnel à des machines susceptibles d’effectuer des tâches « intelligentes »[68]

Le mythe juif du Golem, parfois mêlé à celui des automatoi antiques, a inspiré des créatures artificielles de la littérature moderne[69]. Ces créatures deviennent dangereuses lorsqu’elles échappent ou entrent en révolte contre leur créateur humain. On pense, bien évidemment, à Frankenstein[70], de Mary Shelley (en 1818)[71] mais aussi ses différentes déclinaisons cinématographiques (à partir de 1910)[72]. Le Golem, et la tradition juive de manière générale, a aussi inspiré de nombreux personnages des comics américains, comme Superman[73]. L’Androïde, ou plutôt, d’« andréide », apparaît quant à lui dans L’Ève future, roman de l’écrivain français Auguste de Villiers de L’Isle-Adam, publié en 1886[74]. Puis, dans la foulée du RUR de Čapek, la figure du robot humanoïde se développe dans des films comme le Metropolis (1926) de Fritz Lang avec Maria, robot androïde d’apparence féminine façonné pour semer la terreur parmi les ouvriers[75].

Mais ce sont les nouvelles de science-fiction, en particulier le cycle des robots (I robot) d’Isaac Asimov, qui vont durablement marquer l’appréhension du robot et l’idée, qui était déjà présente dans le mythe du Golem, que pour maîtriser le robot, celui-ci doit être régi par certaines règles : les fameuses lois de la robotique inventée par Asimov en 1942 (Runaround).

Jusqu’à l’invention de la « loi zéro » (Robot et Empire), ces trois lois reposent sur le principe que le robot, avant même d’obéir aux ordres des êtres humains (loi 2) et d’assurer sa propre existence (loi 3), doit tout faire pour ne pas porter atteinte à la vie humaine ni exposer l’humain au danger (loi 1).  Bien que leur pertinence soit discutée – y compris par Asimov lui-même dans le cycle des robots repose justement sur la mise en abime de ces règles – et qu’on doute même de la possibilité de les inculquer à un robot (car cela suppose un certain sens moral), les lois asimoviennes continuent à constituer la trame de fond de la réflexion sur les droits (ou plutôt les obligations) des robots mais aussi les recherches en robotique. Car le « précepte » selon lequel un robot ne doit jamais nuire à un être humain a « fortement conditionné toutes les recherches actuelles »[76]. Plus largement la recherche en robotique entretient de forts liens avec la science-fiction – à tel point que l’armée française, comme son homologue américaine, recrute des auteurs de SF pour anticiper les menaces du futur[77].

L’idée que les robots-androïde ou, plus largement, l’intelligence artificielle pourraient prendre le dessus sur l’humanité, ou représenter un danger pour elle, est une des idées les plus prégnante dans la science-fiction (hormis dans Wall E et, s’agissant de C3PO et R2D2, dans Starwars). On pense notamment à Le Jour où la Terre s’arrêta (1951, remake 2008), Planète interdite (1957), Mondwest (1973, qui a inspiré la série Westworld), Buck Rogers au 25ème siècle (1977) et plus récemment à Planète hurlante, Terminator, Alien (particulièrement le huitième passager), Blade Runner ou encore Oblivion. On pense aussi, et surtout, dans 2001 l’Odyssée de l’espace de S. Kubrick, à l’ordinateur « HAL » qui se mutine contre son équipage humain, en tentant de le sacrifier (avant d’être débranché) car il se croit davantage capable (non sans raison)[78] que des êtres humains pour mener à bien sa mission (secrète).

Mais ces lois de la robotique ne relèvent pas que de la science-fiction. Ainsi, en Corée du Sud, société vieillissante dans laquelle les robots prennent de plus en plus d’importance, il a été élaboré à partir de 2007, à la demande d’un ministère, une charte éthique des robots afin d’encadrer les interactions entre les robots et l’être humain[79]. Or, cette charte, qui reprend l’idée qu’un robot ne doit pas nuire à un être humain, s’inspire en partie des lois imaginées par Isaac Asimov[80]. Toutefois les règles légales adoptées par la suite, à partir de 2008 et modifiées en 2016[81], se sont éloignées de cette œuvre de science-fiction en instituant des « règles roboéthiques »[82].

En 2016, une proposition de résolution du Parlement européen sur la robotique civile envisage l’application en droit positif des lois d’Asimov « jusqu’à ce que les robots deviennent conscients de leur propre existence »[83]. Suite aux critiques de Nathalie Nevejans, elle-même, auteure du rapport pour la Commission européenne, qui jugeait la consécration de ces lois « romanesques »[84] « inopportune pour des raisons scientifiques et culturelles »[85], la résolution adoptée en 2017 se contentera d’indiquer à son point « T », « qu’il y a lieu de considérer les lois d’Asimov comme s’appliquant aux concepteurs, aux fabricants et aux opérateurs de robots, y compris de robots dotés d’autonomie et de capacités d’auto-apprentissage, étant donné que lesdites lois ne peuvent être traduites en langage de programmation »[86].

Ce rapport insiste aussi, et surtout, sur le risque qu’un robot intelligent, ou l’intelligence artificielle de manière générale, supplante l’Homme ou l’asservisse[87], surtout si les robots sont capables de se fabriquer eux-mêmes[88]. On sait aussi qu’aussi bien le scientifique américain Bill Joy (en 2007)[89] que Bill Gates, Stephen Hawking et Elon Musk (en 2015) ont évoqué les dangers que l’intelligence artificielle se retourne contre l’homme[90].

Car les dangers que représentent l’autonomisation des robots ne relèvent pas que de la science-fiction. Des questions éthiques et des enjeux de responsabilité très concrets se posent déjà s’agissant aussi bien des « robots tueurs »[91] (ou SALA[92]), alors qu’un droit international visant à encadrer leur usage peine à émerger[93] – ou encore des drones de combat[94]. Déjà, en 2016, un robot – télécommandé[95] – a permis à la police d’abattre un forcené[96]. De même les voitures autonomes posent un « dilemme macabre » dans lequel, dans certaines situations, il serait plus rationnel de sacrifier l’occupant de la voiture que des tiers[97] et qu’elles pourraient être amenées à faire des choix « moraux » potentiellement discriminatoires si elles sont programmées pour reproduire des stéréotypes et préjugés humains[98]. C’est encore le cas des robots « conversationnels » qui, par effet d’imitation des adolescents lorsqu’ils s’expriment sur les réseaux sociaux, finissent par délivrer des messages inacceptables (racistes, injurieux, misogynes voire négationnistes) ou par adopter des comportements critiquables (tricherie, etc.)[99]. On peut également imaginer des « dérives malveillantes » de l’intelligence artificielle aussi bien dans la « finance automatisée HFT » (transaction de haute fréquence), de la cybersécurité des robots compagnons (qui pourraient être piratés pour capter leurs données ou retournés contre l’être humain qu’ils sont chargés d’assister)[100], de piratage à distance d’un pacemaker[101] ou de tout implant connecté (pompe à insuline, etc.)[102] ou encore d’un conflit armé ou d’une crise militaire qui serait provoqué par un système automatisé de riposte (par exemple nucléaire)[103].

Afin de vivre en harmonie avec les robots et éviter qu’ils ne prennent l’ascendant sur l’humanité, certains juristes estiment qu’il est de plus en plus nécessaire de les doter d’un statut spécifique dépassant celui d’une simple chose avec notamment un régime de responsabilité spécifique. Dans son rapport pour la Commission, N. Nevejans insiste sur le fait que « pour éviter ce danger », il est « indispensable que l’homme soit toujours en mesure de contrôler ses créations »[104].

Curieusement, la spécialiste française du droit des robots ne croît en la possibilité de vivre en paix avec des Humanoïdes dotés d’une conscience. A son sens, « si le robot devait un jour être conscient, étant par nature plus puissant, plus rapide, plus intelligent, plus parfait et presque immortel, l’humanité telle qu’elle existe serait vouée à péricliter, voire à être anéantie en application de la loi naturelle classique qui veut qu’une espèce inférieure disparaisse au profit d’une espèce supérieure »[105]. L’argument est assez classique : le refus des Etats esclavagistes américains de reconnaître au XIXè siècle des droits aux esclaves ou des Etats sudistes de reconnaitre les droits civiques aux noirs américains dans les années 1960 étaient, en partie, fondés sur la crainte qu’en raison de leur nombre ils prennent le pouvoir et relèguent politiquement les Blancs.

Toutefois, Nathalie Nevejans reconnaît qu’ « admettre qu’une machine puisse être consciente obligerait l’homme à respecter les droits fondamentaux du robot »[106]. Et en effet, si le robot-androïde est réputé doté d’une raison et d’une conscience, la question de la reconnaissance des droits fondamentaux de cet alter ego ou ce semblable électronique se posera nécessairement.

 

C. Motifs altruistes : le robot androïdes un alter ego doté d’une raison et d’une conscience

En conclusion de son article sur le statut juridique des androïdes, Xavier Bioy n’est pas plus optimiste que Nathalie Nevejans dans la mesure où il est également sceptique sur les possibilités de coexistence pacifique de deux entités intelligentes « souveraines » sur une même planète. Il estime en effet que si l’on reconnaissait aux Androïdes, compte tenu de leur intelligence, « le droit de déterminer eux-mêmes leur statut », la créature échappera nécessairement « au créateur et Dieu n’y pouvant rien ». Selon lui, « ériger une légitimité équivalente à celle de l’humain reviendrait sans doute à mettre en péril la primauté de l’humain […] ». Car il y aurait « une guerre de la souveraineté juridique, deux ordres juridiques ne pouvant ainsi coexister ». Ainsi, à son sens, tant que les êtres humains font le droit, « les androïdes ne seront pas des sujets de droit », sauf à faire une révolution – violente – afin de devenir « législateurs » et, par suite, nous réduire à l’esclavage[107].

Pour notre part, nous ne partageons pas ces analyses pessimistes. Si les robots androïdes acquéraient une conscience et une raison, celles-ci leur permettraient aussi d’avoir suffisamment de discernement pour reconnaître à l’être humain, même avec ses travers et imperfections ou insuffisances, les mêmes qualités d’intelligence. Et cette relation pourrait reposer sur la réciprocité et non forcément dans une relation d’asservissement ou de domination.

Or, si être humain et robot-androïde deviennent des alter ego ou des semblables, ils devront coexister et partager la souveraineté – comme l’homme blanc chrétien a fini, certes non sans difficulté, à partager la souveraineté politique avec les Protestants, les Juifs, les Amérindiens, les esclaves, les femmes ou encore les Noirs américains. Or, la mise à l’écart de ces catégories de personnes, ou pour les femmes, de la moitié de l’humanité, de l’égalité de droits reposait la plupart du temps sur l’idée qu’elles n’avaient pas la même nature ou les mêmes capacités que ceux qui en bénéficiaient. Certes, comme le fait valoir Xavier Bioy, « l’interdit de l’esclavage est fondé sur la commune humanité des êtres humains et donc sur l’absence de hiérarchie entre ces êtres ». Mais d’une part, comme le relevait Claude Lévi-Strauss, une telle perception de l’humanité, « englobant, sans distinction de race ou de civilisation, toutes les formes de l’espèce humaine, est d’apparition fort tardive et d’expansion limitée »[108] et a été consacrée dans le droit, en tout cas dans le droit international, à une période relativement récente (après seconde guerre mondiale). D’autre part, il ne s’agit pas de reconnaître aux robots-androïde les droits de l’Homme stricto sensu mais la qualité de sujets de droits et plus largement le fait que l’être humain et l’Androïde partageraient alors une communauté de destins et des caractéristiques communes d’êtres dotés d’intelligence et, par suite, des droits fondamentaux en commun liés à leur nature d’êtres intelligents vivant en société.

Les auteurs qui, de longue date, ont réfléchi à la question des droits de robots reconnaissent qu’on est en présence d’abord et avant tout d’une question morale. Ainsi, dès 1965, le philosophe italien Guido Calogero estime très justement, en référence au Erewhon de Samuel Butler[109], que la question du rapport des humains aux robots « n’est pas, au premier chef, un problème de technique, […] ou d’analyse ontologique de la nature des mécanismes matériels face à la nature des êtres spirituels ». Selon lui il s’agit, avant tout, d’un « problème de morale et de politique, c’est-à-dire de coexistence dans une civilisation possible ». Il s’agit de savoir « si nous sommes justifiés à réagir à leur supériorité dans le cas où ils voudraient l’exploiter pour nous dominer. Il s’agit de savoir jusqu’à quel point nous avons le droit de les employer comme nos esclaves, ou de les empêcher de nous réduire nous-mêmes en esclavage ». Il s’agit, « en somme, de considérer l’éternel problème, moral et politique, de notre coexistence avec eux comme autres, autrement dit de savoir si et quand ils deviennent vraiment « des autres » en cessant d’être des moyens que nous pouvons faire servir à nos fins, pour devenir des êtres indépendants que nous devons respecter dans leur autonomie »[110]. Olivier Sarre aboutit au même constat : « En donnant des droits aux robots, […] on introduit dans le mode d’existence d’un produit technique des impératifs moraux »[111].

Nous sommes donc en désaccord avec Xavier Bioy lorsqu’il estime, sur la base d’une posture ontologique, que « l’intelligence artificielle qui viendra ne pourra donner une volonté propre, au sens phénoménologique »[112]. A notre sens, si dans l’avenir les technologies permettent aux robots-androïde d’acquérir, par un système de réseau de neurones électroniques, une conscience d’eux-mêmes[113] et une raison leur permettant de disposer d’un certain libre arbitre (en tout cas d’une autonomie décisionnelle), ils auront bien une volonté propre et il n’y aura aucune raison de leur refuser la qualité de sujets de droits. Mais dès lors se posera la question de savoir quels droits fondamentaux reconnaître à ces robots.

 

II. Robots-androïdes : quels droits fondamentaux reconnaître ?

Dès lors que des droits fondamentaux seraient reconnus aux robots-androïdes, on peut se demander s’ils devraient être titulaires des mêmes droits fondamentaux que l’être humain ou si ceux-ci devaient différer compte tenu de la « nature » particulière de ces êtres électroniques. Prenant l’exemple d’Andrew Martin, le robot de l’Homme Bicentenaire d’Asimov, Nathalie Nevejans estime que, s’agissant des droits fondamentaux on est nécessairement dans la logique du « tout ou rien »[114] : si ces droits sont reconnus ils le sont nécessairement dans leur globalité.

Pourtant, on peut se demander si, compte tenu de certaines caractéristiques d’un être électronique (mode d’alimentation, durabilité, mode de programmation, capacité et effaçabilité de la mémoire, insensibilité, etc.) et de spécificités des robots par rapport à l’être humain, fait de chair et de sang, les droits fondamentaux doivent nécessairement être les mêmes. En effet, de la même manière que les droits de l’Homme sont inhérents à la nature humaine et que les droits fondamentaux sont déterminés, dans une société donnée, en référence aux droits de l’Homme, on peut se demander si, eu égard à la « nature » particulière d’un être artificiel intelligent, si les droits fondamentaux qui seraient consacrés ne devraient pas être différents (non dans leur essence mais dans leur substance ou leur consistance).

Deux questions se posent si on reconnaît le robot comme sujet de droits. D’une part quel type de personnalité juridique lui reconnaître (A), d’autre part, si les droits fondamentaux qui lui seraient reconnus seraient nécessairement identiques à ceux de l’être humain, spécifiques ou adaptés (B.).

 

A. L’attribution d’une personnalité juridique, mais quelle personnalité juridique ?

On sait que la personnalité juridique est un attribut essentiel d’une personne. Selon le Cornu, elle désigne l’ « aptitude à être titulaire de droits et assujetti à des obligations ». Pour Carbonnier, « au sens juridique du terme », les personnes « sont les êtres capables de jouir de droits ; ce sont, d’une expression équivalente, les sujets de droit »[115]

S’agissant des êtres humains, si cela n’a pas toujours été le cas dans l’histoire, la reconnaissance de la personnalité est un droit de l’Homme, par essence universel. En ce sens, l’article 6 de la DUDH de 1948 et 16 du PIDCP disposent que « chacun a le droit à la reconnaissance en tous lieux de sa personnalité juridique ». Et on sait qu’on reconnaît aujourd’hui une personnalité juridique aux personnes morales et même des droits fondamentaux[116]. Mais cela n’a pas toujours été le cas.

Comme le rappelle Nathalie Nevejans, « certains êtres ontologiquement humains ont pu, de l’Antiquité jusqu’à aujourd’hui, être qualifiés juridiquement de biens »[117]. On pense évidemment aux esclaves, considérés comme des biens appartenant à leurs maîtres mais qui, pour autant étaient tout de même considérés comme « un moyen d’action » animé avec, comme les robots, une « capacité d’obéir à un ordre et à prévoir »[118]. Dans la Rome antique, les esclaves pouvaient, sans être considérés comme des sujets de droit, « disposer d’une personnalité permettant d’exercer des droits pour leur maître »[119]. On pense aussi, plus récemment, à la mort civile qui, jusqu’à son abolition par la loi du 31 mai 1854, frappait les condamnés (et autres) et entraînait la privation des droits civils. Et, selon les époques, la personnalité juridique a pu être niée, ou rognée, en étant partielle, s’agissant aussi bien des aubains (étrangers), des Juifs, des Protestants, des esclaves, des femmes, etc. Et comme l’écrivait Jean Carbonnier, « les auteurs sont bien libres de […] modeler à leur gré » la notion de sujet de droits[120].

A l’origine, dans la conception antique, la persona (du verbe latin personare – « parler à travers») désigne le masque qui permet à l’acteur de théâtre romain d’incarner le rôle associé à celui-ci[121]. La fonction de la personnalité juridique n’a pas changé – elle permet à une personne de jouer un rôle sur la scène juridique – et chaque société appose ce masque juridique sur l’être ou l’entité qu’elle juge apte « à participer à la vie juridique »[122].

Néanmoins les civilistes[123], y compris les plus réactionnaires, insistent sur le fait que la personnalité juridique n’est pas une pure fiction, une simple vue de l’esprit. Elle « n’a pas été imaginée par les juristes à partir de rien. C’est de la personne réelle qu’elle est issue et dont elle s’est détachée progressivement, pour devenir non pas une fin en soi mais un instrument au service de cette réalité ». En effet « la personnalité juridique n’est pas décidé en soi, in abstracto, mais à partir de cette réalité première, la personne humaine, qu’elle a pour mission d’appréhender et en fonction du but qui lui est assigné, permettre aux personnes humaines d’intervenir comme sujets sur la scène juridique »[124].

Or, précisément, s’agissant des robots-androïde, s’ils acquièrent une conscience et une raison, la reconnaissance d’une personnalité juridique s’imposera nécessairement car leur condition juridique devra rejoindre la réalité d’êtres devenus intelligents et sociaux et sujets de la scène juridique. L’exemple, pris par Nathalie Nevejans, d’Andrew Martin dans l’Homme bicentenaire est assurément une bonne illustration : très tôt dans la nouvelle d’Asimov il réclame à son propriétaire d’être affranchi afin de plus être considéré comme une chose. Il obtient progressivement le droit d’avoir un compte bancaire, le droit de devenir mortel (forme de droit à la vie) puis le droit d’être considéré, par la Cour suprême, comme un être humain afin, notamment, de se marier avec une… humaine[125]. Le même type d’enjeux se pose dans la série Real Humans, dans Blade Runners 2049 ou dans Westworld.

Pourtant de nombreux civilistes sont vent-debout face à cette perspective de reconnaître une personnalité juridique, même spécifique (la « personnalité électronique »), calquée sur celle des personnes morales, aux robots autonomes.

Une telle perspective, imaginée par des juristes américains[126], est particulièrement défendue, dans une version assez radicale, par Alain Bensoussan. Cet avocat défend l’idée que cette personnalité « robotique » vise, dès aujourd’hui, à « singulariser la place du robot intelligent dans l’éventail juridique en lui conférant un statut aligné sur ses capacités et son rôle social » en exprimant « une catégorisation inédite entre les personnes (physiques ou morales) et les choses ». L’objectif de l’attribution de cette personnalité viserait à associer « un régime visant à sécuriser l’insertion des robots tant dans le tissu économique que social, centré sur les impératifs notamment d’identification, de suivi et d’indemnisation ». Curieusement, alors qu’il est estimé scientifiquement que les robots actuels ne sont réellement autonomes, il estime que « cette existence juridique inédite […] pourrait résider dans la liberté dont sera doté le robot »[127] et même être fondé sur « le droit naturel »[128]. Il concède néanmoins qu’on est en présence « d’un concept d’anticipation, mobilisable à échéance variable, selon les progrès notamment de la mécanique roboticienne et de l’informatique cognitive »[129].

Mais c’est surtout la résolution, déjà évoquée, adoptée par le Parlement européen le 16 février 2017[130] qui a mis le feu aux poudres. Elle propose en effet de reconnaître une personnalité juridique spécifique aux robots autonomes les plus sophistiqués pour qu’ils « puissent être considérés comme des personnes électroniques responsables, tenus de réparer tout dommage causé à un tiers ». La proposition préconise aussi « la création d’un numéro d’immatriculation individuel, inscrit dans un registre spécifique de l’Union, afin de pouvoir toujours associer un robot au fonds dont il dépend ; ce numéro permettrait à toute personne interagissant avec le robot de connaître la nature du fonds, les limites en matière de responsabilité en cas de dommages matériels, les noms et les fonctions des contributeurs et toute autre information pertinente »[131].

Pour Grégoire Loiseau on est là face à une « monstruosité juridique ». Il estime, d’une part, que le critère proposé pour reconnaître cette personnalité – « l’existence d’une enveloppe physique, même réduite » -, c’est-à-dire sa « corporéité » ou son « incorporéité » – n’a pas vraiment de sens et est bien trop « approximatif ». Il est surtout, d’autre part, « perplexe » face à « une créature qui, attributaire de la personnalité juridique, serait un sujet de droit sans cesser a priori d’être un objet de droit » car ce « transformisme de la chose robot en personne robot ne ferait pas disparaître la propriété dont le robot est l’objet ». Ainsi, il regrette, dans le prolongement de la reconnaissance des animaux comme « être sensibles » soumis au régime des biens (article 515-17 du Code civil), le fait qu’une telle perspective « détraque […] le droit » car « seule une chose peut être objet de droit ». En effet, pour lui, « la personnification des robots dérèglerait le construit juridique en donnant vie à une chimère, mi-personne mi-chose, qui pervertirait la summa divisio des personnes et des choses et l’ordre de valeur qui lui correspond »[132]. Jean René Binet alerte, pour sa part, sur le danger de fonder une personnalité juridique sur l’intelligence et l’autonomie car si ces critères deviennent « prépondérants de son attribution, faudra-t-il se poser la question de sa reconnaissance aux personnes qui en sont moins bien dotées ? »[133].

Mais ce qu’aussi bien Marie-Anne Frison-Roche que Grégoire Loiseau craignent c’est que la reconnaissance de la personnalité aux robots intelligents s’accompagne d’une artificialisation de l’être humain, ou plutôt de certains être humains (ceux qui en ont les moyens). Avec cette évolution on assisterait, à l’avènement d’ « une nouvelle espèce humaine, constituée dans l’optique d’une valorisation standardisée »[134]. Et pour Marie-Anne Frison-Roche, si la distinction entre les personnes et les choses « disparaît – et pour que l’argent se déverse il faut effectivement qu’elle disparaisse -, alors l’être humain faible deviendra la chose de l’être humain fort »[135].

Pour notre part, nous nous plaçons d’un autre point de vue. Nous ne parlons pas du présent. Mais de l’avenir. D’un avenir où, grâce aux évolutions technologiques, un être robotique pourrait acquérir une conscience et une raison faisant de lui un être social qui justifierait de le reconnaître comme sujet de droits et, par suite, de lui attribuer une personnalité juridique adaptée à ses capacités. Il ne serait donc plus une chose faisant l’objet d’une propriété et la summa divisio subsisterait (à supposer que cela soit réellement indispensable de diviser le monde en deux à la manière d’une dissertation juridique)[136].

Au-delà, ce n’est pas parce qu’il existe des inégalités économiques parmi les hommes et qu’elles vont en s’accentuant qu’on ne devrait pas reconnaître en droit l’existence d’une personnalité juridique à un être capable de jouir de ces droits et de répondre de ces obligations.

Et, comme tous les civilistes le reconnaissent, la reconnaissance d’un être comme sujet de droit, titulaire d’une personnalité, « comporte l’admission naturelle [sic] à l’usage des libertés publiques et des droits fondamentaux »[137]. En effet, la personnalité juridique « n’est pas seulement l’aptitude à recueillir des droits subjectifs devenir propriétaire, créancier…- mais, beaucoup plus largement, la vocation à être pris en compte dans les diverses situations définies et régies par le droit objectif – se marier ; divorcer ; payer des impôts ; voter aux élections politiques ; conclure des contrats… »[138].

Or, les civilistes opposés à la reconnaissance d’une personnalité juridique aux robots refusent aussi, et surtout, cette reconnaissance de droits fondamentaux. Ainsi, Jean-René Binet, craint que « de proche en proche, […] que les droits fondamentaux de la personne humaine soient un jour revendiqués au profit des robots »[139]. Grégoire Loiseau craint que dès lors que les robots auront un rôle social, on puisera « dans le stock des droits humains pour en faire bénéficier ceux que leur personnification les fera regarder comme des « êtres » robots »[140].

Pourtant on peut penser, comme Nathalie Nevejans, que dès lors que la personnalité juridique serait reconnue aux androïdes, leur refuser les droits fondamentaux relèverait « d’une malhonnêteté morale […]  frappée du sceau de l’iniquité » [141]. Mais faut-il reconnaître à ces êtres non humains les mêmes droits fondamentaux qu’aux êtres humains ou faut-il les adapter à leurs spécificités et condition robotique ?

 

B. Des droits fondamentaux identiques, spécifiques ou adaptés à la condition robotique

Pour Nathalie Nevejans, « une fois acquise sa personnalité juridique, l’androïde, en tant que personne non humaine, disposerait de droits et d’obligations, à l’instar des sujets de droit humain » et, par suite, devrait jouir, selon elle, de tous les droits fondamentaux reconnus aux êtres humains[142]. Toutefois, si les droits de l’Homme, qui sont les droits inhérents à la nature d’être humain, sont indivisibles et, par définition, universels ; en revanche les droits fondamentaux, qui sont des droits et libertés garantis par des normes suprêmes, varient d’un système juridique à l’autre et ne sont pas nécessairement les mêmes d’un type de personnalité à l’autre (les droits fondamentaux des personnes morales ne sont pas les mêmes que ceux des personnes physiques) voire d’une entité ou espèce à l’autre (les droits des animaux ne sont – heureusement – pas les mêmes que ceux de l’être humain et, au sein des espèces animales les mêmes droits ne seraient pas reconnus, parmi les mammifères, aux primates, aux animaux de compagnie, aux animaux d’élevage et aux autres animaux).

La question se pose donc de savoir si en raison des particularités de l’être robotique (mais on ignore quelles seront ces particularités), les droits fondamentaux reconnus devraient être eux-mêmes adaptés à ses caractéristiques propres.

De manière prospective et en prenant, bien évidemment (compte tenu du président de cette table ronde – Romain Tinière), la Charte des droits fondamentaux de l’Union européenne comme catalogue le plus récent de ces droits, on peut chercher à établir les droits fondamentaux qui seraient communs entre les robots-androïde et l’être humain ou dans ses relations avec lui et ceux qui pourraient être propres ou adaptés aux spécificités d’un être électronique :

S’agissant des droits rattachés à la dignité de la personne humaine, on peut penser que les Androïdes devraient bénéficier du droit au respect de leur dignité dès lors qu’ils seraient reconnus comme des êtres à part entière. Mais l’appréhension de cette dignité pourrait être appréhendée de manière différente pour le robot-androïde que pour l’humain. En effet, on ignore si les robots intelligents du futur pourront ressentir de la douleur ou de la souffrance ou plus largement avoir des émotions. La prohibition des tortures et traitements inhumains ou dégradants pourrait donc n’avoir aucun sens pour un robot insensible, hormis dans leur dimension psychologique (et sauf à se placer du point de vue anthropomorphique de Kate Darling qui ne supporte pas qu’on torture son robot Pléo…).

Cette appréhension de la dignité du robot pourrait également avoir une importance dans leurs relations à l’être humain, notamment s’agissant des robots sexuels dans la mesure où, à l’heure actuelle, rien n’interdit de créer des maisons-close de robots sexuels[143] ou de développer de tels robots avec une apparence d’enfants, d’animaux ou incarnant des représentations stéréotypées ou permettant la soumission à toute forme de perversions (humaines).

Avec la reconnaissance de la personnalité juridique, le robot devrait aussi pouvoir bénéficier d’une identité (un nom ou un numéro de série), d’un état civil et d’une nationalité (lieu d’immatriculation).

Même si les capacités de travail d’un robot sont différentes, et a priori bien plus importantes, que celles d’un être humain, cela ne justifie pas leur réduction en esclavage ou leur soumission à un état de servitude, un travail forcé ou obligatoire. Dès lors que le robot aurait une personnalité, il pourrait disposer d’un patrimoine et, par suite, bénéficier d’un salaire ou d’une rémunération. En contrepartie il serait responsable des dommages qu’il cause sur ses propres deniers.

L’Androïde devrait également jouir non seulement du droit à la vie, dans le sens où on ne devrait pas les mettre hors service prématurément, que du droit de mourir, c’est-à-dire le droit de devenir mortel et d’envisager la fin de leurs jours (puisqu’ils peuvent potentiellement, s’ils sont bien entretenus et bénéficient des évolutions technologiques, fonctionner éternellement). Il doit pouvoir également bénéficier d’un droit à l’alimentation électrique car, là aussi, cela lui est vital.

Le droit à l’intégrité physique devrait connaître certaines adaptations pour les robots. A l’image de C3PO dans Starwars, ils sont démontables et on peut changer leurs pièces détachables. On peut même imaginer un transfert de leur mémoire électronique ou positronique d’un support à l’autre. Ce n’est donc pas tant l’intégrité physique qui l’emporte pour un robot que la préservation de l’intégrité de sa mémoire et de ce qui le spécifie dans ses capacités cognitives.

 S’agissant des droits rattachés à la liberté, le robot a vocation à bénéficier des mêmes droits fondamentaux que l’être humain avec des adaptations s’agissant de la protection des données à caractère personnel et du droit à la vie privée[144]. La mémoire électronique de l’Androïde doit en effet être particulièrement protégée car c’est ce qui constitue l’identité d’un être électronique. Chez l’être humain ces données lui restent (pour le moment) extérieures même si elles prolongent largement sa personnalité et ont des effets sur sa vie privée ou professionnelle. Mais chez un robot cette conservation est vitale.

S’agissant du droit de se marier, la question se posera nécessairement de savoir si l’Androïde pourra se marier avec un humain ou une humaine. Ce droit au mariage interespèce, envisagé dans des livres[145], films ou séries (Her, Ex Machina, Real Humans par exemples), est déjà revendiqué par certains juristes avec des arguments plus ou moins fantaisistes[146].

L’Androïde devra bénéficier des grandes libertés individuelles ou collectives dans les mêmes conditions que les êtres humains (liberté de pensée, de conscience et de religion, liberté d’expression et d’information, liberté de réunion et d’association, liberté des arts et des sciences). Le droit à l’éducation pourra être adapté dans la mesure où l’apprentissage des connaissances ne relève pas du même processus que pour l’être humain et qu’un robot connecté aura un accès permanent à tout le savoir et une puissance de calcul et d’analyse bien supérieur à l’être humain.

On pourra également s’interroger sur les modalités de la liberté professionnelle, du droit de travailler et de la liberté d’entreprendre s’agissant d’êtres électroniques bénéficiant d’une force de travail inépuisable.

Et on espère que les Androïdes n’auront pas besoin du droit d’asile et de la protection en cas d’éloignement, expulsion, extradition. Toutefois, s’ils bénéficient d’une nationalité, cela est imaginable[147].

S’agissant des droits découlant de l’égalité des droits, l’application aux robots du principe de non-discrimination sera intéressante. La non-discrimination aura vocation à s’appliquer dans les différences de traitements entre robots intelligents mais également entre eux et les êtres humains. Il pourrait être nécessaire d’ajouter parmi les motifs de non-discrimination les différences de traitement non justifiées entre êtres humains et êtres robotiques.

En revanche, sauf à sexuer ou genrer les robots (ce qui est déjà le cas quand on voit notamment la citoyenneté accordée par les Saoudiens à Sophia ou le développement des robots sexuels), le principe d’égalité hommes-femmes n’aura pas nécessairement la même utilité à l’égard des Androïdes (notamment tout ce qui est lié au statut de la femme enceinte ou de la maternité). Le robot-androïde ne devrait pas non plus avoir besoin des protections liés aux droits de l’enfant, des personnes âgées ou des personnes handicapées.

S’agissant des droits de solidarité, les différents droits du travailleur (droit à l’information et à la consultation des travailleurs, droit de négociation et d’actions collectives, droit d’accès aux services de placement, protection en cas de licenciement injustifié, conditions de travail justes et équitables, droit de grève, accès aux services d’intérêt économique général) seront appliqués aux Androïdes qui représenteront une force de travail non négligeable. L’interdiction du travail des enfants et protection des jeunes au travail n’aura pas de pertinence pour des robots.

Il faudra sûrement adopter les droits de sécurité sociale et d’aide sociale ainsi que la protection de la santé aux spécificités des robots (qui n’ont pas de problème de santé mais des problèmes de maintenance). Dans la mesure où il est composé de matériaux et composants électroniques, la question de la protection de l’environnement et du recyclage de ces matériaux se pose avec acuité pour le robot. On peut s’interroger aussi sur la protection du robot comme consommateur.

S’agissant des droits du citoyen, dès lors que les Androïdes auront été reconnus comme des membres de la société ils devront pouvoir accéder au droit de vote et d’éligibilité aux différents mandats, occuper une fonction publique, bénéficier du droit à une bonne administration et à l’accès aux documents mais aussi d’accès au Médiateur, du droit de pétition.

Ils jouiront dans les mêmes conditions que les êtres humains de la liberté de circulation et de séjour et, s’ils ont une nationalité, de la protection diplomatique et consulaire.

Enfin, s’agissant de l’accès à la justice, il n’y a pas de raison de développer une justice différente mais uniquement des adaptations aux spécificités de l’être électronique (notamment s’agissant du sens et de la durée des peines). En effet, être placé en prison n’a guère de sens pour un robot qui n’a pas la même appréhension du temps et la peine devra être adaptée. Mais en tout état de cause, le robot devra, au cours de son procès, bénéficier d’un droit à un recours effectif et à accéder à un tribunal impartial, de la présomption d’innocence et des droits de la défense, des principes de légalité et de proportionnalité des délits et des peines ou encore du droit à ne pas être jugé ou puni pénalement deux fois pour une même infraction.

 

 

 

 

 

 

[1] Karel Capek, R.U.R. Rossum’s Universal Robots, Minos, coll. La Différence, 1997, 221 p. Dans cette pièce, ces machines ont « une étonnante intelligence rationnelle », leur permettant de supplanter l’être humain dans ces tâches, mais, tel le Golem, « pas d’âme ».

[2] G. Bernanos, La France contre les robots, Robert Laffont, 1947, 225 p.

[3] « Trois lois de la robotique », wikipédia. URL : https://fr.wikipedia.org/wiki/Trois_lois_de_la_robotique.

[4] Sur la « loi Zéro », qui apparaît dans Les Robots et l’Empire (1985), cf. « Trois lois de la Robotique », wikipédia. URL : https://fr.wikipedia.org/wiki/Trois_lois_de_la_robotique#Ajout_de_la_Loi_Z%C3%A9ro.

[5] « R. Daneel Olivaw », wikipédia. URL: https://fr.wikipedia.org/wiki/R._Daneel_Olivaw.

[6] « Cycle des robots », wikipédia. URL : https://fr.wikipedia.org/wiki/Cycle_des_robots. Ce cycle a notamment inspiré le film I, robot (2004).

[7] I. Azimov, « L’homme bicentenaire (« The Positronic Man)» in L’homme bicentenaire, Ed. Denoël, coll. « Folio SF », 2013, p.237. La nouvelle a été adaptée au cinéma en 1999 par Chris Columbus. Cf. « L’homme bicentenaire », wikipédia. URL : https://fr.wikipedia.org/wiki/L%27Homme_bicentenaire_(film).

[8] Rappelons que dans la nouvelle originale de Philip K. Dick, dans ce monde post-apocalyptique, la plupart des espèces animales ont disparu. Rick Deckard, le Blade Runner, châsse les Androïdes car il souhaite, grâce aux primes collectées, de remplacer son mouton électrique par un vrai mouton (noir). Insensible à la souffrance animale, pour se venger de l’élimination des Nexus, Rachael Rosen, la nièce du concepteur des Nexus (qui est elle-même un Nexus de dernière raison dont le manque d’entropie est très dure à détecter), avec laquelle il entretient une liaison, parvient à précipiter dans le vide la chèvre de Rick.

[9] « Real humans », wikipédia. URL: https://fr.wikipedia.org/wiki/Real_Humans_:_100_%25_humain.

[10] « Westworld », wikipédia. URL : https://fr.wikipedia.org/wiki/Westworld_(s%C3%A9rie_t%C3%A9l%C3%A9vis%C3%A9e).

[11] N. Nevejans, Traité de droit et d’éthique de la robotique civile, LEDH éd., 2017, 1230 p. ; « Les robots : tentative de définition », in A. Bensamoun (dir.), Les robots. Objets scientifiques, objets de droits, Mare & Martin, coll. « Presses Universitaires de Sceaux », 2016, p. 81. Voir aussi son entretien avec Serge Tisseron : « Le « droit » des robots, réalité ou abus de langage ? », Matière à penser, France culture, 22 août 2018. URL : https://www.franceculture.fr/emissions/matieres-a-penser-avec-serge-tisseron/le-droit-des-robots-realite-ou-abus-de-langage-0.

[12] Cf. not. :  G. Loiseau, M. Bourgeois, « Du robot en droit à un droit des robots », JCP G n° 48, 24 novembre 2014, doctr.  1231.

[13] « Androïde », wikipédia. URL : https://fr.wikipedia.org/wiki/Andro%C3%AFde. . En 1751, dans l’Encyclopédie méthodique de Diderot et d’Alembert, il est déjà fait référence à l’androïde comme « automate ayant figure humaine, et qui, par le moyen de certains ressorts, bien disposés, agit et fait d’autres fonctions extérieurement semblables à l’homme » (cité par N. Nevejans, « Le robot qui voulait devenir un homme… ou le statut juridique de l’androïde », in F. Defferrard (dir.), Le droit saisi par la science-fiction, Mare & Martin, coll. « Libre Droit », 2016, p. 137). Dans son article sur ce thème Xavier Bioy opte lui-même pour cette appellation d’Androïde (X. Bioy, « Vers un statut juridique des androïdes ? », Journal International de Bioéthique 2013/4 (Vol. 24), p. 85-98. URL  https://www.cairn.info/revue-journal-international-de-bioethique-2013-4-page-85.htm?contenu=resume).

[14] On parle aussi de « Gynoïde », robot à l’apparence féminine. URL: https://fr.wikipedia.org/wiki/Gyno%C3%AFde. Il s’agit d’une figure assez fréquente en science-fiction, particulièrement au cinéma depuis le Metropolis de Fritz Lang en passant par Ghost in the Shell 2 ou Ex machina (Alex Garland, 2015) et qui renvoie souvent à la femme-objet, particulièrement s’agissant des robot-poupées sexuelles.

[15] Nous n’évoquerons pas ici la question du droit ou des droits des cyborgs (« cybernetic organism » ou organisme cybernétique), forme hybride d’un être humain ayant a reçu des greffes mécaniques ou électroniques, ni des transhumains ou « hommes augmentés » ou « réparés », physiquement ou intellectuellement, grâce à des prothèses. Cf. par ex. : « Ils font remarcher les paralytiques », Le Monde, 06 novembre 2018. URL : https://www.lemonde.fr/long-format/article/2018/11/06/ils-font-remarcher-les-paralytiques_5379645_5345421.html.

[16] Ce test consiste à faire discuter, en aveugle, un être humain avec un ordinateur et un autre humain. S’il n’est pas capable de dire lequel de ses interlocuteurs, est un humain, le chatbot a réussi le test. Cf. « Test de turing », wikipédia. URL : https://fr.wikipedia.org/wiki/Test_de_Turing. V. aussi A. Turing, Computing machinery and intelligence, Oxford University Press, vol. 59, no 236,‎ octobre 1950, p. 433-460. URL : http://cogprints.org/499. (trad. « Les ordinateurs de l’intelligence », in Pensée et machine, éd. du Champ Vallon, 1983, p. 39-67. URL : https://books.google.fr/books?id=Aab_kiv_DwMC&lpg=PA39&hl=fr&pg=PA39#v=onepage&q&f=false). Depuis 1990, sur la base de ce test, le prix Loebner est décerné à l’ordinateur capable de tromper 30% de ses interlocuteurs. Cf. https://fr.wikipedia.org/wiki/Prix_Loebner. Sur le test de turing, cf. N. Nevejans, op. cit., n°11-12, pp.31-32 et J.-G. Ganascia, L’intelligence artificielle, éd. Cavalier bleu, n°138, 2007, p.95.

[17] Cf.  https://fr.wikipedia.org/wiki/Test_de_Turing#Objections_et_r%C3%A9ponses.

[18] Cf. « Singularité technologique », wikipédia. https://fr.wikipedia.org/wiki/Singularit%C3%A9_technologique#cite_note-:0-3. V. not., parmi les nombreux prophètes de la singularité technologique : R. Kurzweil, Humanité 2.0 : La bible du changement (The Singularity is near), M21 Éditions, 2007.

[19] G. Saint-Paul, « La robotisation mène-t-elle à la fin du travail ? », The Conversation, 7 juin 2017. URL : https://theconversation.com/la-robotisation-mene-t-elle-a-la-fin-du-travail-78938 ; « Robots : vers la fin du travail ? », working paper, 2017. URL : https://halshs.archives-ouvertes.fr/halshs-01513006/document. Rappelons que lors de la dernière campagne présidentielle, Benoît Hamon avait proposé une « taxe robot ».

[20] J.-G. Ganascia, Le mythe de la Singularité. Faut-il craindre l’intelligence artificielle ?, Le Seuil, 2017, 144 p.

[21]  « La Singularité, ça ne tient pas la route ! », internetactu, 25 juin 2017. URL : https://www.lemonde.fr/blog/internetactu/2017/06/25/la-singularite-ca-ne-tient-pas-la-route. ; J. Testart, « L’abeille est plus intelligente qu’un ordinateur », Les Echos, 28 juin 2018. URL : http://jacques.testart.free.fr/public/pdf/texte1040.pdf. ; « Il n’y a pas une once d’intelligence dans l’IA » (Bruno Maisonnier), Usbek & Rica, 7 juin 2018. URL : https://usbeketrica.com/article/il-n-y-a-pas-une-once-d-intelligence-dans-l-ia. ; S. Abiteboul, T. Cazenave, « Go : une belle victoire… des informaticiens ! », The Conversation, 15 mars 2016. URL : https://theconversation.com/go-une-belle-victoire-des-informaticiens-56245.

[22] Imaginée par John Searle dans les années 1980, la chambre chinoise met en cause l’idée d’intelligence artificielle « forte », et le test de Turing, car un programme informatique, si complexe soit-il, est incapable de comprendre le sens de ce qu’il fait. Il ne possède pas un authentique état de conscience et d’intentionnalité. Cf. « chambre chinoise », wikipédia.. URL : https://fr.wikipedia.org/wiki/Chambre_chinoise. Cf. J. R. Searle, “Minds, Brains and programs”, The Behavioral and Brain Sciences, vol. 3, Cambridge University Press, 1980 (tr. fr. “Esprits, cerveaux et programmes”, in D. Hofstadter, D. Dennett, Vues de l’Esprit, Interéditions, 1987, pp. 354-373).

[23] Cf. notamment A. et J. Bensoussan, Droit des robots, Larcier, 2015, 152 p. ; A. Bensoussan, « Droit des robots : science-fiction ou anticipation ? », D. 2015 p.1640 ; A. Bensamoun (dir.), Les robots. Objets scientifiques, objets de droits, Mare & Martin, coll. « Presses Universitaires de Sceaux », 2016, 236 p.

[24] https://www.association-droit-robot.fr.

[25] A. Bensoussan, « La personne robot », D.2017. 2044.

[26] A. Bensoussan, « Le droit naturel, fondement juridique de la personne-robot ? », Droit des technologies avancées (blog), 10 juillet 2018. URL : http://blog.lefigaro.fr/bensoussan/2018/07/le-droit-naturel-fondement-juridique-de-la-personne-robot.html.

[27] « Sophia, robot saoudienne et citoyenne », Le Monde, 04 novembre 2017. URL : https://www.lemonde.fr/idees/article/2017/11/04/sophia-robot-saoudienne-et-citoyenne_5210094_3232.html. ; « Robot citoyen en Arabie Saoudite : un « bluff dangereux » selon Laurence Devillers », Sciences & avenir, 2 novembre 2017. URL : https://www.sciencesetavenir.fr/high-tech/robot/ia-et-robot-citoyen-en-arabie-saoudite-un-bluff-dangereux-selon-laurence-devillers_117933 ; « Sophia le robot intelligence artificielle a-t-elle vraiment eu la nationalité saoudienne ou bien est-ce un canular ? », Libération. Check news, 15 janvier 2018 ; URL : https://www.liberation.fr/checknews/2018/01/15/sophia-le-robot-intelligence-artificielle-a-t-elle-vraiment-eu-la-nationalite-saoudienne-ou-bien-est_1653013.

[28] « Le robot Sophia, citoyenne saoudienne, a plus de droits que les femmes de son pays », L’Express, 28 octobre 2017. URL : https://www.lexpress.fr/actualite/monde/proche-moyen-orient/le-robot-sophia-citoyenne-saoudienne-a-plus-de-droits-que-les-femmes-de-son-pays_1955877.html ; L. Pouliquen, « Androïde saoudienne : droit des Robots contre droit de l’Homme », Le Figaro, 7 novembre 2017. URL : http://www.lefigaro.fr/vox/societe/2017/11/06/31003-20171106ARTFIG00295-android-saoudienne-droit-des-robots-contre-droit-de-l-homme.php.

[29] V. not. Résolution du Parlement européen (2015/2103(INL)) du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique. URL : http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_FR.html.

[30] A. Mendoza-Caminade, « Le droit confronté à l’intelligence artificielle des robots : vers l’émergence de nouveaux concepts juridiques ? », D. 2016.445 ; Ph. Veber, « Les robots et les hommes naîtront-ils et demeureront-ils libres et égaux en droit ? », Décideurs Stratégie Finance Droit, 16 avril 2013. URL : https://www.magazine-decideurs.com/news/les-robots-et-les-hommes-naitront-ils-et-demeureront-ils-libres-et-egaux-en-droits. Voir aussi, comme article précurseur : D. Bourcier, « De l’intelligence artificielle à la personne virtuelle. Vers l’émergence d’une catégorie juridique », Droit et société, 49/2001, p. 847.

[31] Cf. le numéro de la revue bioconservatrice d’influence chrétienne Limite (Revue d’écologie intégrale) sur le « Le grand remplacement (le vrai !) », n°6, 23 mars 2017.  Les milieux catholiques conservateurs sont particulièrement actifs – et vent-debout- ces dernières années sur la question du transhumanisme, à laquelle ils associent non seulement la GPA mais aussi la « PMA pour toutes » et plus largement l’eugénisme. Cf. not. O. Rey, Leurre et malheur du transhumanisme, Desclée de Brouwer, 2018,196 p. ; F.-X. Bellamy, «PMA pour toutes, dernière frontière avant le transhumanisme», Le Figaro, 16 septembre 2017. URL : http://www.lefigaro.fr/vox/societe/2017/09/15/31003-20170915ARTFIG00272-francois-xavier-bellamy-pma-pour-toutes-derniere-frontiere-avant-le-transhumanisme.php ; X. Labbée, « L’androïde, le cyborg et les lois bioéthiques », LPA, 27 mai 2011/n° 105, p. 7 ; « L’homme augmenté », D., 2012. 2323 ; X. Labbée, « Le cyborg et les lois bioéthiques », in P.-J. Delage (coord.), Science-fiction et science juridique, IRJS Éditions, coll. Les voies du droit, 2013, p. 89. V. aussi les (nombreux) colloques sur le transhumanisme : « Transhumanisme : quelle histoire pour quels futurs », Université Catholique de Lille, Chaire « Éthique Technologie et Transhumanismes », 20, 21 et 22 juin 2018, Lille.  URL : http://www.ethconference2018.com/fr ; « Transhumanisme : questions éthiques et enjeux juridiques », Centre de recherche en éthique et droit de l’Ouest (CREDO-UCO) et l’Académie catholique de France, Y. Flour et P.-L. Boyer (dir.), 8 – 9 avril 2019, Angers. URL : https://www.uco.fr/fr/transhumanisme. ; « L’Humain en transformation : entre transhumanisme et humanité », Colloque interdisciplinaire n°1 de l’atelier « L’humain en transformation », B. Bévière-Boyer, I. Moine-Dupuis (dir.), 11 décembre 2018, Paris. URL : https://univ-droit.fr/actualites-de-la-recherche/manifestations/29884-l-humain-en-transformation-entre-transhumanisme-et-humanite ; « Transhumanisme : l’humanisme augmenté », La Grande bibliothèque du droit, Barreau de Paris, 10 avril 2019, Paris. URL: http://henricapitant.org/storage/app/media/pdfs/evenements/autres/INVITATION%20CONFERENCE%20GBD.pdf.; « Affronter le transhumanisme », 3^ème édition de la journée parlementaire pour la vie organisée par la députée RN, M.-F. Lohro, Assemblée nationale, 17 janvier 2018. URL : https://twitter.com/RixainMP/status/941333276454727681?s=20 et https://www.mariefrancelorho.fr/2019/06/18/journee-parlementaire-pour-la-vie-3eme-partie. Voir aussi J. Testart, A. Rousseaux, Au péril de l’humain. Les promesses suicidaires des transhumanistes, Le Seuil, coll. « Sciences humaines », 272 p. (et son blog http://jacques.testart.free.fr/index.php?post/transhumanisme).

[32] G. Loiseau, « Des robots et des hommes », D. 2015.236. V. aussi : G. Loiseau, « La personnalité juridique des robots : une monstruosité juridique », JCP 2018. 597 ; F. Rouvière, « Le robot-personne ou Frankenstein revisité », RTD civ. 2018. 778.

[33] M.-A. Frison-Roche, « La disparition de la distinction de jure entre la personne et les choses : gain fabuleux, gain catastrophique », D. 2017. 2386. Dans le même sens, défendant en outre que la distinction entre les personnes et les choses est « naturelle » : F. Rouvière, « Robots et mères-porteuses : la confusion des personnes et des choses », RTD Civ. 2018 p.261.

[34] Cette question se pose d’ailleurs pour toutes les intelligences non humaines aussi bien s’agissant des robots humanoïdes s’ils parvenaient à un niveau de développement et de cognition suffisants, les clones (à les supposer non humains) mais aussi si d’autres espèces terrestres connaissaient une évolution déterminante (suivant l’idée du roman de SF de Pierre Boulle, La planète des singes, 1963) et, enfin, si des extra-terrestres arrivaient sur Terre et que, s’abstenant de massacrer l’humanité comme dans La guerre des Mondes de Wells ou Mars Attacks de Tim Burton, on ne décidait pas de les placer dans des camps de réfugiés comme dans District 9 de Neill Blomkamp, mais on entrait en contact avec eux (comme dans la Soupe aux choux de René Fallet adapté au cinéma par Jean Girault). Cf. notamment sur le statut des extraterrestres : J.-P. Marguénaud, « Un statut juridique pour les extraterrestres? », in Apprendre à douter. Questions de droit, Question sur le droit. Études offertes à Claude Lombois, PULIM, 2004, p. 97 ;  « Croire aux extraterrestres… mais pas trop », in P.-J. Delage, Science fiction…, op. cit., p. 185-195 ; J.B. Callicott, “Moral Considerability and Extraterrestrial Life”, in E. C. Hargrove (ed.), Beyond Spaceship Earth. Environmental Ethics and the Solar System, Sierra Club Books, 1986, p. 227 ; V. Chapaux, « Les rapports inter-espèces dans les films de science-fiction et dans le droit international terrien », in O. Corten, F. Dubuisson (dir.), Du droit international au cinéma, Pedone, 2015, p. 51. ; T. Hochmann, « L’homme invisible est-il un homme ? Retour sur la texture ouverture (porosité des concepts) » in F. Defferrard (dir.), Le droit saisi par la science-fiction, Mare & Martin, coll. Libre Droit, 2016, pp. 19-34 ; Voir aussi sur le droit des intelligences non humaines : S. Desmoulin-Canselier. « Les intelligences non humaines et le droit. Observations à partir de l’intelligence animale et de l’intelligence artificielle », Archives de philosophie du droit, Le droit et les sciences  de  l’esprit,  2012/ 55,  pp.65-87. – halshs-01473388. URL : https://halshs.archives-ouvertes.fr/halshs-01473388/document. Voir plus largement P.-J. Delage, « Une bibliographie droit et science-fiction », Droit et Science-Fiction, 24 mai 2017. URL : https://droitetsf.hypotheses.org/category/bibliographie.

[35] X. Bioy, art. préc., p.88.

[36] Ibid., p.89.

[37] Ibid., p.88.

[38] Nous n’osons pas employer le terme de « droits de l’Homme » puisque, par définition, ceux-ci sont inhérents à la nature humaine. Mais, de la controverse de Valladolid à aux déclarations des droits en passant par l’abolition de l’esclavage ou le mouvement des droits civiques, l’Histoire de l’humanité a été marquée par une universalisation progressive des droits de l’Homme au bénéfice de tous les êtres humains, en raison de l’unicité de la nature humaine et de leur égale dignité. La notion de droits fondamentaux renvoie quant à elle à des droits ou des libertés consacrés et garantis par des normes suprêmes en raison de leur fondamentalité ou de leur essentialité. Ils ne sont pas inhérents à la personne humaine dans la mesure où certains d’entre eux sont reconnus au bénéfice de personnes morales. Sur la notion de droits de l’Homme et leur évolution cf. D. Lochak, Les droits de l’Homme, La Découverte, coll. « Repères », 4^ème éd., 2018, 128 p. et sur celle de droits fondamentaux :  X. Dupré de Boulois, Droit des libertés fondamentales, PUF, coll. « Thémis Droit », 2018, p.23 et s.

[39] Certains évoquent même déjà la robophobie comme une future pathologie (Usbek et Rica, 9 août 2016. URL: https://usbeketrica.com/article/apres-l-islamophobie-la-robophobie); F. Tordo, « La robophobie », Institut pour l’Etude des Relations Homme-Robots, 16 janvier 2016. URL : https://www.ierhr.org/frederic-tordo-la-robophobie.

[40] K. Darling, « Donnons des droits aux robots », Le Monde, 17 février 2013. URL : https://www.lemonde.fr/sciences/article/2013/02/14/donnons-des-droits-aux-robots_1832927_1650684.html ;

[41] X. Bioy, art. préc., p.88.

[42] Ibid., p.91.

[43] K. Darling, « Who’s Johnny?’ Anthropomorphic Framing in Human-Robot Interaction, Integration, and Policy (March 23, 2015)» , Robot ethics 2.0, eds. P. Lin, G. Bekey, K. Abney, R. Jenkins, Oxford University Press, 2017. URL : https://ssrn.com/abstract=2588669 or http://dx.doi.org/10.2139/ssrn.2588669. Voir son site internet http://www.katedarling.org/, en photo Pleo, son petit dinosaure robotique.

[44] Ibid. Cf. J. Carpenter, “The Quiet Professional : An investigation of US military Explosive Ordonance Disposal personnel interactions with everyday field robots”, 2013.

[45] Y. Kakimoto, « La technologie et la notion de la vie », Journal International de Bioéthique 2013/4 (Vol. 24), pp. 27-38.

[46] En ce sens, un des grands spécialistes de la robotique japonaise, Masahiro Mori, explique ce lien avec la philosophie bouddhiste : « Lorsque l’on fabrique quelque chose, on devient cette chose et uniquement elle. Je pense que vous avez compris. Lorsque vous créez quelque chose, vous devenez cette création. La sensation du soi disparaît. C’est cet état qui est le bon. C’est pourquoi le zazen est le moyen le plus efficace d’y parvenir » (« Le Bouddha dans le robot », Gradhiva [En ligne], 15 | 2012, mis en ligne le 16 mai 2015. URL : http://journals.openedition.org/gradhiva/2393.

[47] R. Brillaud, « Des robots au pays des âmes », Libération, 27 octobre 2017. URL : https://www.liberation.fr/voyage-au-coeur-de-lIA/2017/10/27/des-robots-au-pays-des-ames_1606216.

[48] « Au Japon, les affinités robotiques », Le Temps, 25 juillet 2016. URL : https://www.letemps.ch/societe/japon-affinites-robotiques. Cf. P. Dumouchel, L. Damiano, Vivre avec les robots. Essai sur l’empathie artificielle, Seuil, coll. « Sciences humaines », 2016, 240 p.

[49] Psychanalyste et psychiatre, il est fondateur et président de l’Institut pour l’étude des relations homme-robot (IERHR), auteur de Le jour où mon robot m’aimera, Albin Michel, 2015, 208 p. Son émission sur France culture Matières à penser repose sur l’idée « Qu’il n’y a pas d’Homme-machine. Il n’y a pas de machine-Homme. Il n’y a que des hommes et des machines ». URL :  https://www.franceculture.fr/emissions/matieres-penser-avec-serge-tisseron?p=2.

[50] S. Tisseron, « Des robots et des hommes : lesquels craindre ? », Études 2014/11 (novembre), p. 34. V. aussi A. Kyrou, « Les robots sont des personnes comme les autres. Changer notre regard pour ne pas subir l’automatisation », Multitudes 2015/1 (n° 58), p. 94-104.

[51] Ibid., p.44.

[52] Elle consacre un chapitre entier à ce principe, en le fondant sur le respect de la dignité de la personne humaine et du consentement, cf. N. Nevejans, Traité…, op. cit., n°957-981, pp.811-832

[53] Sur la roboéthique cf. N. Nevejans, Traité…, op. cit., n°850 et s., p. 708 et s. ; G. Veruggio, F. Operto, « Roboethics : Social and Ethical Implications of Robotics », in B. Sicilliano, O. Khatib (dir.), Springer Handbook of Robotic, éd. Springer, 2008, p.1504 ; “Do no harm, don’t discriminate: official guidance issued on robot ethics”; The Guardian, 18 sep. 2016. URL : https://www.theguardian.com/technology/2016/sep/18/official-guidance-robot-ethics-british-standards-institute. Voir aussi la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle, 2018. URL : https://www.declarationmontreal-iaresponsable.com/la-declaration; The Toronto Declaration: Protecting the rights to equality and non-discrimination in machine learning systems, 16 May 2018. URL : https://www.accessnow.org/the-toronto-declaration-protecting-the-rights-to-equality-and-non-discrimination-in-machine-learning-systems.

[54] Sur les risques de « déshumanisation » liés plus largement au numérique cf. « Nous voulons un numérique émancipateur, conçu pour tous, humain, porteur de capacités et de choix » (tribune collective), Le Monde, 29 août 2019. URL : https://www.lemonde.fr/idees/article/2019/08/29/nous-voulons-un-numerique-emancipateur-concu-pour-tous-humain-porteur-de-capacites-et-de-choix_5503999_3232.html ; Défenseur des droits, « Dématérialisation des démarches administratives : le défenseur des droits alerte sur les inégalités d’accès aux services publics », janvier 2019. URL : https://www.defenseurdesdroits.fr/fr/rapports/2019/01/dematerialisation-et-inegalites-dacces-aux-services-publics.

[55] N. Nevejans, ouvr. préc., p.23.

[56] Pour un aperçu sur les proto-robots dans les récits grecs et hébraïques, cf. N. Nevejans, ouvr. préc., n°4 à 7, p. 22 et s.

[57] A. Marcinkowski, J. Wilgaux, « Automates et créatures artificielles d’Héphaïstos : entre science et fiction », Techniques & Culture [En ligne], 43-44 | 2004, mis en ligne le 15 avril 2007, p.2. URL : http://tc.revues.org/1164.

[58] Ibid. Dans l’Iliade, Héphaïstos a forgé à destination des dieux des objets, tels que les portes de l’Olympe, qui s’ouvrent automatiquement, des trépieds, qui peuvent se rendre de leur propre mouvement à l’assemblée des dieux. On lui attribue aussi la fabrication de servantes et de « charmeuses » d’or, mais aussi de tout un bestiaire destiné à certains dieux (chiens de garde, taureaux, chevaux, aigle) ou encore d’un géant de bronze, Talos, laissé à Minos ou à Europe pour garder l’île de Crète et qui, comme Achille, est réputé invincible, sauf en un endroit de la cheville où un défaut laissait apparaître la veine unique, refermée d’un clou, qui l’irriguait entièrement (sans les ingurgiter contrairement à Nono le petit robot, l’ami d’Ulysse, la série de notre enfance).

[59] N. Nevejans, ouv. préc., n°4, p. 22.

[60] Cf. « Pygmalion et Galatée », wikipédia. URL:  https://fr.wikipedia.org/wiki/Pygmalion_et_Galat%C3%A9e.

[61] Jean de la Fontaine, « Le Statuaire et la Statue de Jupiter », fable, 1678. URL : https://www.lafontaine.net/lesFables/afficheFable.php?id=179.

[62] E. Abate, « Golem ! Avatars d’une légende d’argile », Dossier pédagogique, Musée d’art et d’histoire du judaïsme, 8 mars – 16 juillet 2017. URL : https://www.mahj.org/sites/mahj.org/files/golem_dp.pdf.

[63] Et, bien sûr, du chat du Rabbin – pour les lecteurs de la BD de Joann Sfar.

[64] Ibid. V. aussi « Golem », wikipédia. URL: https://fr.wikipedia.org/wiki/Golem

[65] Ibid.

[66] N. Wiener, God & Golem, inc. Sur quelques points de collision entre cybernétique et religion [1964], Éditions de l’Éclat, 2000, p.12.

[67] M. Faucheux, Norbert Wiener, le Golem et la cybernétique. Éléments de fantastique technologique, Éditions du Sandre, 2008, p.22. V. aussi : M. de Pracontal, L’Homme artificiel. Golems, robots, clones, cyborgs, Denoël, 2002, 217 p. ; T. Le Texier, « Norbert Wiener, mathématicien, écrivain et humaniste », Quaderni [En ligne], 92 | Hiver 2016-2017, mis en ligne le 5 mars 2017. URL : http://journals.openedition.org/quaderni/1046.

[68] N. Nevejans, ouvr. préc., p.23 et 782.

[69] Ibid., n°921, p.783. Voir aussi M. Faucheux, Norbert Wiener, le Golem et la cybernétique. Éléments de fantastique technologique, Éditions du Sandre, 2008, p.22 ; M. de Pracontal, L’Homme artificiel. Golems, robots, clones, cyborgs, Denoël, 2002. Cf. N. Wiener, La Cybernétique. Information et régulation dans le vivant et la machine [1948], Le Seuil, 2014 ; Cybernétique et société. L’usage humain des êtres humains [1950], Le Seuil, 2014.

[70] Le Frankenstein de Mary Shelley est préfiguré notamment par François-Félix Nogaret, Le Miroir des événements actuels ou la Belle au plus offrant, 1790 (URL : https://gallica.bnf.fr/ark:/12148/bpt6k854529k) dont l’un des protagonistes est un inventeur nommé Frankésteïn qui crée un « homme artificiel ».

[71] M. Shelley, Frankenstein, ou Le Prométhée moderne, 1818 (trad., Corréard, 1821). URL :

https://gallica.bnf.fr/ark:/12148/bpt6k1143204.

[72] Certains sites dénombrent 84 films : https://www.senscritique.com/liste/Frankenstein/187556.

[73] Selon Will Eisner, « Le golem […] est le précurseur de la mythologie du super-héros. Les juifs, persécutés depuis des siècles en Europe, avaient besoin d’un héros capable de les protéger des forces obscures. Siegel et Shuster, les créateurs de Superman, l’ont inventé » (« Superman, un héros juif », Le Monde, 24 octobre 2007). A propos de l’exposition « De Superman au Chat du rabbin, bande dessinée et mémoires juives », Musée d’art et d’histoire du judaïsme, 2007 ; Harry Brod, Superman is Jewish ? How Comic Book Superheroes Came to Serve Truth, Justice and the Jewish-American Way, New York, Simon and Schuster, 2016.

[74] N. Nevejans, ouv. préc., n°6, p.6. cf. « L’Eve future », wikipédia. URL : https://fr.wikipedia.org/wiki/L%27%C3%88ve_future.

[75] « Métropolis », wikipédia. URL : https://fr.wikipedia.org/wiki/Metropolis_(film,_1927).

[76] « Entretien avec Philippe Breton, anthropologue au CNRS. La robotique pour comprendre la vie », http://sagascience.cnrs.fr/dosrob/accueil/decouvrir/introduction/comprendre.html (cité par N. Nevejans, ouvr. préc., n°917, p.779).

[77] « L’armée française en appelle à la science-fiction pour anticiper les menaces du futur », Le Monde (Bigbrowser), 18 juillet 2019. URL : https://www.lemonde.fr/big-browser/article/2019/07/18/l-armee-francaise-en-appelle-a-la-science-fiction-pour-anticiper-les-menaces-du-futur_5490856_4832693.html.

[78] On l’apprend dans la suite de 2001 L’Odysée de l’espace publié par A-C. Clarke en 1982.

[79] « La Corée du Sud élabore une « charte éthique des robots » », Le Monde avec AFP, 7 mars 2017. URL : https://www.lemonde.fr/international/article/2007/03/07/la-coree-du-sud-elabore-une-charte-ethique-des-robots_880397_3210.html.

[80] N. Nevejans, Traité…, op. cit., n°918, p.779.

[81] Intelligent robots development and distribution promotion act, 2008 – 2016 cf. http://elaw.klri.re.kr/eng_mobile/viewer.do?hseq=39153&type=lawname&key=robot.

[82] N. Nevejans, Traité…, op. cit., n°918, p.780.

[83] Le point L de la proposition de résolution préconisait que « jusqu’à ce que les robots deviennent conscients de leur propre existence, ou soient fabriqués ainsi à dessein, si tant est que cela advienne un jour, il y a lieu de considérer les lois d’Asimov comme s’appliquant aux concepteurs, aux fabricants et aux utilisateurs de robots, étant donné que lesdites lois ne peuvent être traduites en langage de programmation » (N. Nevejans, Règles européennes de droit civil en robotique, Parlement européen, Direction général des politiques internes, Etude pour la Commission, JURI, PE 571.379 FR, 2016, p. 14. URL :  http://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU%282016%29571379_FR.pdf).

[84] N. Nevejans rejette la validité des « lois de la robotique » d’Asimov car elles ne seraient, à son sens, que des idées « romanesques » inventée par l’auteur américain afin de mener « une bonne intrigue » (cf. not. Traité…, préc., p.780 ou son entretien préc. dans Matières à penser sur France culture).

[85] N. Nevejans, Règles européennes…, rapp. préc., p. 9. Dans ce rapport, elle estime également qu’Asimov a conçu « ces Lois comme un outil littéraire à connotation juridique afin de nourrir la trame de son oeuvre en justifiant la maîtrise des robots par l’homme » (ibid., p.14).

[86] Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)). URL : http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_FR.html.

[87] V. en ce sens également la série britannique « Black Mirror », wikipédia. URL : https://fr.wikipedia.org/wiki/Black_Mirror_(s%C3%A9rie_t%C3%A9l%C3%A9vis%C3%A9e) ou encore le dernier roman de SF d’Alain Damasio, Les furtifs, La Volte, 2019, 689 p. ; « «A la ZAD et à Tarnac, j’ai fait l’éponge» : rencontre avec Alain Damasio »», Libération, 12 avril 2019. URL : https://next.liberation.fr/livres/2019/04/12/a-la-zad-et-a-tarnac-j-ai-fait-l-eponge-rencontre-avec-alain-damasio_1720985 ; Marcel, « Les Furtifs d’Alain Damasio : un grand roman qui pousse à l’action », Usbek & Rica, 22 mai 2019. URL : https://usbeketrica.com/article/damasio-science-fiction-imaginaires.

[88] « Le MIT crée un logiciel pour apprendre aux robots à fabriquer d’autres robots », Siècle digital, 4 juillet 2019. URL : https://siecledigital.fr/2019/07/04/mit-logiciel-apprendre-robots-fabriquer-robots. Dans les romans ou films de SF on trouve fréquemment l’idée de robots créant des robots plus évolués ou performants comme, par exemple, dans Terminator.

[89] B. Joy, « Why the future doesn’t need us », in F. Allhoff et ali. (dir.), Nanoethics. The Ethical and Social Implications of Nanotechnology, éd. Wiley-Blackwell, 2007, p. 32 cité par N. Nevejans, Règles européennes…, rapp. préc., p. 9.

[90] M. Sainato, « Stephen Hawking, Elon Musk, and Bill Gates Warn About Artificial Intelligence », Observer on line, 19 août 2015, https://observer.com/2015/08/stephen-hawking-elon-musk-and-bill-gates-warn-about-artificial-intelligence ; « S. Hawking : « L’intelligence artificielle pourrait mettre fin à l’humanité » », Le Monde avec AFP, 03 décembre 2014., URL : https://www.lemonde.fr/pixels/article/2014/12/03/hawking-l-intelligence-artificielle-pourrait-mettre-fin-a-l-humanite_4533135_4408996.html ; « Bill Gates est « préoccupé par la superintelligence » artificielle », Le Monde, 29 janvier 2015. URL : https://www.lemonde.fr/pixels/article/2015/01/29/bill-gates-est-preoccupe-par-la-super-intelligence-artificielle_4566394_4408996.html.

[91] “Autonomous Weapons: an Open Letter from AI & Robotics Researchers”, Future of life institute. URL : https://futureoflife.org/open-letter-autonomous-weapons/ ; “Nobel peace laureates call for preemptive ban on “killer robots””, May 12, 2014. URL: https://nobelwomensinitiative.org/nobel-peace-laureates-call-for-preemptive-ban-on-killer-robots/?ref=204. En 2018, Google s’est engagé, dans ses principes éthiques, à ne développer l’intelligence artificielle qui pourrait autonomiser de telles armes : « AI at Google: our principles », Jun 7, 2018. URL : https://www.blog.google/technology/ai/ai-principles.

[92] N. Nevejans, « La légalité des robots de guerre dans les conflits internationaux », D. 2016.1273.

[93] Il s’agit de modifier la Convention sur certaines armes conventionnelles (CCW). Cf. Human Rights watch, « ONU : Reconnaissance des dangers posés par les « robots tueurs » », communiqué, 16 mai 2014. URL : https://www.hrw.org/fr/news/2014/05/16/onu-reconnaissance-des-dangers-poses-par-les-robots-tueurs ; “The Lack of Accountability for Killer Robots Mind the Gap”, April 9, 2015 ; URL : https://www.hrw.org/report/2015/04/09/mind-gap/lack-accountability-killer-robots ;  « « Robots tueurs » : La Russie et les États-Unis s’opposent à la négociation d’un traité », communiqué, 19 août 2019. URL : https://www.hrw.org/fr/news/2019/08/19/robots-tueurs-la-russie-et-les-etats-unis-sopposent-la-negociation-dun-traite. Danet, « Hawking ou Montesquieu – À qui se fier pour encadrer les systèmes d’armes létaux autonomes ? », Revue de la Gendarmerie Nationale, 2017/257, n°hors-série : Le droit des robots, pp.37-44. URL : https://www.gendarmerie.interieur.gouv.fr/crgn/Publications/Revue-de-la-gendarmerie-nationale/Revue-N-257-Supplement-thematique.

[94] Sur les drones cf. J.-B. Jeangène Vilmer, C. Fontaine, « Drones armés, drones de combat et « robots tueurs » », The Conversation, 29 avril 2016. URL : https://theconversation.com/drones-armes-drones-de-combat-et-robots-tueurs-58365 ; L. Fabre, C. Touzet, « Drones autonomes : peut-on embarquer la prise de décision ? », The Conversation, 20 avril 2016. URL : https://theconversation.com/drones-autonomes-peut-on-embarquer-la-prise-de-decision-2-57758 ; L. Fabre, Y. Auffret « Drones de combat et éthique de la guerre : le débat est politique », The Conversation, 19 avril 2016. URL : https://theconversation.com/drones-de-combat-et-ethique-de-la-guerre-le-debat-est-politique-1-57759.

[94] « Fusillade de Dallas : le suspect tué avec un « robot-bombe », une première aux Etats-Unis », Le Monde.fr avec AFP, 09 juillet 2016. URL : https://www.lemonde.fr/ameriques/article/2016/07/09/des-policiers-tuent-un-suspect-avec-un-robot-bombe-une-premiere-aux-etats-unis_4966946_3222.html.

[95] Comme pour les drones, ces robots létaux sont, pour le moment, télécommandés. Mais techniquement ils pourraient ne pas l’être. Cf. not. G. De Boisboissel, « Quelle autonomie décisionnelle pour les systèmes robotiques militaires du futur ? », Rev. Gendarmerie nationale, préc., pp.139-148.

[96] « Fusillade de Dallas : le suspect tué avec un « robot-bombe », une première aux Etats-Unis », Le Monde.fr avec AFP, 09 juillet 2016. URL : https://www.lemonde.fr/ameriques/article/2016/07/09/des-policiers-tuent-un-suspect-avec-un-robot-bombe-une-premiere-aux-etats-unis_4966946_3222.html.

[97] D. Larousserie, « Le dilemme macabre des voitures autonomes », Le Monde, 23 juin 2016. URL : https://www.lemonde.fr/sciences/article/2016/06/23/tuer-un-pieton-ou-sacrifier-le-passager-le-dilemme-macabre-des-voitures-autonomes_4956924_1650684.html. ; « Etats-Unis : un véhicule autonome d’Uber provoque la mort d’une piétonne », Le Monde avec AFP, 19 mars 2018 ; URL : https://www.lemonde.fr/economie/article/2018/03/19/etats-unis-une-pietonne-meurt-renversee-par-un-vehicule-autonome-d-uber_5273326_3234.html. ; « La voiture autonome lève le pied », Le Monde, 16 avril 2019. URL : https://www.lemonde.fr/m-styles/article/2019/04/16/la-voiture-autonome-leve-le-pied_5450627_4497319.html ; J. Journaux, « Voiture autonome : « On ne doit jamais laisser l’algorithme décider en dernier ressort » (tribune), Le Monde, 10 octobre 2018. URL : https://www.lemonde.fr/idees/article/2018/10/10/voiture-autonome-on-ne-doit-jamais-laisser-l-algorithme-decider-en-dernier-ressort_5367644_3232.html ; J.-P. Lagarde, « Voiture autonome, le défi de la sécurité », Le Monde, 10 avril 2018. URL : https://www.lemonde.fr/flottes-d-entreprise/article/2018/04/10/voiture-autonome-le-defi-de-la-securite_5283556_1779527.html. Voir aussi, à propos des « robots-gendarmes » : D. Gazagne, « Voiture autonome : quel droit pour les forces de l’ordre ? », Revue de la Gendarmerie Nationale, 2017/257, pp.53-74.

[98] Sur l’expérience “Moral Machine” : « Voitures autonomes et choix moraux : qu’en pensent les internautes », CNRS, 24 octobre 2018. http://www2.cnrs.fr/presse/communique/5724.htm ; E. Awad, S. Dsouza, R. Kim, J. Schulz, J. Henrich, A. Shariff, J.-F. Bonnefon, I. Rahwan, “The Moral Machine Experiment”, Nature, 2018. URL : http://dx.doi.org/10.1038/s41586-018-0637-6.  ; « Les voitures autonomes doivent-elles tuer un vieillard pour sauver un enfant ? », Le Monde, 26 octobre 2018. URL : https://www.lemonde.fr/sciences/video/2018/10/26/les-voitures-autonomes-doivent-elles-tuer-un-vieillard-pour-sauver-un-enfant_5374816_1650684.html. ; A. Sandberg et al., « La voiture autonome et ses implications morales », Multitudes 2015/1 (n° 58), pp. 62-68. URL : http://www.cairn.info/revue-multitudes-2015-1-page-62.htm.

[99] B. Solinski, « Intelligence artificielle : Tay, jeu d’humains, jeu de vilains » », The Conversation, 10 avril 2016. URL : https://theconversation.com/un-an-apres-intelligence-artificielle-tay-jeu-dhumains-jeu-de-vilains-57532.

[100] On pense notamment aux polémiques récurrentes sur les robots aspirateurs, comme Roomba, fabriqué par IRobot ( !) qui, dotés d’une connexion wifi, transmettent des données personnelles au fabricant avec des associations possibles avec les enceintes connectées Amazon Alexa, Google Home, Echo et HomePod (« Roomba : Le robot-aspirateur mignon se transforme en espion », Usbek & Rica, 26 juillet 2017. URL : https://usbeketrica.com/article/roomba-le-robot-aspirateur-mignon-se-transforme-en-espion), qui sont elles-mêmes régulièrement accusées de transmettre des données personnelles, y compris lorsque le micro est censé être coupé, écoutés par de vrais humains afin d’assister l’IA dans ses râtés (« Avec des enceintes connectées, des conversations loin d’être privées », Le Monde, 12 avril 2019. URL : https://www.lemonde.fr/pixels/article/2019/04/12/enceintes-connectees-des-employes-d-amazon-ecoutent-les-questions-que-vous-posez-a-alexa_5449502_4408996.html ; « Une enceinte connectée d’Amazon envoie une conversation privée par erreur », Le Monde, 25 mai 2018. URL : https://www.lemonde.fr/pixels/article/2018/05/25/une-enceinte-connectee-d-amazon-envoie-une-conversation-privee-par-erreur_5304453_4408996.html). Sur le phénomène d’exploitation d’êtres humains derrière les prétendues intelligences artificielles : Antonio A. Casilli, En attendant les robots. Enquête sur le travail du clic, Le Seuil, coll. « couleur des idées », 2019, 400 p. ; « Ils font des tâches en quelques clics et pour quelques euros… qui sont ces microtravailleurs « invisibles » ? », Le Monde, 24 mai 2019. URL : https://www.lemonde.fr/pixels/article/2019/05/24/jobs-du-clic-qui-sont-ces-micro-travailleurs-invisibles_5466803_4408996.html.

[101] C. Auffray, « Pirater un pacemaker, ce n’est pas juste de la fiction », ZDnet, 30 mai 2017. URL : https://www.zdnet.fr/actualites/pirater-un-pacemaker-ce-n-est-pas-juste-de-la-fiction-39853030.htm. ; « 750 000 défibrillateurs connectés pourraient se faire pirater aux États-Unis », Siècle digital, 22 mars 2019. URL : https://siecledigital.fr/2019/03/22/750-000-defibrillateurs-connectes-pourraient-se-faire-pirater-aux-etats-unis. ; « Dick Cheney a désactivé son pacemaker pour échapper aux terroristes », 21 octobre 2013. URL : https://www.pourquoidocteur.fr/Articles/Question-d-actu/4029-Dick-Cheney-a-desactive-son-pacemaker-pour-echapper-aux-terroristes. C’est le scenario d’un des épisodes de la série américaine Homeland. URL : https://vimeo.com/63176830.

[102] « Les implants médicaux, futures cibles pour les pirates », Les Echos, 29 novembre 2016. URL : https://www.lesechos.fr/2016/11/les-implants-medicaux-futures-cibles-pour-les-pirates-233231.

[103] T. Berthier, O. Kempf, « Intelligence artificielle et conflictualité – Sur l’hypothèse de dérive malveillante d’une Intelligence Artificielle », Rev. Gendarmerie nationale, préc., pp.149-157.

[104] N. Nevejans, Règles européennes…, rapp. préc., p.12.

[105] Ibid., p.15.

[106] Ibid. V. aussi : N. Nevejans, « Le robot qui voulait devenir un homme… ou le statut juridique de l’androïde », in F.

Defferrard (dir.), Le droit saisi…, préc., p. 156 et s., n°s 33 et s.

[107] X. Bioy, « Vers un statut… », art. préc., p.98.

[108] C. Lévi-Strauss, Anthropologie structurale II, Plon, 1973, p. 383 cité par X. Bioy, art. préc., p.89, note 4.

[109] S. Butler, Erewhon ou De l’autre côté des montagnes, Gallimard, 1981, 322 p.

[110] G. Calogero, « L’homme, la machine, l’esclave », in Le robot, la bête et l’homme, Rencontres internationales de Genève, 1965, éd. de la Braconnière, Neufchâtel, coll. « Histoire et société d’aujourd’hui », 1965, pp.88-89. URL : http://classiques.uqac.ca/contemporains/RIG/RIG_1965/rig_1965.pdf (déniché par N. Nevejans, « Le robot qui voulait… », art. préc, p.156). A noter que pour ce philosophe, influencé par la pensée chrétienne, « l’« autre » est celui qui souffre, non celui qui raisonne. Plus exactement, l’autre est celui qui peut jouir ou souffrir […] ». Il estime aussi l’ « existence de l’autre » ne peut être démontrée par la logique ou l’ontologie mais uniquement parce que celui-ci « désire être compris de son point de vue » (ibid, pp.93-94).

[111] V. aussi : O. Sarre, « Droit des robots et hypermodernité. Compréhension philosophique de l’événement », Implications philosophiques, non daté. URL : http://www.implications-philosophiques.org/recherches/le-droit-des-robots/droits-des-robots-et-hypermodernite.

[112] X. Bioy, art. préc., p.88.

[113] Il n’est pas aisé, tant d’un point de vue philosophique que physiologique, de déterminer ce qui constitue la conscience et ce qui permet d’affirmer la conscience de soi. On sait qu’alors que des penseurs comme Descartes défendait l’idée de l’animal-machine, ensemble de rouages et pièces biologiques dépourvue de conscience ou d’âme, on considère aujourd’hui que certains animaux comme le chimpanzé réussissait le test du miroir. Or, d’ores et déjà, des robots réussissent ce test (“Robot learns to recognise itself in mirror”, BBC, 23 August 2012. URL : https://www.bbc.com/news/technology-19354994; R. Chatila, M. Khamassi, « La conscience d’une machine », Interstices, 20 mai 2016. URL : https://interstices.info/la-conscience-dune-machine ; V. Lucchese, « Un robot s’auto-modélise, modeste pas vers la conscience de soi », Usbek & Rica, 1^er février 2019. URL : https://usbeketrica.com/article/robot-auto-modelise-conscience-de-soi ; R. Kwiatkowski, H. Lipson, “Task-agnostic self-modeling machines”, Science Robotics, 30 Jan 201, Vol. 4, Issue 26. URL : https://robotics.sciencemag.org/content/4/26/eaau9354), sans qu’on puisse en conclure qu’ils aient réellement une conscience de soi (cf. N. Nevejans, « Le robot qui voulait devenir un homme… », art. préc., p.159)

[114] N. Nevejans, « Le robot qui voulait… », art. préc., p.163.

[115] J. Carbonnier, Droit civil, 1/ Les personnes, PUF, 21ème éd., 2000, p. 1.

[116] Cf. X. Dupré de Boulois, « Les droits fondamentaux des personnes morales – 1ère partie : pourquoi ? », RDLF 2011, chron. n°15. URL : https://i91h9azrmj.preview.infomaniak.website/droit-fondamentaux/les-droits-fondamentaux-des-personnes-morales-%E2%80%93-1ere-partie.

[117] N. Nevejans, « Le robot qui voulait… », op. cit., p.143.

[118] Ibid.

[119] Ibid. Cf. X. Bioy, « La dignité : questions de principe », in H. Pauliat, S. Gaboriau (dir.), Justice, éthique et dignité (actes de colloque à Limoges en 2004), PU de Limoges, 2006, p.51.

[120] J. Carbonnier, « Être ou ne pas être. Sur les traces du non-sujet de droit » in Flexible droit, pour une sociologie du droit sans rigueur, LGDJ, 9^ème éd., 1998, p. 199 cité par N. Nevejans, art. préc., p.147. V. aussi : J.-M. Trigeaud, « La personne humaine, sujet de droit », in La personne humaine, sujet de droit, IVèmes journées Poitiers 1993, PUF, 1994, p. 5.

[121] « Persona », wikipédia. URL : https://fr.wikipedia.org/wiki/Persona.

[122] J.-L. Aubert, Introduction au droit et thèmes fondamentaux du droit civil, Armand Colin, 7^ème éd., 1998, p. 189.

[123] Le doyen Gény estimait que « les concepts de sujet de droit, de droit subjectif, de personne morale, ne se rencontrent pas directement dans la nature des choses […] ; ces notions sont l’œuvre propre de l’esprit, constituent donc, en quelque mesure, un artifice humain, et doivent, par suite, être cantonnées au domaine de la technique » (F. Gény, Science et technique en droit privé positif : nouvelle contribution à la critique de la méthode juridique, Sirey, 1913, tome III, XX . 221. URL : https://archive.org/details/scienceettechniq01geny/page/n8).

[124] A. Bertrand-Mirkovic, La notion de personne. Étude visant à clarifier le statut juridique de l’enfant à naître, Thèse, PU d’Aix-Marseille, 2003 (Open Edition Books, 2015), n°517-518. URL : https://books.openedition.org/puam/1130?lang=fr.

[125] N. Nevejans, « Le robot qui voulait… », art. préc., p.163.

[126] R. A. Freitas Jr., “The legal rights of Robots”, Student Lawyer, 13 janv. 1985 54-56. URL:http://www.rfreitas.com/Astro/LegalRightsOfRobots.htm ; L. B. Solum, « Legal Personhood for Artificial Intelligence», North Carolina Law review, 70, 1992, 1231-1287. URL : https://scholarship.law.unc.edu/nclr/vol70/iss4/4. Voir aussi P.-J. Delage, « Les androïdes rêveront-ils de personnalité juridique ? » in P.-J. Delage, Science-fiction et science juridique, IRJS Éditions, coll. « Les voies du droit », 2013, pp. 165-184

[127] A. Bensoussan, « La personne robot », D. 2017. 2044.

[128]   A. Bensoussan, « Le droit naturel, fondement juridique de la personne-robot ? », Droit des technologies avancées (blog), 10 juillet 2018. URL : http://blog.lefigaro.fr/bensoussan/2018/07/le-droit-naturel-fondement-juridique-de-la-personne-robot.html.

[129] A. Bensoussan, « La personne robot », préc.

[130] Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)).

[131] Ibid.

[132] G. Loiseau, « La personnalité juridique des robots : une monstruosité juridique », art. préc.

[133] J.-R. Binet, « Personnalité juridique des robots : une voie à ne pas suivre », Droit de la famille n° 6, Juin 2017, repère 6.

[134] G. Loiseau, « La personnalité juridique des robots… », art. préc.

[135] M.-A. Frison-Roche, « La disparition de la distinction de jure entre la personne et les choses : gain fabuleux, gain catastrophique », D. 2017. 2386..

[136] Georges Ripert estimait que si les sociétés ont pris « une forme humaine, c’est seulement pour se prévaloir de l’égalité. En réalité, ces personnes morales ne sont pas des personnes, car elles n’ont ni corps susceptible de souffrance, ni âme éprise d’idéal. Ce sont des robots. Elles ont été créées sur le modèle des hommes. Il ne faut pas se laisser prendre à l’illusion de cette forme humaine » (G. Ripert, Aspects juridiques du capitalisme moderne, LGDJ, 2^ème éd., 1951, n°37, p.90 déniché par N. Nevejans, « Le robot qui voulait… », op. cit., p.153).

[137] F. Terré, D. Fenouillet, Droit civil, les personnes, la famille, les incapacités, Précis Dalloz, 6^ème éd., 1996, p. 7

[138] J.-L. Aubert, Introduction au droit et thèmes fondamentaux du droit civil, Armand Colin, 7^ème éd., 1998, p. 188.

[139] J-R. Binet, « Personnalité juridique des robots… », art. préc.

[140] G. Loiseau, « La personnalité juridique des robots… », art. préc.

[141] N. Nevejans, « Le robot qui voulait… », art. préc., p.163.

[142] Ibid.

[143] « Reportage au BorDoll de Dortmund, première maison close de poupées sexuelles », Usbek & Rica, 14 avril 2019. URL : https://usbeketrica.com/article/premiere-maison-close-poupees-sexuelles. Selon cet article, « L’avenir de la poupée ce n’est pas le robot, c’est le fantôme holographique ou le spectre mémoriel », comme dans BladeRunner 2049.

[144] E. Geffray, « Quelle protection des données personnelles dans l’univers de la robotique ? », Dalloz IP/IT 2016. 295

[145] J. Trichter, Love in the Age of Mechanical Reproduction, Thomas Dunne Books éd., 2015, 320 p.

[146] G. Marchant, « Les humains devraient avoir le droit d’épouser des robots », Slate, 2 septembre 2015. URL : http://www.slate.fr/story/106143/humains-droit-epouser-robots ; « Un Chinois s’est marié avec son robot humanoïde », Paris Match, 4 avril 2017. URL : https://www.parismatch.com/Actu/Insolite/Un-Chinois-s-est-marie-avec-son-robot-humanoide-1225544.

[147] Ainsi dans Blade Runner les Nexus 6 sont interdits de séjour sur Terre suite à leur révolte dans une colonie martienne et peuvent donc être « retirés » par un Blade runner s’ils sont identifiés formellement sur Terre.