Allez savoir pourquoi, les robots redeviennent à la mode, ces derniers temps. Certes, l’intelligence artificielle fait de grands progrès, mais, la plupart des professionnels l’admettent eux-mêmes, la technologie robotique, notamment dans le domaine des robots domestiques, n’en est qu’à ses prémices.
Pourtant, depuis à peu près deux ans, les événements, les articles et les réflexions se multiplient autour des robots. Chacun y va de ses perspectives, de ses espoirs ou de ses peurs. Dans l’édition des Echos du 6 septembre 2016, Bruno Bonnell, associé fondateur de Robolution Capital et président de Robopolis, souhaite à ses lecteurs la bienvenue dans la robomanité et appelle à l’élargissement du débat sur l’intelligence artificielle. Sa rubrique côtoie un article du journaliste Benoit Georges, lequel, dans son compte-rendu de l’étude « Artificial Intelligence and Life in 2030 » réalisée par l’université Stanford, souligne également l’urgence de sensibiliser le grand public et les gouvernants aux enjeux de cette technologie.
Plus utopiste, mais un peu moins cohérent, l’entrepreneur Elon Musk a fondé l’association à but non lucratif Open AI, dont l’objet est la création d’une intelligence artificielle alternative, accessible à tous en mode « open-source ». Mais il est également le créateur de l’entreprise Neuralink, qui poursuit l’objectif de développer de la technologie pouvant être intégrée au corps humains, dont le cerveau, pour lutter contre danger à venir de l’intelligence artificielle.
Les études juridiques sur les robots
Le droit avait, bien évidemment, son mot à dire.
C’est chose faite depuis 2012, avec le « Livre vert sur des aspects juridiques de la robotique » de l’action de coordination euRobotics, financée par le septième programme cadre de l’Union européenne, et la publication de l’étude du consortium ROBOLAW («Regulating emerging robotic technologies in Europe: Robotics facing law and ethics»), rédigée sous la direction du professeur Erica Palmerini de la Scuola Superiore Sant’Anna.
Dans son livre vert, euRobotics soutient que le principe du droit d’auteur, conditionnant la protection d’une œuvre à la personnalité de son auteur et ses choix subjectifs, est inadapté aux technologies robotiques. Pour remédier à cette inadaptation, euRobotics retient l’idée de conférer une personnalité juridique propre aux robots, afin d’édicter des règles adaptées de dévolution des droits.
Quant au consortium ROBOLAW, son objectif était de déterminer les implications légales et éthiques des technologies robotiques et de préconiser les adaptations nécessaires aux cadres juridiques existant.
Ce projet a donné lieu, en mai 2014, à la publication d’un rapport relatif à la manière dont les technologies robotiques affectent le droit européen, avec une attention particulière portée sur la productique, la technologie d’assistance et la robotique biomédicale.
La résolution du Parlement Européen
Plus récemment, un rapport présenté par l’eurodéputée Mady Delvaux (S&D, LU) a été adopté par la commission des affaires juridiques du Parlement Européen, pour demander la création d’un cadre juridique européen sur les robots, en raison de leur importance croissante dans la vie quotidienne. Pour les besoins de ce rapport, les robots étaient définis comme toutes machine physique équipées de capteurs et interconnectées à leur environnement dans le but d’échanger et d’analyser des données.
A la suite du rapport Delvaux le Parlement européen a adopté, en séance plénière du 16 février 2017, une résolution demandant à la Commission européenne de présenter une proposition de directive sur des règles de droit civil sur la robotique, plus particulièrement :
- La création d’un système européen général d’immatriculation des robots avancés ;
- La mise en œuvre de mesures de soutien aux petites et moyennes entreprises dans le secteur de la robotique ;
- La création d’une agence européenne pour la robotique et l’intelligence artificielle, afin de fournir aux autorités publiques une expertise technique, éthique et réglementaire ;
- La mise en œuvre d’une charte établissant un code de conduite pour les ingénieurs en robotique, une déontologie pour les comités d’éthique de la recherche lorsqu’ils examinent les protocoles de robotique, et des licences-types pour les concepteurs et les utilisateurs ;
- Des règles de droit civil en matière de robotique qui soient conformes au règlement général sur la protection des données personnelles ;
- Une adaptation de la responsabilité du fait des choses, pour tenir compte des moyens de transport autonomes, notamment la création d’un système d’assurance obligatoire et d’un fonds de garantie du dédommagement des victimes d’accidents causés par des voitures sans conducteur ;
- A terme, la création d’une personnalité juridique spécifique aux robots, pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des « personnes électroniques responsables ».
La Commission n’est pas contrainte de présenter une proposition législative, mais, en cas de refus, doit exposer ses raisons.
C’est dire si la coexistence des êtres humains et des robots ne fait pas fantasmer que les littérateurs. Cette question n’est pourtant pas nouvelle.
De la mythologie aux années 50
Jugez un peu : dès l’antiquité grecque, Pygmalion tombe amoureux de la statue de femme qu’il a sculptée et demande à la déesse Aphrodite de lui insuffler la vie. Dans la mythologie juive, notamment le Talmud et le Sefer Yetzirah, un kabbaliste confectionne un golem et en fait un esclave doué de mouvements, en inscrivant le mot EMET(H) (« vie »), avant de le tuer, lorsqu’il devient trop grand et incontrôlable. Pour cela, il efface la première lettre, EMET(H) devenant MET(H) (« mort »).
Le fantasme de la créature créée par l’homme se retrouve dans la littérature européenne du XIXème siècle, aussi bien en Allemagne, avec Ernst Theodor Amadeus Hoffmann (L’Homme au sable, 1818), qu’au Royaume Uni avec Mary Shelley (Frankenstein ou le Prométhée moderne, 1818), ou en Italie avec Carlo Collodi (Pinocchio, 1881).
On ne parle pas encore de robot, mais de statue, d’automate, de pantin ou de créature. Pourtant les thèmes sont identiques à ceux des mythes de Pygmalion et du golem : la créature est soit objet de désir (Pygmalion et Galathée, Nathanaël et Olimpia), soit échappe au contrôle de son créateur (le golem, Frankenstein), soit apprend à devenir autonome (encore Frankenstein, Pinocchio).
Le mot « robot » apparaît pour la première fois en 1920, avec la pièce de théâtre de l’écrivain tchèque Karel Capek R. U. R (Rossum’s Universal Robots), sur des machines androïdes à apparence humaine qui travaillent dans une usine et se rebellent contre l’humanité. Ce terme, qui signifie esclave ou travailleur dévoué dans la pièce, dérive du terme tchèque « robota » (corvée). Nous revenons à l’histoire du golem.
Le terme « robot » est repris, de manière plus optimiste, par l’écrivain américain d’origine russe, Isaac Azimov, dans le recueil de nouvelles Les Robots (1950). A cette occasion, l’écrivain propose les trois lois de la robotique qui doivent forcer les robots à agir pour le bien des humains :
- Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger.
- Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
- Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.
A ces trois lois, s’ajoute une loi zéro, prioritaire sur les trois autres : un robot ne peut pas faire de mal à l'humanité, ni, par son inaction, permettre que l'humanité soit blessée.
Vous remarquerez que le Parlement européen, dans sa résolution du 16 février 2017, reprend les lois d’Azimov pour inciter la Commission à légiférer : « considérant qu’il y a lieu de considérer les lois d’Asimov comme s’appliquant aux concepteurs, aux fabricants et aux opérateurs de robots, y compris de robots dotés d’autonomie et de capacités d’auto-apprentissage, étant donné que lesdites lois ne peuvent être traduites en langage de programmation ».
Le Parlement Européen, comme les autres institutions et groupes de réflexion qui se sont penchés sur la question des robots, sont donc habités par les mêmes préoccupations que nos ancêtres, à savoir :
- L’autonomie croissante d’une créature faite de mains d’homme et fabriquée initialement pour servir l’humanité ;
- Les sentiments des êtres humains envers leurs créatures ;
- Le statut de ces créatures entre sujets et objets.
Plus généralement, les questions soulevées sur la place des robots dans une société humaine ressemblent à une réminiscence de la peur de cohabiter avec un autre, quelqu’un qui nous ressemble mais qui n’est pas nous, ainsi que du danger pour l’homme de se prendre pour Dieu et de fabriquer une créature « à son image ».
Aussi étrange que cela puisse paraître, ce sont ces mêmes thématiques, ces mêmes peurs, ces mêmes fantasmes, appelez-le comme vous voulez, que nous retrouvons aujourd’hui dans les réflexions en cours, notamment juridiques.
Ce nouvel anthropomorphisme, alors même que les robots n’ont pas forcément forme humaine, est ainsi illustré par deux questions dont la doctrine juridique s’est récemment emparée : la possibilité de tomber amoureux d’un robot et de lui reconnaître des droits de propriété.
Le robot amoureux
La première question trouve son application dans le témoignage d’une demoiselle, dont le pseudonyme est Lillyin Moovator, qui atteste de son amour pour un robot humanoïde, baptisé « inMoovator », qu’elle aurait fabriqué à partir d’une imprimante 3D et de fichiers open-source.
En d’autres termes, rien n’a changé. Pygmalion est toujours amoureux de Galathée et Nathanaël d’Olimpia.
Cette anecdote a donné lieu à un article du professeur Xavier Labbée (Gaz Pal 7 mar. 17 n° 10). L’auteur conteste bien évidemment à Mademoiselle Lillyin Moovator le droit de se marier avec sa créature. Il rappelle qu’un robot n’est pas un « autre », ni un « semblable », mais une chose, un bien de propriété. Des relations sexuelles avec un robot ne constitueraient donc pas un acte d’amour, mais un acte narcissique au moyen d’un gadget sexuel.
L’auteur rappelle également qu’en l’état du droit positif, un robot n’est pas titulaire de droits subjectifs, car il n’est pas sujet, mais objet. Les relations entre inMoovator et sa créatrice seraient donc soumises au droit des biens et échapperaient au droit des personnes et de la famille.
L’article n’en conclue pas moins sur la perspective d’un monde « post-humaniste » où les robots seraient personnifiés et auraient qualité de sujets de droit.
C’est ce monde « post-humaniste » ou « humanoïde » que semble également appeler de ses vœux une partie de la doctrine, et on en vient à la deuxième question.
Le robot propriétaire
Jacques Larrieu, dans son étude « La propriété intellectuelle et les robots » (in Journal international de bioéthique, 2013, vol. 24, n°4, p. 17), aborde la problématique de l’adaptation du droit, notamment de la propriété intellectuelle, aux évolutions technologiques.
Dans la perspective d’un robot objet de droit, aucun problème. Des brevets peuvent être déposés sur les technologies et procédés en lien avec la robotique, s’ils sont nouveaux, s’ils procèdent d’une activité inventive et si une application industrielle est possible. L’aspect extérieur d’un robot peut être protégé par le droit d’auteur, s’il est original, ou par un dessin ou modèle, s’il est nouveau et a un caractère propre. La base des données mémorisées par le robot pourrait être protégée par le droit sui generis du producteur de base de données, sous réserve que son titulaire ait engagé un investissement substantiel pour sa constitution et sa mise à jour.
Mais Jacques Larrieu ne s’en tient pas là. Il soulève également la question de l’accession des objets créés par un robot à la protection par des droits de propriété intellectuelle. Les robots devenant de plus en plus autonomes, conséquence des progrès de l’intelligence artificielle, il serait permis de se demander si leurs créations et leurs inventions seraient protégeables et, dans l’affirmative, qui en détiendrait les droits.
Marie Soulez, directrice du département Propriété Intellectuelle Contentieux au cabinet Alain Bensoussan Avocats, s’attaque à cette même problématique dans son article « Le droit de la propriété intellectuelle à l’épreuve des technologies robotiques » (in La Semaine juridique, ed. gén.n° 37 du 12 sept. 2016). Elle envisage la protection des œuvres de l’esprit créées par un robot et la création de droits propres pour assurer cette protection.
Selon l’auteur, le droit positif actuel ne permet pas la protection des créations d’un robot. Dans la mesure où ces créations sont rendues possibles grâce à la capacité du robot à prendre des décisions de manière libre, du fait de son autonomie et de sa capacité d’apprentissage, l’homme à l’origine de la création du robot n’en serait pas l’auteur, mais, au mieux, un assistant qui fournirait les éléments nécessaires à la mise en œuvre de l’activité créatrice du robot.
Ainsi, à défaut d’intervention humaine dans le processus de création des œuvres du robot, celles-ci ne pourraient pas être protégées par des droits de propriété intellectuelle, du moins en l’état.
Marie Soulez en conclut qu’il appartient au législateur de prendre une décision pour, au choix, créer des règles propres à la protection des créations réalisées par les technologies robotiques ou accepter une déperdition de leur valeur, en l’absence de toute protection.
Comme le rappellent Marie Soulez et Jacques Larrieu, le droit positif, à tout le moins le droit français, ne permet pas, en l’état, de reconnaître des droits de propriété intellectuelle à un robot. Ainsi, si on considère le seul droit d’auteur, une œuvre de l’esprit n’est protégeable que si elle est originale, c'est-à-dire si elle porte l’empreinte de la personnalité de l’auteur. Aussi la jurisprudence ne reconnaît-elle la qualité d’auteur qu’à une personne physique (ex : Cass. 1ère Civ., 15 janv. 2015, n° 13-23.566 : JurisData n° 2015-000315).
La question n’en est pas moins sérieuse. En outre, elle n’est pas réservée à la doctrine.
Une personnalité conférée aux robots
L’idée d’une personnalité juridique attribuée aux robots fait en effet son chemin, puisque, on l’a vu, le Parlement européen a demandé à la Commission de réfléchir, à terme, à une personnalité juridique spécifique à certains types de robots, qui seraient des « personnes électroniques responsables ».
On a également vu qu’euRobotics a retenu l’hypothèse de règles de dévolution des droits d’auteur adaptées aux robots, en leur conférant une personnalité juridique spécifique.
Sans aller aussi loin, Robolaw évoque, dans son étude, la question des robots eux-mêmes capables de produire des œuvres protégeable par le droit d’auteur. Il admet que les problématiques relatives à la définition d’une œuvre créée par ordinateur, l’identité de son ou ses ayant(s) droit, ainsi que les critères selon lesquels une telle œuvre pourrait être qualifiée de « création intellectuelle propre », nécessitent une clarification dans la recherche et la pratique juridique.
A cet égard, le consortium mentionne la législation du Royaume Uni, qui a pris position en faveur des œuvres générée par ordinateur ou par un robot. Il reconnaît toutefois qu’il existe un débat sur l’application concrète de cette législation.
Au demeurant, l’idée que la personnalité juridique puisse être conférée à d’autres qu’aux seuls êtres humains n’est pas nouvelle.
Même si l’on n’a jamais dîné avec une personne morale, il lui est reconnu une personnalité juridique qui lui donne le droit d’avoir un patrimoine et d’ester en justice.
La réglementation a par ailleurs évolué sur le statut des animaux. Longtemps relégués au rang de seuls biens meubles, au sens de l’article 528 du Code civil, ils sont, depuis la loi du 16 février 2015, définis par le nouvel article 515-14 du même Code comme « des êtres vivants doués de sensibilité ». Ainsi, mêmes s’ils sont toujours soumis au régime des biens, ils bénéficient d’une valeur intrinsèque, qui n’est plus limitée à leur seule valeur marchande et patrimoniale.
Le problème, néanmoins, est que la reconnaissance d’une protection des créations intellectuelles des robots nécessite bien plus qu’une adaptation du droit positif. Il faudrait accepter de remettre en question la summa divisio entre personnes et choses, laquelle existe depuis le droit romain.
Si, pour simplifier, nous n’envisageons que la perspective d’œuvres de l’esprit créées par un robot, leur protection devrait comporter un aspect patrimonial, supposant une autorisation préalable et, le cas échéant, une rémunération en contrepartie de son exploitation, et un aspect moral, supposant le respect de l’intégrité de l’œuvre et de son auteur.
Cela implique que le robot puisse, au minimum, avoir un patrimoine et être digne de respect. Et c’est bien là que le bat blesse, car ces droits de la personnalité sont acquis à la personne dès qu’elle est conçue, en application de l’adage infans conceptus, sous la condition suspensive qu’elle naisse vivante et viable.
Malgré la coexistence de plusieurs courants de doctrine coexistent (personnalité conditionnelle, personnalité actuelle, thèse de la réalité), il est communément admis que le concept de l’infans conceptus implique qu’une personne acquiert des droits non pas dès sa naissance, mais dès sa conception.
Même si aucun auteur n’envisage de coller aux robots les droits d’auteur, tels qu’applicables aux êtres humains, mais envisagent plutôt un système de protection juridique adapté, il faudra bien se poser la question de la naissance des droits du robot.
Retiendrait-on un adage automatum conceptus, avec une condition suspensive qu’il soit vivant, ou plutôt opérationnel, et viable ? Dans l’affirmative, à quel stade de son développement reconnaîtrait-on que le robot est conçu ? Quand serait-il considéré opérationnel et viable ?
Ensuite, qui aurait autorité à considérer qu’un robot est conçu, puis opérationnel et viable et selon quels critères, quel mode de vérification ? Quelle serait la procédure pour contester la décision de cette autorité ?
Bref, un joli micmac en perspective.
Le problème du robot sujet de droit se pose aussi avec l’histoire d’amour entre Mademoiselle Lillyin Moovator et son robot.
Aux termes de l’article 146 du Code civil : « Il n'y a pas de mariage lorsqu'il n'y a point de consentement ». Le consentement libre et éclairé est également une condition de la validité du PACS, puisqu’il a la nature d’un contrat.
A supposer que Mademoiselle Lillyin Moovator soit réellement et sincèrement amoureuse d’inMoovator, qui pourrait attester des sentiments de ce dernier sans craindre de se tromper ?
Le robot agent technique et le robot « sous-humain »
A ces considérations purement juridiques, s’ajoutent deux autres problèmes.
D’abord un problème d’opportunité. A supposer qu’il existe un jour des robots suffisamment intelligents et autonome pour créer des œuvres de l’esprit protégeables par les droits d’auteur, il n’est pas dit que cette intelligence et cette autonomie leur seraient inhérentes.
Redonnons la parole à Elon Musk : « La question de l’intelligence artificielle c’est qu’il ne s’agit pas d’un robot, mais d’un algorithme informatique présent sur un réseau. Par conséquent, le robot serait seulement un agent : un ensemble de capteurs et d’activateurs. » (Elon Musk billion dollar crusade to stop ai space x, article paru dans le magazine Vanity Fair, mars 2017)
Cette opinion est bien entendu sujette à discussion et n’appartient qu’à son auteur. Toutefois, s’il s’avère que le robot ne fait que capter et activer une intelligence sans la posséder, en faire un sujet de droit n’aurait aucun sens.
Ensuite, quel serait le statut des robots dans la société humaine ?
La création d’une personnalité juridique propre aux robots, qu’on les appelle « personnes électroniques responsables » ou autrement, supposerait la coexistence de deux catégories de personnes aux droits et obligations distinctes, des humains et des « sous-humains ».
Nous sommes bien évidemment dans la pure conjecture, mais il est frappant de constater que certains professionnels de la robotique présentent les robots domestiques comme les esclaves de demain.
Le robot serait ainsi défini comme une personne en servitude et sous la puissance absolue d’un maître, ce qui correspond à la définition que Guyot donnait de l’esclave. Il est quand même permis d’y voir un sacré problème moral.
Si un philosophe veut s’emparer de la question, qu’il se fasse plaisir.
