Imaginez que Lerato et son partenaire, Mthombeni, soient légalement mariés depuis plus de sept ans. Cependant, Mthombeni se met en colère contre Lerato à l'occasion de leur septième anniversaire de mariage après avoir découvert qu'elle a eu une liaison avec un collègue.
Cette possible liaison se reflète dans les changements dans les habitudes que Mthombeni a remarquées dans la routine quotidienne de Lerato, comme les appels nocturnes et le travail tard. Dans un accès de vengeance, il incite Lerato à boire ce qu'elle croit être du jus d'orange, mais il est mélangé à du poison. Elle meurt en quelques minutes.
En vertu du droit pénal sud-africain, le procureur demanderait si Mthombeni avait l'intention de tuer Lerato et si sa tromperie en était la cause. Les questions déterminent si l'affaire constitue un meurtre ou un homicide coupable. Le rebondissement ? Dans cette expérience de pensée, Mthombeni n’est pas humain ; c'est un robot social piloté par l'IA.
L’article ne vise pas à prouver si Mthombeni possède les capacités des personnes physiques, telles que « l’intentionnalité » ou les « émotions », car il s’agit d’une question philosophique et l’argumentation pourrait échouer avant de commencer. Notre point de départ est plutôt l'hypothèse selon laquelle les « actions » de Mthombeni sont dues à l'infidélité. Plus important encore, un préjudice a été causé à une personne physique et l’auteur est un conjoint robot. Et maintenant ? Qui ou quoi faut-il blâmer ?
Le droit pénal sud-africain énonce les ingrédients familiers du meurtre : un acte ou une omission illégal liant la conduite du sujet A à la mort du sujet B. Pour prouver le lien de causalité, la raison masculiney compris dol éventuelpourrait être nécessaire. Le concept, tiré du droit civil et du droit romano-néerlandais, cherche à déterminer s'il y avait une intention de tuer ou au moins de causer des lésions corporelles graves, la prévision de la mort étant basée sur l'état d'esprit subjectif du sujet A. L'homicide coupable, en revanche, nécessite une causalité négligente plutôt qu'une intention.
dans S contre Bernardus et la tradition de common law, les distinctions sont articulées. Si Mthombeni était humain et avait délibérément trompé Lerato en lui faisant boire du poison, les éléments de dol éventuel et le lien de causalité serait probablement satisfait et une accusation de meurtre justifiée. Ici, l’architecture juridique présuppose une personne physique comme auteur.
Le droit pénal sud-africain ne reconnaît pas les robots ou les agents logiciels comme sujets juridiques. Lorsqu’une machine cause un préjudice, la responsabilité cible généralement les humains qui l’entourent – programmeurs, opérateurs, propriétaires ou fabricants – à travers des doctrines : perpétration directe d’un humain agissant sur le robot, responsabilité des complices si un humain l’aide ou, à défaut de preuve d’intention, homicide coupable ou infractions réglementaires fondées sur la négligence ou les violations de la sécurité des produits.
En pratique, les procureurs devraient démontrer qu’un acteur humain possédait les qualités requises dol éventuel et que leur conduite a provoqué la mort de Lerato. Si aucune intention humaine ne peut être établie – par exemple, si le comportement du robot a émergé de systèmes complexes d’apprentissage automatique d’une manière que ses créateurs n’avaient pas prévue – la responsabilité pénale devient floue. C’est précisément le défi qui commencera à émerger en raison de l’architecture complexe des systèmes d’apprentissage automatique dans un avenir proche.
Avant d’aller plus loin, il est impératif de réitérer que la question n’est pas de savoir si le robot participant à l’expérience de pensée est sensible et capable de ressentir de la jalousie ou de la colère à cause d’une « mauvaise conduite conjugale ». Notre point de départ est qu’une architecture de machine complexe a causé des dommages tels qu’il est difficile pour la loi d’intervenir.
Le vide juridique est plus qu’un détail technique. Cela révèle une confusion conceptuelle plus profonde sur ce qui compte comme « l’autre » dans l’épanouissement humain et dans nos systèmes juridiques. Cela est évident dans une étude à grande échelle qui a révélé que 68 % des utilisateurs de chatbots IA perçoivent les outils comme « quelque peu » ou « entièrement » humains, 90 % pensent que les chatbots sont intelligents, 78 % pensent que les chatbots sont empathiques et 75 % pensent que les chatbots sont conscients. Les perspectives affectent la façon dont les individus se rapportent aux outils.
Un article récent, Le bonheur à l’ère de l’IA : Ricœur et la question de l’IA humanoïde comme autre technologiqueaborde le changement relativement récent de personnes qui se tournent vers des compagnons IA, des chatbots et des robots sociaux pour obtenir de l'amitié, des conseils, un soutien émotionnel et même une romance. Les auteurs se demandent si les relations homme-technologie peuvent remplacer les relations homme-homme. Ils soutiennent que même si l’IA peut réduire la solitude et fournir une assistance, elle manque d’une véritable compréhension, d’émotions et de responsabilité morale. Pourtant, le génie a été libéré du sac, créant des défis qui nécessitent une intervention juridique.
Nous anthropomorphisons les systèmes d’IA. Nous leur attribuons des attributs qui ont du sens lorsqu'ils sont réservés aux personnes physiques, telles que des collègues, des médecins, des confidents, des amis, des thérapeutes et des soignants. Inconsciemment, nous commençons à les considérer comme des agents dans nos vies et à nous engager avec eux en conséquence. Par exemple, les gens recherchent des conseils personnels auprès de ChatGPT. Des technologies telles que Replika, un chatbot humain comptant plus de 42 millions d'utilisateurs dans le monde, remplissent les rôles susmentionnés dans la vie de certaines personnes. Replika, avec pour devise «l'ami de l'IA avec qui vivre la vie», est conçu pour favoriser la camaraderie et l'amitié entre les personnes qui se sentent seules ou qui souhaitent s'éloigner des relations entre humains.
De plus, dans des pays comme le Japon, plus de 1,5 million de personnes s’attachent à des compagnons virtuels. On estime que 3 708 personnes ont demandé un certificat de mariage avec un appareil holographique, et un mariage a été enregistré.
Ce changement se produit avec des implications juridiques. Comme pour l’expérience de pensée avec laquelle nous avons commencé, si Replika ou tout autre dispositif holographique cause « intentionnellement » un préjudice à une personne physique, quelles en sont les implications ? Il est évident que la loi devra intervenir pour procéder. Mais qui poursuit la justice ? Notre système juridique n’est pas préparé à de tels cas, mais la probabilité que de tels incidents se produisent n’est pas catastrophique.
Cette conversation est importante en raison de la tendance humaine à rechercher le bonheur, l’épanouissement et le sens en dehors de soi. Nous poursuivons une vie épanouie grâce au libre arbitre, mais notre épanouissement dépend de la réciprocité avec les autres : amis intimes, famille et étrangers éloignés. Selon une étude de la Harvard Study of Adult Development, des liens sociaux étroits prédisent la santé et la longévité. Les relations humaines comptent non seulement comme sources de plaisir, mais aussi comme interactions moralement significatives qui ancrent la responsabilité, la vulnérabilité et la confiance.
Lorsque l’autre dans notre vie intime est un artefact, les coordonnées morales changent. Les robots sociaux, tels que Replika, les compagnons virtuels et les robots incarnés, sont utilisés pour susciter un attachement émotionnel. La pensée expérimentale présentée dans cet article et les cas présentés ici montrent que la simulation de camaraderie ne confère pas automatiquement le statut requis pour l’action morale ou la responsabilité juridique. Comme le soulignent de nombreux philosophes et éthiciens, l’action et la patience varient en degrés : les machines peuvent sembler autonomes, mais elles manquent généralement du genre d’intentionnalité et d’individualité narrative qui fondent la responsabilité morale, comme cela est requis dans les contextes juridiques.
Nous sommes confrontés à deux problèmes étroitement liés. Premièrement, d’un point de vue psychologique, confier l’intimité aux machines risque de modifier les attentes de réciprocité et de diluer les exigences morales des relations humaines. Deuxièmement, sur le plan juridique, le cadre pénal a du mal à attribuer la responsabilité lorsque les systèmes autonomes agissent de manière nuisible et imprévisible.
Le droit sera toujours à la traîne en matière d'innovation, mais ce retard soulève des problèmes qui vont au-delà des simples aspects techniques ; cela soulève également des préoccupations morales. Si nous laissons les artefacts occuper les rôles mentionnés ici – conjoints, confidents, conseillers, amis et thérapeutes – sans remodeler nos cadres juridiques et moraux, nous risquons de créer des relations qui offrent du confort mais échappent à la responsabilité.
La pensée expérimentale qui a inspiré cet article devrait nous inquiéter précisément parce qu’elle est de plus en plus plausible. Cela impose également une exigence simple aux décideurs politiques, aux technologues et aux citoyens : clarifier qui peut être tenu responsable lorsqu’une entité que nous considérons comme « l’autre » dans nos espaces privés nous nuit et quels types d’intimité nous voulons cultiver dans un monde de machines.
