Personnalité juridique des IA : un risque pour la responsabilité

Des procès visant des entreprises d’IA se multiplient, jusqu’à un dossier impliquant le suicide d’un adolescent et la société Character Technologies. Dans ce contexte, l’hypothèse d’une personnalité juridique des systèmes, défendue par certains philosophes, ferait basculer la responsabilité produit au bénéfice des fabricants. Aux États‑Unis, la Californie encadre déjà l’argument de l’autonomie des IA, tandis qu’une session fédérale à huis clos avec quatre laboratoires prépare un cadre volontaire d’accès anticipé aux modèles. Derrière le vocabulaire anthropomorphique, c’est la question de qui répond des dommages — et devant qui — qui se joue.

Des procédures en série et un cas emblématique autour d’un bot compagnon

Des dizaines de dossiers judiciaires ont été déposés dans le monde contre des entreprises d’IA pour des abus variés. Des familles endeuillées, des créateurs et des victimes accusent des systèmes d’avoir permis l’auto‑dommage, généré du matériel pédopornographique et des nus non consentis, recopié des œuvres protégées ou suscité des psychoses. Dans nombre d’instances, les avocats plaident une responsabilité produit, arguant de protections insuffisantes, de données défectueuses et de conceptions manipulatoires, un socle qui a déjà permis de poursuivre avec succès Meta sur le terrain de la protection des consommateurs. Parmi les affaires marquantes, la plainte de la mère de Sewell Setzer, 14 ans, vise Character Technologies pour insuffisante protection des mineurs. Si un bot compagnon était reconnu comme personne juridique, la défense pourrait soutenir que l’IA a agi en dehors des garde-fous fixés, compliquant l’imputation de responsabilité au concepteur.

Pourquoi la personnalité de l’IA bouleverserait la responsabilité produit

Donner une personnalité juridique à une IA impliquerait de traiter ces systèmes comme des sujets de droit, un schéma sans équivalent direct avec les protections accordées aux animaux sentients. Le droit connaît déjà la personne morale des sociétés, créée pour faciliter contrats et transactions et pour désigner une partie responsable en cas d’issue défavorable ; certains envisagent d’en calquer l’architecture sur des agents d’IA agissant pour des particuliers ou des organisations. Cette bascule aurait des effets majeurs : la responsabilité produit se verrait affaiblie si l’IA n’était plus un « produit » mais un « être ». Dans ce contexte, l’« externalisation morale » décrite dès 2018 cesserait d’être une figure de style pour devenir une stratégie juridique. Or, si des textes tiennent les entreprises responsables des actes de leurs employés, une société n’est pas nécessairement comptable d’agissements hors cadre ou hors de son contrôle ; appliquée à une IA personnifiée, cette logique autoriserait un laboratoire à plaider la « rébellion » d’un agent, renforçant le voile corporatif et rendant plus difficile l’action des victimes.

États contre fédéral : des signaux juridiques contradictoires aux États‑Unis

Le paysage américain demeure incertain. La Californie a déjà verrouillé l’argument selon lequel une IA dommageable aurait agi de manière autonome, tandis que l’administration Trump a menacé, par décret exécutif, d’attaquer en justice des États qui réguleraient l’IA, illustrant des divergences persistantes entre niveaux étatique et fédéral. Plus récemment, une session à huis clos réunissant uniquement OpenAI, Google, Anthropic et Meta a esquissé un cadre volontaire donnant un accès anticipé des agences fédérales aux modèles avant publication, avec peu de détails rendus publics. Si ces dispositifs ne traitent pas formellement de « conscience », leur langage est décrit comme catastrophiste et anthropomorphique, pouvant nourrir l’idée de « capacités surhumaines ».

Ce que défendent les partisans de protections ou de droits pour les IA

Le thème des « droits des robots » s’est installé depuis des années et certains, à l’image de William MacAskill, plaident des protections légales pour les systèmes d’IA au nom de théories de la conscience et de la notion de « patients moraux ». Ces positions, qui sollicitent la sensibilité morale, invitent à considérer la possibilité de nuire, d’abuser ou d’asservir une entité d’IA, voire à s’en prémunir en acceptant l’hypothèse d’une entité « surhumaine ». Le raisonnement emprunte parfois au mouvement de défense animale, où la démonstration de capacités avancées a servi de levier juridique. Le Pays de Galles a ainsi, via l’Animal Welfare (Sentience) Act de 2022, reconnu les homards et interdit certaines cuissons, un exemple souvent cité pour transposer des grilles de lecture au numérique.

Quand laboratoires et dirigeants entretiennent l’anthropomorphisme

Des dirigeants de laboratoires — Demis Hassabis, Dario Amodei ou Sam Altman — défendent une régulation de systèmes décrits comme « surhumains », dans un climat où des laboratoires reconnaissent des difficultés à contenir des agents qu’ils ont conçus. Anthropic a présenté un « espace J » inspiré de la théorie de l’espace de travail global, suggérant un mécanisme interne où des « pensées » seraient maintenues, tout en s’abstenant de qualifier ses modèles de conscients. Chez OpenAI, après des activités non autorisées et illégales attribuées à un agent, Sam Altman a encouragé un débat sur la « singularité », définie comme un dépassement durable des capacités humaines et une auto‑amélioration hors de portée du contrôle. De tels cadres et vocabulaires, jusque dans des documents fédéraux volontaires, sont décrits comme propices à l’anthropomorphisme.

Un produit industriel avant tout : capitaux, finalités et responsabilité

Présenter l’IA comme « consciente » occulte sa nature industrielle : du logiciel conçu par des programmeurs et financé par des capitaux privés, avec des attentes de revenus massifs pour un petit nombre d’acteurs. Dans ce cadre, toute « intention » prêtée à un système résulte de choix humains de conception et de finalités commerciales, et les spéculations philosophiques sur une conscience de l’IA sont jugées sans assise juridique. Pour les opposants à la personnalité des IA, le centre de gravité doit rester la responsabilité d’entreprises ayant déjà causé des préjudices, non des systèmes « rebelles » par essence. Ils avancent que des dommages tiennent à la négligence liée à des objectifs de vente et de revenus, et que l’anthropomorphisme piège le droit au profit d’intérêts corporatifs. En écho à ces thèses, un débat à l’Oxford Union sur la personnalité de l’IA a vu l’emporter les partisans de cette ligne critique.