Par Philippe Veber, avocat associé. Veber Associés Avocats
Robotique et responsabilité?: le choix de l’illusion ou du pragmatisme??
De nombreux travaux ont été déjà été menés dans le monde entier sur la robotique et le droit. Le bouleversement technologique qu’apporte ce secteur va provoquer un réajustement de certains principes juridiques actuels. L’enjeu judiciaire ne va pas tarder de planer au-dessus du développement de cette filière en matière de responsabilité. L’audace d’un droit nouveau risque de dérouter. Le réalisme semble constituer la solution réaliste.
Curieusement, le robot semble faire peur alors que la robotique paraît susciter l’engouement. Dans cet esprit, il faut éviter de faire de la science une fiction juridique mais justement, défaire la fiction juridique au profit de la science. L’urgence est de ne pas créer des concepts inaudibles, hors de la réalité, qui auront du mal à être appréhendés par la société, l’assureur, le juge et l’utilisateur, et qui n’auront d’autre vertu que d’entretenir la peur de l’irrationnel ou de l’inconnu. Il est stratégique de ne pas inventer des concepts applicables à des facultés non encore atteintes et de servir des solutions aux problèmes qui n’existent pas encore.
Rester sur des propositions juridiques simples dans une perspective économique, efficace et réaliste nous semble constituer la première étape de l’adaptation du droit à un secteur d’avenir envisagé sur le plan de la vie quotidienne (services, surveillance, éducation, loisirs, assistance,
véhicule, etc.).
Prise de position
L’erreur majeure serait de ne pas se situer dans le pragmatisme. La filière robotique n’a pas besoin de se créer des obstacles. Il est impératif d’adhérer aux priorités sociologiques et sociétales et non de tenter de les combattre même inconsciemment. En d’autres termes, même si le concept d’autonomie est au cœur des débats, il paraît impertinent mais peu pertinent dans l’immédiat, de s’arc-bouter sur les droits du robot ou sur le robot sujet de droit alors que notre société s’emploie depuis des décennies à introduire dans notre système juridique des règles qui remettent en cause des principes fondamentaux de responsabilité dans le seul but de favoriser le sort des victimes à qui il paraît légitime de livrer un responsable, quel qu’il soit, qui indemnisera leur préjudice même lorsqu’aucune faute n’a été commise.
Pour l’instant, cela évoluera peut-être, le débat sur le robot sujet ou objet de droit est inutile. Le robot est une «?chose?». La création d’un statut spécial des robots est inefficace. Une déclaration des droits des robots est tout aussi futile.
Proposition : une adaptation au droit existant
Le piège majeur est sûrement de confondre autonomie et automatisme. À ce jour, aucun robot ne dispose d’une réelle autonomie dans la prise de décision mais est guidé ou dirigé par une succession d’automatismes qui le place dans une position ou une posture autonome. Le robot évolue grâce à un système d’automatisme derrière lequel on identifie une programmation, un logiciel, des capteurs, des téléopérateurs, etc., et donc la «?main de l’homme?» et il n’est pas doté d’une faculté de discernement. En conséquence, si notre préoccupation est de ne pas faire du robot un extraterrestre dans le cadre d’un système de responsabilité illusoire, les solutions sont à rechercher dans la réalité juridique actuelle. On peut imaginer un système de responsabilité qui ne s’articulera pas autour d’une notion de discernement, mais sur la base de la technique de l’automatisme source d’autonomie et ce, dans une application distributive en fonction des situations prévisibles ou imprévisibles.
Le droit connaît déjà l’automatisme sous de multiples formes (métro sans conducteur, pilotage automatique d’un avion, régulateur de vitesse, etc.). Mais le juge va empresser de nous rappeler l’obligation générale de sécurité et/ou le principe de précaution. La distinction entre responsabilité contractuelle et délictuelle demeurera et en matière de responsabilité contractuelle, la distinction entre obligations de résultat et obligations de moyen sera également susceptible de s’appliquer, avec la prise en compte de la participation active de l’utilisateur du robot. La question de la garde de la chose, avec notamment l’existence ou l’absence de la qualité de gardien, la détermination du gardien, la disparition de la garde, etc., est susceptible de se poser. Les principes de base peuvent donc s’appliquer mais la robotique va présenter des situations particulières qui nécessitent une adaptation du droit. L’exemple du robot de surveillance (dans une unité logistique par exemple) embarqué dans une voiture sans chauffeur par capteurs peut poser les problèmes suivants : dysfonctionnement arrêt machine, dysfonctionnement atteinte : atteinte à un tiers, atteinte au dirigeant, atteinte à un salarié, image ou données personnelles subtilisées, etc.
Mais le problème que tout le monde redoute est celui de la perte de contrôle, de l’emballement de la machine. Il pourrait paraître simple d’appliquer la notion de fait du robot ou d’implication du robot, comme en matière de responsabilité du fait des animaux. Ce que le droit n’arrive pas à régler de manière rationnelle parce qu’il est difficile de régir l’instinct, l’inconscient, l’inexplicable ou l’irrationnel, le droit le résout par une responsabilité objective, sans faute, afin de garantir la réparation du dommage. Mais en robotique, la technique refait son apparition. Un dérèglement soudain d’une chose dotée d’automatisme aura une cause fatalement technique. Les acteurs ne pourront se contenter d’une cause irrationnelle de ce qui provient de la recherche scientifique. Dès lors, l’expertise technique va reprendre ses droits pour déboucher sur une responsabilité fondée notamment sur la faute de conception, la défectuosité, le défaut de sécurité du produit. Mais la société n’attendra pas forcément que la faute technique soit établie en cas d’atteinte grave.
Cela ramène immanquablement à la responsabilité des produits défectueux avec la chaîne des contrats et des responsabilités, celle de plein droit du fabricant ou assimilé - producteur, qu’il y ait contrat ou non avec la victime, fabricant contre lequel le prestataire, si sa responsabilité est engagée, peut ensuite se retourner, etc. De plus, il convient de rappeler que depuis un arrêt Marzouk du Conseil d’État du 9?juillet 2003, le service public hospitalier est responsable, même sans faute, des dommages causés par la défaillance des produits et appareils de santé qu’il utilise et le médecin a une obligation de sécurité de résultat quant au matériel qu’il utilise (Civ. 1ère, 9 nov. 1999). Évoquer dans ce contexte les robots chirurgiens, c’est affirmer que le droit de la responsabilité robotique est donc déjà en marche et qu’il tire ses sources d’un droit connu.
En conclusion, le problème du contrat d’assurance étant sous-jacent pour les produits robotiques nouveaux, l’efficacité et le bon sens commandent de partir d’un régime juridique existant, de l’adapter aux contraintes de la robotique afin de mieux le faire admettre.
Curieusement, le robot semble faire peur alors que la robotique paraît susciter l’engouement. Dans cet esprit, il faut éviter de faire de la science une fiction juridique mais justement, défaire la fiction juridique au profit de la science. L’urgence est de ne pas créer des concepts inaudibles, hors de la réalité, qui auront du mal à être appréhendés par la société, l’assureur, le juge et l’utilisateur, et qui n’auront d’autre vertu que d’entretenir la peur de l’irrationnel ou de l’inconnu. Il est stratégique de ne pas inventer des concepts applicables à des facultés non encore atteintes et de servir des solutions aux problèmes qui n’existent pas encore.
Rester sur des propositions juridiques simples dans une perspective économique, efficace et réaliste nous semble constituer la première étape de l’adaptation du droit à un secteur d’avenir envisagé sur le plan de la vie quotidienne (services, surveillance, éducation, loisirs, assistance,
véhicule, etc.).
Prise de position
L’erreur majeure serait de ne pas se situer dans le pragmatisme. La filière robotique n’a pas besoin de se créer des obstacles. Il est impératif d’adhérer aux priorités sociologiques et sociétales et non de tenter de les combattre même inconsciemment. En d’autres termes, même si le concept d’autonomie est au cœur des débats, il paraît impertinent mais peu pertinent dans l’immédiat, de s’arc-bouter sur les droits du robot ou sur le robot sujet de droit alors que notre société s’emploie depuis des décennies à introduire dans notre système juridique des règles qui remettent en cause des principes fondamentaux de responsabilité dans le seul but de favoriser le sort des victimes à qui il paraît légitime de livrer un responsable, quel qu’il soit, qui indemnisera leur préjudice même lorsqu’aucune faute n’a été commise.
Pour l’instant, cela évoluera peut-être, le débat sur le robot sujet ou objet de droit est inutile. Le robot est une «?chose?». La création d’un statut spécial des robots est inefficace. Une déclaration des droits des robots est tout aussi futile.
Proposition : une adaptation au droit existant
Le piège majeur est sûrement de confondre autonomie et automatisme. À ce jour, aucun robot ne dispose d’une réelle autonomie dans la prise de décision mais est guidé ou dirigé par une succession d’automatismes qui le place dans une position ou une posture autonome. Le robot évolue grâce à un système d’automatisme derrière lequel on identifie une programmation, un logiciel, des capteurs, des téléopérateurs, etc., et donc la «?main de l’homme?» et il n’est pas doté d’une faculté de discernement. En conséquence, si notre préoccupation est de ne pas faire du robot un extraterrestre dans le cadre d’un système de responsabilité illusoire, les solutions sont à rechercher dans la réalité juridique actuelle. On peut imaginer un système de responsabilité qui ne s’articulera pas autour d’une notion de discernement, mais sur la base de la technique de l’automatisme source d’autonomie et ce, dans une application distributive en fonction des situations prévisibles ou imprévisibles.
Le droit connaît déjà l’automatisme sous de multiples formes (métro sans conducteur, pilotage automatique d’un avion, régulateur de vitesse, etc.). Mais le juge va empresser de nous rappeler l’obligation générale de sécurité et/ou le principe de précaution. La distinction entre responsabilité contractuelle et délictuelle demeurera et en matière de responsabilité contractuelle, la distinction entre obligations de résultat et obligations de moyen sera également susceptible de s’appliquer, avec la prise en compte de la participation active de l’utilisateur du robot. La question de la garde de la chose, avec notamment l’existence ou l’absence de la qualité de gardien, la détermination du gardien, la disparition de la garde, etc., est susceptible de se poser. Les principes de base peuvent donc s’appliquer mais la robotique va présenter des situations particulières qui nécessitent une adaptation du droit. L’exemple du robot de surveillance (dans une unité logistique par exemple) embarqué dans une voiture sans chauffeur par capteurs peut poser les problèmes suivants : dysfonctionnement arrêt machine, dysfonctionnement atteinte : atteinte à un tiers, atteinte au dirigeant, atteinte à un salarié, image ou données personnelles subtilisées, etc.
Mais le problème que tout le monde redoute est celui de la perte de contrôle, de l’emballement de la machine. Il pourrait paraître simple d’appliquer la notion de fait du robot ou d’implication du robot, comme en matière de responsabilité du fait des animaux. Ce que le droit n’arrive pas à régler de manière rationnelle parce qu’il est difficile de régir l’instinct, l’inconscient, l’inexplicable ou l’irrationnel, le droit le résout par une responsabilité objective, sans faute, afin de garantir la réparation du dommage. Mais en robotique, la technique refait son apparition. Un dérèglement soudain d’une chose dotée d’automatisme aura une cause fatalement technique. Les acteurs ne pourront se contenter d’une cause irrationnelle de ce qui provient de la recherche scientifique. Dès lors, l’expertise technique va reprendre ses droits pour déboucher sur une responsabilité fondée notamment sur la faute de conception, la défectuosité, le défaut de sécurité du produit. Mais la société n’attendra pas forcément que la faute technique soit établie en cas d’atteinte grave.
Cela ramène immanquablement à la responsabilité des produits défectueux avec la chaîne des contrats et des responsabilités, celle de plein droit du fabricant ou assimilé - producteur, qu’il y ait contrat ou non avec la victime, fabricant contre lequel le prestataire, si sa responsabilité est engagée, peut ensuite se retourner, etc. De plus, il convient de rappeler que depuis un arrêt Marzouk du Conseil d’État du 9?juillet 2003, le service public hospitalier est responsable, même sans faute, des dommages causés par la défaillance des produits et appareils de santé qu’il utilise et le médecin a une obligation de sécurité de résultat quant au matériel qu’il utilise (Civ. 1ère, 9 nov. 1999). Évoquer dans ce contexte les robots chirurgiens, c’est affirmer que le droit de la responsabilité robotique est donc déjà en marche et qu’il tire ses sources d’un droit connu.
En conclusion, le problème du contrat d’assurance étant sous-jacent pour les produits robotiques nouveaux, l’efficacité et le bon sens commandent de partir d’un régime juridique existant, de l’adapter aux contraintes de la robotique afin de mieux le faire admettre.
