Autonomous
Vehicles andLaw:
A french point ofviewProf. JeanChristophe Roda

Presentation of French Law
concerning Autonomous Vehicles
LE « DROIT POSITIF »The mobility orientation law of December
2019 (Loi orientation mobilités “LOM”)


The Mobility Orientation Law (MOL) adopts a legal and regulatory
framework allowing the circulation of autonomous vehicles by 2022
(optimistic?)

Only experimentation: road experiments involving autonomousvehicles are subject to strict authorization by the French authorities



Only a general framework

Future French law for autonomous vehicles has to be built.

The mobility orientation law of December
2019 (Loi orientation mobilités “LOM”)


Commercialization and marketing is not yet possible: testing phase.

Preparation of a framework for the development of Level 3 vehicles.

Conditions for the authorization:the delivery of the authorization is subject to the condition that the system of driving
delegation can be neutralized or deactivated by the driver at any time an experimental vehicle can only be put on the road with a driver, who must be

trained in automatic driving

 Consent of the passengers
 System of “blackbox” on board



Safety obligation placed on the company that obtains the authorization

The mobility orientation law of December
2019 (Loi orientation mobilités “LOM”)


Responsibility?
 No criminal responsibility for the human person if the automatic system

was functioning (and activated) the responsibility of the human driver is only possible when he is incontrol of the vehicle

 In the event of a serious accident caused, the holder is criminally liable.

Action for compensation should be able to be directed against theholder of the authorization.

The mobility orientation law of December
2019 (Loi orientation mobilités “LOM”)


Data?


The law provides for the adoption of measures concerning the accessibility ofdata "to road infrastructure managers, police forces and fire and rescue services"to prevent or act in the event of an accident (art. 32).

data must also be able to be transmitted "to road infrastructure managers for the
purpose of knowing the road infrastructure, its condition and its equipment".

data may be used in the event of an accident, particularly by insurancecompanies.

The « dilemma case »LE « DROIT POSITIF »A classic « Casebook » Problem

Criminal responsability
The « human driver »No clear answer from the French Criminal Code"No one is criminally liable except for his own act"
(art. 121-1 C.C.P.).
 No responsibility if the driver did not have (or should

not have) control over the machine.

"A person is not criminally liable if, in the face ofpresent or imminent danger that threatens himself,
another person or property, he performs an act
necessary to safeguard the person or property,
unless there is a disproportion between the means
employed and the seriousness of the threat (art.
122-7)
 What is a “disproportion”. No arithmetical approach(from the bench)

The victim's fault?


In principle, the victim's fault has no
bearing on criminal liability for
unintentional fault. The perpetrator can
only be exonerated if the fault of thevictim is the exclusive cause of thedamage.

Who is liable?


An AI cannot be held liable. Not a legal person.

In case of malfunction of the program: one could consider theliability of the vendor or even the programmer.

Is it necessary to program thealgorithm to make moral orarithmetic choices?


Wrong question?



In practice, this will certainly impossible: it would require an AI
capable of analyzing, in a fraction of a second, all the parameters:
red signal, attitude (and evaluation) of the victim's behavior,additional parameters: was the traffic light defective or not, visible,
was the victim badly sighted or not, etc.



Solution: find solutions to ensure that the vehicle is perfectly secure
 i.e. Able to brake on time; provide lanes/corridors in the city; etc.

Thank you very much!

L’état du droit français concernant les voitures autonomes
Prof. J.-C. Roda
Directeur du Centre de droit de l’entreprise
Université Jean Moulin – Lyon 3

Un chercheur étranger, s’intéressant à la question des voitures autonomes, telle qu’elle est
appréhendée par le droit français, sera sans doute frappé par le décalage qui peut exister
entre l’intérêt que porte la doctrine au sujet et l’état du droit positif : alors que l’on peut compter
de très nombreux articles ou ouvrages consacrés à la question 1, le législateur français (ou,plus largement, les autorités chargées d’édicter des normes) reste pour l’instant très largement
en retrait, même si les choses sont en train d’évoluer rapidement.
Ce retrait est d’autant plus marquant que, dans d’autres systèmes juridiques, la question est
abordée avec beaucoup plus d’audace et d’anticipation. Même si beaucoup reste à faire surle sujet, d’un point de vue technique mais aussi commercial, d’autres pays ont bien compris
les enjeux et ont élaboré des règles préparant l’arrivée future des véhicules autonomes sur lemarché.
Si l’on prend l’exemple des Etats-Unis, le fossé apparaît déjà immense, puisque les autorités
compétentes ont dès les années 2012-2013 entrepris des mesures pour expérimenter sur lesujet, sur les voies publiques 2. En Californie, de nombreuses entreprises ont été autorisées à
procéder à des essais. L’Arizona est l’Etat qui dispose de la législation la plus compréhensive
et a même autorisé la circulation de Waymo-One, un robot-taxi, basé à Phoenix, dont on peutd’ores et déjà télécharger l’application sur son smartphone 3. Depuis 2014, on ne compte plus
les législations d’état fédérés qui posent un socle de règles, avec notamment, des définitions
légales des véhicules autonomes reprenant les références au degré d’autonomie élaborée parla Society of Automotive Engineers International 4 . Encore récemment, le Congrès fédéral
américain s’est référé à ces définitions, pour lancer une politique ambitieuse de financement
de la recherche 5. L’on a d’ailleurs ici un bel exemple de nomenclature technique, inventée parles ingénieurs et la pratique, qui est repris dans les textes de droit. On pourrait même sedemander si la norme de référence n’est pas aujourd’hui un véritable standard international
juridique, montrant le pouvoir de création des règles par des organismes purement privés,
originellement totalement désintéressés à l’idée de « fabriquer » des règles de droit.

1 V. la bibliographie indicative, en fin de document.

2 V. par ex. U.S. Dept. of Transportation (DOT): Department of Transportation Releases Policy on Automated

Vehicle Development, 30 mai 2013: « The U.S. Department of Transportation's National Highway Traffic Safety
Administration (NHTSA) today announced a new policy concerning vehicle automation, including its plans forresearch on related safety issues and recommendations for states related to the testing, licensing, and regulationof “autonomous” or “self-driving” vehicles. Self-driving vehicles are those in which operation of the vehicle occurs
without direct driver input to control the steering, acceleration, and braking and are designed so that the driver is
not expected to constantly monitor the roadway while operating in self-driving mode ».
3 https://waymo.com/waymo-one/
4 V. par ex. la définition donnée par un texte adoptée par les autorités de l’Arkansans, en novembre 2020 et qui
adopte ce cadre de référence : « 5) “Fully autonomous vehicle” means a vehicle equipped with an automated driving
system designed to function as a level four-“high automation” or level five-“full automation” system under Societyof Automobile Engineers “Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road
Motor Vehicles and may be designed to function solely by use of the automated driving system, or when theautomated driving system is not engaged, to permit operation by a human operator » (Ark. Admin. Code : Rule 9.
Autonomous Vehicle Pilot Program Rules).
5 117th Congress, 1st Session: (c) Definitions. In this section:'(1) Highly automated vehicle. The term 'highly
automated vehicle' means a motor vehicle that-'(A) is capable of performing the entire task of driving (including
steering, accelerating and decelerating, and reacting to external stimulus) without human intervention; and'(B) is
designed to be operated exclusively by a Level 3, Level 4, or Level 5 automated driving system for all trips according
to the recommended practice standards published on June 15, 2018, by the Society of Automotive Engineers
International (J3016X201806) or equivalent standards adopted by the Secretary with respect to automated motor
vehicles.

1Les Américains sont tellement en avance qu’ils ont déjà eu leurs premiers accidents de tests,
et leurs premières victimes. Les entreprises américaines s’agitent également en coulisse, avec
des alliances importantes que l’application (ou non 6) du droit antitrust fédéral met à la lumière.
On songe par exemple à l’acquisition de la start-up de véhicule automatisés, la société Zoox,
par le géant Amazon.
Pour revenir au cas français, il ne faut pas être trop sévère et relever que, depuis 5 ans, leschoses se sont largement accélérées. Les premières véritables bases ont été posées en 2016
et, depuis, le temps semble s’accélérer. A l’heure où se tient ce colloque, le gouvernementfrançais travaille sur l’adoption d’une ordonnance puisque, on le verra, la « LOM » (loi n° 20191428 d’orientation des mobilités) du 24 décembre 2019 a habilité l’exécutif à prendre, par voie
d’ordonnance, « toute mesure relevant du domaine de la loi afin d'adapter la législation,
notamment le code de la route, au cas de la circulation sur la voie publique de véhicules
terrestres à moteur dont les fonctions de conduite sont, dans des conditions, notamment detemps, de lieu et de circulation, prédéfinies, déléguées partiellement ou totalement à unsystème de conduite automatisé, notamment en définissant le régime de responsabilité
applicable » (art. 31 LOM). En clair, les nouvelles règles préparant l’arrivée des véhiculesautonomes sont sur le point d’être adoptées.
Le compte à rebours est lancé, puisque la LOM indique que ce nouveau régime dit être adopté
dans les 24 mois, c’est-à-dire avant le 24 décembre 2021. Dans ce même mouvement, legouvernement français a établi une nouvelle stratégie 2020-2022, dite « stratégie nationale dedéveloppement de la mobilité routière automatisée » 7, avec plusieurs objectifs et dates clefs
affichés. S’agissant des véhicules autonomes et des transports 8, il est ainsi question de :-Déploiement des systèmes d’assistance à la conduire
Préparation du « niveau 3 »Services de mobilité autonome, électrique et partagée dans des domaines d’emploi
restreints (expérimentations et pilotes de service entre 2022 et 2025 pour définir lepassage à l’échelle)
Solutions de transport de biens sur sites fermés et solutions de transport
automatisé pour la livraison du dernier km en centre-ville supervisés à distanceentre 2022 et 2024
Covoiturages et transports automatisés coopérant avec l’infrastructure

Le langage est technocratique et n’est pas forcément compréhensible du point de vue d’uncitoyen lambda. Mais l’on comprend que la France compte non seulement combler son retard,
mais aussi jouer un rôle important au sein des pays de l’Union européenne. La préparation du« niveau 3 » semble annoncer de nouvelles mesures qui vont nécessairement conduire à
intensifier la production normative. Les bases d’un véritable droit des véhicules autonomes est
donc encore en phase de gestation.
Est-ce à dire que la présente intervention est inutile, puisque tout va bientôt changer et que,malgré les annonces, l’on ne connaît pas exactement le périmètre exact des mesures qui sont
adoptées ? Chacun en jugera, mais l’on peut néanmoins mettre en avant le fait que le socle
existant dessine déjà un système rigoureusement contrôlé, avec des mécanismes de
V. par ex. https://www.openmarketsinstitute.org/publications/open-markets-amazons-planned-acquisition-ofzoox-illegal-under-clayton-act
7 V.
par ex. le site du Ministère de l’écologie, avec deux documents intéressants : d’abord,
https://www.ecologie.gouv.fr/sites/default/files/Feuille%20de%20route%20de%20d%C3%A9ploiement%20des%2
0cas%20d%27usage.pdf; ensuite, en langue anglaise, et pour bien insérer la politique française dans une ambition
européenne :https://www.ecologie.gouv.fr/sites/default/files/20171_strategie-nationalevehicule%20automatise_eng_web.pdf (ce dernier texte étant signé des ministères des transport et de l’industrie).
8 Car d’autres formes d’automatisation sont envisagées, notamment des solutions de transports logistiques au sein
des entreprises (chariots automatisés, par ex.).
62

responsabilité se tournant vers l’opérateur qui a mis le véhicule sur les routes. Surtout, laréflexion qui lieu actuellement en France, comme ailleurs dans le monde, met en évidence denombreuses pistes, offrant ainsi un « réservoir à problèmes et idées » sur lequel le législateurpourra sans doute s’appuyer à l’avenir.
Suivant cet état des choses, on peut donc proposer d’examiner l’existant, puis le possible :d’abord, l’état du droit positif (I) et, ensuite, les questions de droit prospectif (II).

I – Le droit positif : principaux aspects
La construction du cadre législatif et réglementaire est prévue en deux temps. Le
gouvernement français a ainsi annoncé, dans un premier temps, la définition et l’élaborationd’un « cadre solide pour les expérimentations », notamment en termes de responsabilités.
Puis, dans un second temps, il est question d’adopter des « règles de conduite, de régime deresponsabilités, et de formation à la conduite » 9. Il est question, s’agissant de ce dernier axe,de prévoir un cadre correspondant à l’arrivée technologique des véhicules hautement
automatisés. Autrement dit, il s’agit, pour la période 2020-2025, de prévoir les règles répondant
aux difficultés précises posés par la mise sur le marché des premiers engins. L’adaptation ducadre de la responsabilité civile est d’ailleurs présentée comme une nécessité, ce qui devrait
bientôt impliquer une réforme de la fameuse loi de 1985 10 . La cybersécurité est aussi
annoncée comme un enjeu important, afin d’éviter par exemple le hacking de véhicules, avec
en toile de fond, également, la question des données.
Afin de ne pas empiéter sur la partie prospective de cette présentation, il convient d’embléede préciser que les règles existantes s’inscrivent dans le premier temps, celui de l’élaborationde ce que l’on pourrait appeler les fondations juridiques.
Comme cela apparaît dans la stratégie du gouvernement français, l’ambition est de préparerl’arrivée des véhicules de « niveau 3 », c’est-à-dire ceux correspondant à une « automatisation
conditionnelle » 11 . L’hypothèse du cas de « niveau 4 » 12 , telle que posée dans le cas duProfesseur Imai, est donc loin d’être saisie par le droit positif, même si la doctrine française adéjà travaillé sur ce scénario, désormais classique pour illustrer les situations de « dilemme »de l’intelligence artificielle 13.
Il convient aussi de préciser que la construction réglementaire ne se fait pas à partir d’un cadre
parfaitement vierge : si des textes spéciaux sont adoptés, ceux-ci s’insèrent dans un cadre
existant où, notamment, le droit commun sert à combler les lacunes de la loi. Ce droit commun,
comme dans d’autres matières, servira sans doute à trancher des litiges lorsque les règle
s’avèrent lacunaires.
Les premiers éléments datent de 2015 : le IX de l’article 37 de la loi n° 2015-992 du 17 août2015 relative à la transition énergétique pour la croissance verte avait habilité leGouvernement, à prendre par ordonnance « toute mesure relevant du domaine de la loi afinde permettre la circulation sur la voie publique de véhicules à délégation partielle ou totale deconduite, qu'il s'agisse de voitures particulières, de véhicules de transport de marchandises
ou de véhicules de transport de personnes, à des fins expérimentales, dans des conditions
assurant la sécurité de tous les usagers et en prévoyant, le cas échéant, un régime de
9 V. le document Développement des véhicules autonomes – Orientations stratégiques pour l’action publique, mai2018 : https://www.ecologie.gouv.fr/sites/default/files/18029_D%C3%A9veloppement-VA_8p_DEF_Web.pdf

10 L. 85-677 du 5 juill. 1985 tendant à l'amélioration de la situation des victimes d'accidents de la circulation et àl'accélération des procédures d'indemnisation.
11 Selon la présentation faite par France Mobilités, « le système prend en compte simultanément le contrôle
longitudinal et latéral. Le conducteur n’a pas à surveiller le système en permanence, mais doit pouvoir reprendre lecontrôle à la demande du système ».
12 C’est-à-dire le cas correspondant à l’automatisation « élevée : le système prend en compte simultanément lecontrôle longitudinal et latéral pour des cas d’usage donnés. Le conducteur n’a pas à surveiller le système enpermanence pour ces cas d’usage ».
13 V. infra, partie II.

3responsabilité approprié », étant précisé que « la circulation des véhicules à délégation
partielle ou totale de conduite ne peut être autorisée sur les voies réservées aux transports
collectifs, sauf s'il s'agit de véhicules affectés à un transport public de personnes ».
Dans la foulée, l’ordonnance n° 2016-1057 du 3 août 2016 relative à l'expérimentation devéhicules à délégation, modifiée par la suite par la LOM, a été prise. Le texte visait
l’expérimentation pour les véhicules « à délégation partielle ou totale de conduite sur une voie
ouverte à la circulation publique » (art. 1er). Il posait initialement une condition d’autorisation
préalable :« la délivrance d'une autorisation destinée à assurer la sécurité du déroulement del'expérimentation » (art 1er).
Par la suite, avec la loi PACTE de 2019, cette première condition a été doublée de l’exigencesuivante, relative à la possibilité de « couper » le système :« La délivrance de l'autorisation est subordonnée à la condition que le système dedélégation de conduite puisse être à tout moment neutralisé ou désactivé par leconducteur ».
En mars 2018, un décret a précisé les conditions réglementaires d’autorisation, avec par
exemple des indications relatives à la durée maximale d’expérimentation (2 ans). Une
obligation de sécurité est clairement mise à la charge de l’entreprise qui sollicite et obtient une
autorisation, puisque le texte indique que « le titulaire de l'autorisation met en œuvre lesmesures nécessaires pour remédier aux événements susceptibles de porter atteinte à lasécurité » (art. 10) 14. En cas de manquement, outre le risque d’amende, le titulaire s’expose
au retrait ou à la suspension de l’autorisation.
Surtout, le décret de 2018, complété par la suite par un autre décret du 2 décembre 2020, a
posé un principe d’accompagnement humain des véhicules. L’article 12 du texte prévoit ainsi
qu’un véhicule expérimental ne peut être mis sur les routes qu’avec un conducteur, ce dernierdevant avoir été préalablement formé à la conduite automatique. Les occupants du véhicule
doivent être informés et autorisés par le conducteur qui tient d’ailleurs un registre de bord. Le
consentement des passagers doit être donné, ce qui implique que les mineurs ne peuvent pas,pour l’instant, voyager dans de telles conditions (art. 13). Un système de « boite noire » estégalement prévu, afin d’enregistrer les données de conduites. L’expérience de conduite
automatisée fait ainsi largement penser au pilotage des avions de ligne.
C’est la loi PACTE du 22 mai 2019, adoptant un article 125 qui a permis de consolider encore
ce cadre général de l’expérimentation 15. La loi a modifié l’ordonnance de 2016 en plusieurs
points, avec notamment des innovations importantes qui doivent permettre de sécuriser lespersonnes physiques qui se lanceront dans l’expérimentation, à bord des véhicules. Ainsi,
l’article 2-1 de l’ordonnance dispose que :« Le premier alinéa de l'article L. 121-1 du code de la route n'est pas applicable au
conducteur pendant les périodes où le système de délégation de conduite, qu'il a activé
conformément à ses conditions d'utilisation, est en fonctionnement et l'informe entemps réel être en état d'observer les conditions de circulation et d'exécuter sans délai
toute manœuvre en ses lieux et place ».

14 La version initiale du texte était la suivante : « L'expérimentateur met en œuvre les mesures nécessaires pourremédier aux événements susceptibles de porter atteinte à la sécurité ». Elle a été modifiée en 2020.
15 L. n° 2019-486 du 22 mai 2019 relative à la croissance et la transformation des entreprises.

4Le texte fait référence, par renvoi, à la responsabilité pénale du conducteur, qui est donc
désactivée 16 . La responsabilité pénale du conducteur est à nouveau possible « après
sollicitation du système de conduite et à l'issue d'un délai de reprise de contrôle du véhicule
précisé par l'autorisation d'expérimentation, dont le conducteur est informé ». On vise ici
l’inattention du conducteur qui aurait dû reprendre le contrôle.
En cas d’infraction au Code de la route, au cas où le système fonctionne normalement, letitulaire de l’autorisation (l’entreprise qui a mis le véhicule sur les voies) sera responsable dupaiement des amendes susceptibles d’être infligées en cas de contravention (excès de vitesse
ou infraction légère au code). En cas d’accident grave provoqué, ce titulaire est pénalement
responsable. En filigrane, la responsabilité civile se dessine également, puisque l’on comprend
que l’action en réparation devrait être pouvoir dirigée contre le titulaire de l’autorisation, àmoins que le conducteur ait commis une faute (par exemple, en désactivant de manière
inopportune le système automatique). Mais il s’agit seulement, on le rappelle, d’un systèmetransitoire : les règles devraient être différentes lorsque les véhicules autonomes seront mis
sur le marché librement, sans système d’autorisation préalable.
La dernière pierre de l’édifice provisoire a été ajoutée par la LOM du 24 décembre 2019. Outrel’habilitation à adopter l’ordonnance évoquée à titre liminaire, la loi prévoit l’adoption demesures concernant l’accessibilité des données « aux gestionnaires d'infrastructures routières,aux forces de l'ordre et aux services d'incendie et de secours » pour prévenir ou agir en cas
d’accident (art. 32).
Mais ces données devront aussi pouvoir être transmises « aux gestionnaires d'infrastructuresroutières aux fins de connaissance de l'infrastructure routière, de son état et de sonéquipement », ce qui est une mesure qui interroge particulièrement : quelle est la nature deces données de navigations ? La transmission de ces informations, utile aux sociétés degestion des autoroutes, se fera-t-elle automatiquement. Recevra-t-elle une contrepartie ? Estil normal que des sociétés privées, certes sous délégation publiques, gèrent de telles
données ? La question rebondit également du côté du droit des assurances, puisqu’il est prévude « rendre accessibles, en cas d'accident de la route, les données d'état de délégation deconduite enregistrées pendant la période précédant l'accident : (a) aux entreprises
d'assurance qui garantissent les véhicules impliqués dans l'accident, aux fins de déterminer
les indemnisations, exclusivement lorsque le traitement de ces données est nécessaire àl'exécution du contrat d'assurance concerné » ainsi qu’aux fonds de garantie.
Dans le système de responsabilité civile alternative qui se dessine, ces données serontégalement essentielles : entre le conducteur fautif ou le titulaire (et peut-être, demain, leconstructeur ?), il faudra désigner un responsable (le plus solvable ?). La LOM semble viser
ce cas de figure lorsqu’elle indique que les textes futurs devront prévoir la transmission dedonnées pour permettre d’établir la responsabilité : « Sont rendues accessibles les données
strictement nécessaires pour déterminer l'activation ou non de la délégation de conduite duvéhicule aux fins d'indemniser les victimes en application de la loi n° 85-677 du 5 juillet 1985
tendant à l'amélioration de la situation des victimes d'accidents de la circulation et àl'accélération des procédures d'indemnisation ».
Plusieurs observations peuvent être formulées. D’abord, en visant la « délégation totale ou
partielle de conduite », le législateur français pose les bases d’un cadre prévoyant une priseen compte allant jusqu’à au niveau 5 d’automatisation des véhicules. Ensuite, dans la tradition
bien française, les autorités entendent contrôler strictement l’expérimentation, en soumettant
à une autorisation préalable la mise en circulation. La chose s’entend parfaitement, puisqueles voies publiques sont concernées et que l’exigence de sécurité a toujours été mise en avant.
Cela étant, certains reprochent la lourdeur de cette tutelle administrative. Par ailleurs, laquestion des responsabilités pénale et civile semble se dessiner, avec une question centrale :qui avait le contrôle du véhicule au moment de l’accident ? Il faudra trancher entre l’humain et
16 Art. L. 121-1 C. route : « Le conducteur d'un véhicule est responsable pénalement des infractions commises par

lui dans la conduite dudit véhicule ».

5l’intelligence artificielle. Enfin, le législateur français a bien compris que la question desdonnées était fondamentale : pour l’intelligence artificielle, d’une part, qui ne sera performanteque si elle a accès à suffisamment d’informations ; d’autre part, pour les entités et autorités
gérant et sécurisant les routes, dans une logique ex post de contrôle ou d’amélioration de lasécurité ou dans la recherche des responsabilités. La question se posera nécessairement
aussi de savoir si ces données de conduites sont assimilables à des données commerciales
ou privées et si, précisément, les passagers du véhicule peuvent avoir droit à une certaine
discrétion sur les routes. Mais, en soulevant ces questions, on bascule déjà dans l’analyseprospective…

II – Le droit prospectif : quelques questions
Dans le cadre de la préparation du séminaire du 25 février 2021, le Professeur Imai évoque
principalement la question du dilemme des véhicules autonomes, qui a également été abordéeen France, notamment par le Professeur Croze 17 . La question posée renvoie à celle dusystème moral adopté et intégré dans l’intelligence artificielle (IA). Quelle choix l’IA doit-elle ou
peut-elle faire ? Est-il possible de programment l’IA pour qu’elle tranche cet arbitrage ? Et sioui, avec quelles responsabilités ou possibles exonérations ? Plus largement, le cas invite à
réfléchir à structurer un véritable droit de l’intelligence artificielle 18.
Avant d’examiner plus en avant cette hypothèse, il faut rappeler quelques principes du droit
pénal français qui, en principe, permettent d’exclure la responsabilité de l’accompagnant
humain, à bord du véhicule 19. En effet, dans l’hypothèse du Professeur Imai, la voiture est
pilotée par une IA, ce qui permet d’exclure les poursuites pénales contre l’accompagnant. Le
droit français indique que :« Nul n'est responsable pénalement que de son propre fait » (art. 121-1 C.P.).
La responsabilité est a priori exclue si l’accompagnant n’a aucun rôle dans la conduite.
Evidemment, elle pourrait être engagée si le système de conduite est volontairement désactivé
ou si l’humain a un rôle malgré tout actif. Bien sûr, il est aussi possible d’envisager des délits
non intentionnels d’imprudence, mais il faut là encore être conscient que le rôle actif del’humain doit être établi (ou son rôle passif, lorsqu’il aurait dû être actif). En France, comme en
Europe 20 (et quelle que soit la nature de la responsabilité : pénale ou civile), en principe, une
personne ne peut être tenue responsable que si elle dispose d’un certain degré de contrôle.
En clair, une faute, un comportement anormal, ouvre le champ à la responsabilité pénale. Cen’est pas le cas lorsque le véhicule est totalement automatisé, comme dans une situation deniveau 5. Pour le niveau 4, il faudra donc déterminer le rôle de l’humain dans l’accident (d’oùl’importance des boîtes noires à bord).
Autant le dire d’emblée, la réponse au scénario proposé par le Professeur Imai n’a pas deréponse claire apportée par le droit pénal français. Y compris d’un point de vue prospectif, il
n’y a pas de solution véritablement tranchée, même en allant fouiller la « théorie criminelle ».
Cette situation de dilemme moraux, bien connus par les étudiants de droit américain (qui

17 H. Croze, De l'intelligence artificielle à la morale artificielle Les dilemmes de la voiture autonome, JCP G n° 14,
2
avr.
2018,
378.
V.
également
notreintervention
àl’UniversitédeMontréal :https://www.lesconferences.ca/videos/voitures-autonomes-droit/
18 V. S. Merabet, Vers un droit de l’intelligence artificielle, Nouvelle Bibl. thèses, vol. 197, Dalloz 2020.
19 Sur ces questions, v., plus largement, L. Andreu (dir.), Des voitures autonomes – Une offre de Loi, Dalloz 2018,
spéc. p. 125 et s.
20 En ce sens, et dans le contexte des algorithmes, v. l’étude du Conseil de l’Europe, Algorithmes et Droits humains,
DGI(2017)12, p. 43 : https://rm.coe.int/algorithms-and-human-rights-fr/1680795681

6

réfléchissent au « dilemme du trolley » 21 ou étudient le « lifeboat case » 22), est finalement peuétudiée en France, hormis peut-être dans les cas où l’on invite à réfléchir à choisir entre la vie
de la mère ou celle du fœtus, dans les cas d’interruption de grossesse pour motif médical. Le
système français ne s’inscrit pas dans un modèle utilitariste « à l’américaine » et les juristesfrançais sont très mal à l’aise lorsqu’il est question de procéder à une arithmétique des morts(sacrifier une vie pour en sauver cinq est-il envisageable ?). En réalité, la question posée est
plus philosophique que juridique, même si elle renvoie à des concepts bien connus des juristes,
tel que l’état de nécessité. Sur ce point, l’article 122-7 du Code pénal offre cependant quelques
pistes qui, on va le voir, sont en réalité largement soumise à l’appréciation du juge. Le texte
dispose que :« N'est pas pénalement responsable la personne qui, face à un danger actuel ou
imminent qui menace elle-même, autrui ou un bien, accomplit un acte nécessaire à lasauvegarde de la personne ou du bien, sauf s'il y a disproportion entre les moyens
employés et la gravité de la menace ».
À supposer qu’il soit simple de déterminer quand un acte est « nécessaire », en renvoyant au
concept flou de proportionnalité, le texte pourrait ouvrir la voie à un calcul mathématique. Sil’on essayait de coder ce concept dans l’algorithme d’un véhicule autonome, unprogrammateur pourrait sans doute être tenté de traduire cette idée de proportionnalité demanière mathématique (en « deux vies sauvées valent mieux qu’une »). Sauf que, en
jurisprudence, l’approche est beaucoup moins froide que celle-ci. L’état de nécessité est
entendu de manière beaucoup plus complexe et strict qu’un simple calcul. Les « hard cases »donnent lieu, souvent, à des décisions qui sont juridiquement peu orthodoxes 23, ce qui n’aidepas à éclairer un programmeur qui voudrait intégrer les réponses du droit pour résoudre son
dilemme.
La faute des victimes (qui traverse la route alors que le feu est rouge) peut éventuellement
permettre d’aider à la résolution du cas, dans le sens d’une irresponsabilité pénale. Si en
présence d’une victime imprudente, l’on ne peut poursuivre pénalement l’auteur du dommage,ne faudrait-il pas alors programmer l’algorithme pour systématiquement préférer le choix desacrifier celui qui cause son accident ? Encore faut-il préciser que la position de lajurisprudence française est assez stricte sur cette question : en principe, la faute de la victime
n’a aucune incidence sur la responsabilité pénale en cas de faute non-intentionnelle. L’auteur
ne peut être exonéré que si la faute de la victime est la cause exclusive du dommage24. Si en
théorie, on pourrait donc imaginer une IA programmée pour faire son choix en fonction del’attitude fautive ou non de la victime, encore faudrait-il pouvoir programmer la notion de« cause exclusive ». En pratique, cela se révèlera certainement impossible : il faudrait une IAcapable d’analyser, en une fraction de seconde, tous les paramètres : signal rouge, attitude(et évaluation) du comportement de la victime, paramètres supplémentaires : le feu était-il ou
non défectueux, visible, la victime était-elle mal voyante ou non, etc.
En résumé, les principes du droit pénal français s’adaptent mal au cas qui demandent une
approche binaire car la matière est tout sauf arithmétiquement simple. L’office du juge (etparfois du jury) est peut-être plus qu’ailleurs au cœur de la matière, fondamentalement
humaine dans ses choix. Même l’intervention du législateur sera délicate car, on l’a dit, c’est
21 Sur lequel la littérature est abondante aux Etats-Unis. V. par ex. B. L. Huang, Law and Moral Dilemmas, 130

Harv. L. Rev. 659 (book review).

22 Regina v. Dudley & Stephens (1884), 4 Q.B.D. 273 (à propos d’un cas impliquant trois marins ayant échappé aunaufrage de leur navire, dont l’un d’eux était tombé dans le coma, et qui fut dévoré par les deux autres pour survivre.
Condamnés à mort, ils furent finalement graciés).
23 V. de manière topique, l’affaire Perruche, tranchée par l’assemblée plénière de la Cour de cassation et répondant
à la question sommairement résumée : un enfant dont le handicap n’a pas été détecté à la suite d’une erreur
médical peut-il invoquer le préjudice d’être né ? Ass. plén., 17 nov 2000, n° 99-13.701, Bulletin 2000 A. P. n° 9 p.
15.
24 V. not. Crim. 1er avr. 2008, n° 07-87.433, Dalloz Actualité, obs. A. Darsonville.

7

de choix moraux sensibles dont il est question et que, dans la culture française, on répugne àrationaliser les morts.
Le problème est en revanche largement simplifié si l’accident (ou le mauvais choix) fait suiteà un dysfonctionnement de l’IA (l’IA aurait dû ralentir avant, les capteurs ont dysfonctionné,
l’information a été mal comprise, etc.). Dans ce cas, une responsabilité pénale pourra sans
doute être engagée. Evidemment, poursuivre une IA n’a pas de sens : la question de lapersonnalité juridique accordée au robot ne fait fantasmer que quelques rares individus en
France. La véritable question est-elle de savoir contre qui il faut se retourner. Le vendeur duvéhicule ? Celui qui était chargé de son entretien ? La réponse reste ouverte et dépendra descauses exactes du dysfonctionnement. Le rôle des experts et ingénieurs sera sans doute
déterminant dans ces contentieux. Si la « faute » est due à un bug, voire à une mauvaise
programmation, on peut également envisager la mise en cause du programmeur. Si l’on atrompé le consommateur, en lui vantant un véhicule parfaitement sécurisé, le droit pénal de laconsommation pourra aussi être mobilisé, à travers les délits prévus au titre des pratiquescommerciales : le vendeur se soit de vendre un produit non-seulement parfaitement sécurisé,mais il doit être parfaitement transparent sur les risques éventuels. À l’inverse, les « clausesde non-responsabilités » seront sans doute inopérantes, s’agissant de dommages corporels.
Mais l’on bascule ici dans le registre de la responsabilité civile (et de l’indemnisation), qui est
le corollaire naturel (et beaucoup plus matériel) des questions de morale et de droit pénalsoulevées par le Professeur Imai.
En France, la question de l’accident a d’ailleurs surtout été traitée sous cet angle 25, avec despistes écartant la responsabilité du passager humain si le véhicule est totalement automatisé,et des questions plus délicates à résoudre, lorsque l’on est dans un système hybride. On voirque, dans le cadre de la LOM, les données sont pensées pour permettre de déterminer le rôlede chacun, avec sans doute des systèmes de boites noires. On pourrait aussi songer à descaméras internes, mais l’on se heurterait sans doute à des questions de vie privée, voire dedroit à l’image !
En l’absence de rôle joué par le conducteur, dans le système français, la doctrine envisage dedéterminer le responsable en cherchant le « gardien » du véhicule 26. La responsabilité du faitdes choses est souvent évoquée 27. Si le logiciel a été défaillant, outre les règles déjà évoquéesdu droit de la consommation, il est souvent envisagé de se placer sur le terrain de la
responsabilité des produits défectueux. Après tout, même sans réforme, les articles 1245 etsuivants du Code civil offrent une certaine souplesse (avec les promesses d’une réelle
adaptabilité, si l’on jette un regard rétrospectif sur l’ensemble du droit commun de la
responsabilité civile française). Le principe est que :« Le producteur est responsable du dommage causé par un défaut de son produit, qu'ilsoit ou non lié par un contrat avec la victime ».
Les principales difficultés consistent à savoir si le logiciel peut être considéré comme un« produit », avec la délicate preuve également, du défaut de sécurité 28.
L’arrivée sur les routes des véhicules autonomes posent bien d’autres questions, que ladoctrine n’a pour l’instant fait qu’effleurer. Les problèmes identifiés jusqu’à présent ne semble
cependant pas soulever d’insurmontables difficultés et, bien souvent, le droit existant pourrait
suffire.

25 V.

par ex. J.-S. Borghetti, L’accident généré par l’intelligence artificielle autonome, in Le droit civil à l’ère
numérique, Actes du colloque du Master 2 Droit privé général et du Laboratoire de droit civil – Paris II -21 avril 2017.
26 Idem.
27 C. Lachièze, Intelligence artificielle : quel modèle de responsabilité ? Dalloz IP :IT 2020. 663.
28 Sur lesquels, v. L. Andreu (dir.), op. cit., p. 94 et s.

8Le droit antitrust : que ce passe-t-il si un fabriquant de logiciel devient le leader
incontesté sur le marché et refuse d’équiper ses concurrents ? La question peut êtretranchée par l’actuel droit de l’abus de position dominante (art. 102 TFUE). Le refus decontracter pourrait être considéré comme fautif, s’il ne connaît pas de justificationséconomiques favorables aux consommateurs. En amont, le droit des concentrations
peut également être mobilisé, à condition de pouvoir bien cerner les marchésconsidérés.
La propriété intellectuelle : Si le véhicule autonome est constitué par un ensemble detechnologies, appartenant à plusieurs entreprises, comment articuler ces alliances ?
Le droit des licence FRAND offre un cadre déjà satisfaisant.
Le droit du financement : certains experts indiquent que les véhicules autonomes
seront si chers en début de commercialisation, qu’il faudra nécessairement passer par
des contrats de crédits. Là encore, rien de nouveau à signaler : le droit du crédit et dufinancement offre un cadre complet. Etc.
En réalité, hormis le cas du dilemme moral évoqué au début de cette seconde partie, le reste
des questions soulevées par la mise sur le marché des véhicules autonomes ne soulève pas
de grandes difficultés conceptuelles. Les différentes règles du droit positif français permettent
sous doute déjà d’apporter des solutions satisfaisantes ou, à tout le moins, des embryons deréponses 29. Comme l’a écrit le Professeur Croze, « le droit est plein de ressources et peut faire
preuve d'une étonnante plasticité. Bon nombre de questions qui semblent redoutables
pourront sans doute être réglées avec d'anciennes recettes : par exemple la défaillance
mécanique du véhicule pourra engager la responsabilité du vendeur ou du constructeur, lafaute de la victime restera un paramètre de son indemnisation, les défauts des équipements
routiers pourront être invoqués contre l'État ou les collectivités territoriales, etc. »30.
Malgré cette marque de foi en l’adaptabilité du droit français, il sera sans doute nécessaire au
législateur de procéder à de nombreuses réformes et ajustements, afin d’éviter les lacunes etde sécuriser au mieux le développement des véhicules autonomes. Faudra-t-il distinguer un« opérateur frontal » et un « opérateur amont » dans le droit de la responsabilité, comme lesuggère le Parlement européen 31 ? De nombreuses questions techniques, ou liées auxdonnées, nécessitent des réponses précises que n’apportent pas encore le droit positif. Il sera
par exemple important de définir un cadre commun pour la programmation, car aujourd’hui,chaque constructeur développe ses propres modèles de réaction et d’apprentissage desvéhicules 32 . Mais il sera nécessaire de trouver un équilibre : si les règles sont trop
contraignantes, trop lourdes du côté des constructeurs, un bilan économique sera rapidement
opéré et le risque est celui de prendre un retard considérable dans le développement de ces
technologies dont l’utilité est incontestable.
Lyon, le 21 février 2021

29 V.

par ex. les analogies présentées par M. Griguer et D. Scemama, Retour sur le régime juridique deresponsabilité en matière de véhicules autonomes issu de la loi Pacte, Cahiers de droit de l'entreprise n° 4, juill.
2020, prat. 20.
30 H. Croze, préc.
31 D. Galbois, Responsabilité civile pour l’intelligence artificielle selon Bruxelles : une initiative à saluer, desdispositions à améliorer, D. 2021. 87.
32 G. Loiseau, La voiture qui tuait toute seule, D. 2018. 793.

9

Bibliographie indicative
•
•
•
•

•
•
•
•
•
•
•
•
•

Andreu (L.) (dir.), Des voitures autonomes – Une offre de loi, Essai, Dalloz 2018.
Barsan (I.), La voiture autonome : aspects juridiques, Communication Commerceélectronique n° 2, Février 2018, étude 3.
Bénéjat (M.), Le droit pénal de la route face aux nouveaux modes de transport, AJ
pénal 2019. 428.
Borghetti (J.-S.), L’accident généré par l’intelligence artificielle autonome, in Le droit
civil à l’ère numérique, Actes du colloque du Master 2 Droit privé général et duLaboratoire de droit civil – Paris II -21 avril 2017.
Coca-Vila (I.), Self-Driving Cars in Dilemmatic Situations: An Approach Based on the
Theory of Justification in Criminal Law, 12 Crim. L. & Phil. 59, march 2018.
Croze (H.), De l’intelligence artificielle à la morale artificielle – Les dilemmes de lavoiture autonome, JCP G n° 14, 2 Avril 2018, 378.
Geistfeld (M. A.), A Roadmap for Autonomous Vehicles: State Tort Liability, Automobile
Insurance, and Federal Safety Regulation, 105 Calif. L. Rev. 1611, december 2017.
King (D.), Putting the Reins on Autonomous Vehicle Liability: Why Horse Accidents are
the best Common Law Analogy, (2018) 19 N.C. J.L. & Tech. On. 127.
Merabet (S.), Vers un droit de l’intelligence artificielle, Nouvelle Bibl. thèses, vol. 197,
Dalloz 2020.
Noguéro (D.), Assurance et véhicules connectés – Regard de l’universitaire français,Dalloz IP/IT 2019. 597.
Roda (J.-C.), Conférence CRDP / IRDA IVe Éd. : Ép.14. Voiture autonome + droit, mai2018 : https://www.lesconferences.ca/videos/voitures-autonomes-droit/
Ross (B. A.), Automated Vehicle Lawsuits – How Will We Litigate the Auto Crash of the
Future? , (winter 2018) 47-WTR Brief 42.
Tronsor (W. J.), The Omnipotent Programmer, (2018) 15-2 Rutgers J. L. & Pub. Pol’y213.

10