Moral Machine

 

Le billet de Colette Mercier

 

Tenez-vous bien tout ce qui suit est absolument réel et déjà dans les tuyaux.

 

La voiture autonome : summum de la sécurité routière ?

 

Nombreux sont ceux qui se réjouissent déjà que les voitures puissent fonctionner sans intervention manuelle ; ce qui d’après ce qui nous est vendu réduirait les risques d’erreur humaine et diminuerait nécessairement le nombre de morts sur les routes.

Soyez rassurés, l’électronique, les caméras, les capteurs thermiques, les radars tout cet attirail garantira une sécurité optimale sans intervention humaine. À condition bien sûr qu’il n’y ait pas de bug, et surtout que vous ne passiez pas dans un champ magnétique qui parasite toute votre installation. Ainsi, je me souviens avoir garé ma voiture un week-end en ville et n’avoir pas pu repartir ; le déblocage des portes ne voulant plus fonctionner, pas plus que le contact ni quoi que ce soit. Enquête faite c’étaient les alarmes d’un grand magasin voisin qui interféraient avec l’électronique de mon auto.

Il a fallu revenir le lundi pour que le magasin en question accepte de débrancher son installation et que je puisse repartir. Bref, imaginez que cela se produise alors que le véhicule est en marche et vous dedans. De nombreux cas sont déjà documentés d’incidents et accidents dus à des défaillances de l’électronique de bord.

 

L’homme maillon faible du dispositif

 

Dans ces conditions face aux robots, il faut bien comprendre que l’homme sera le maillon faible d’une route partagée avec des véhicules autonomes. En effet, l’homme aura forcément une conduite aléatoire au milieu d’un flot de robots qui eux auront tous une conduite hyper rationnelle pilotée par algorithme. Nous serons donc l’élément perturbateur de cette belle organisation théorique et on ne tardera pas à nous expliquer qu’il nous est interdit de conduire car nous perturbons les robots qui eux comme chacun sait sont infaillibles, impiratables et jamais fabriqués à moindre coût ni en spéculant sur la gestion du risque plutôt que le principe de précaution.

 

La gestion de risque plus rentable que le contrôle préventif

 

Vous l’avez sans doute déjà remarqué, les industriels minimisent les contrôles en amont en phase de fabrication, ils préfèrent gérer le risque lorsqu’il échoit. C’est nettement moins coûteux et les victimes ont toujours l’éternité devant elles pour faire des procès. Le fautif paiera peut-être un jour, après avoir négocié les amendes et les pénalités. Et encore faudra-t-il qu’il ait été condamné après vous avoir imputé la charge de la preuve de sa faute. La victime aura toujours le temps de mourir et l’action de s’éteindre avec elle.

C’est ce qui se pratique déjà couramment dans l’industrie agroalimentaire, dans la chimie, dans la pharmacie et… même dans l‘automobile où les tests normatifs sont carrément trafiqués. Dans ces conditions, vous pouvez compter que l’électronique de bord de votre voiture autonome aura été achetée au coût le plus bas à un chinois qui appliquera des procédures de contrôle industriel à sa façon. Allez donc plaider contre un sous-traitant en Chine dont le contrat prévoit que les litiges se régleront devant un juge arbitre situé aux îles Caïman ou au Belize.

Bref, vous pourrez toujours aller vous faire dorer.

 

Mais ce n’est pas tout, la « Moral Machine » gérera les questions éthiques

 

Et oui, il va bien falloir que le robot sache quoi décider en cas de pépin. Les robots qui seront seuls responsables des vies humaines en cas de problème vont devoir découvrir l’éthique.

Rassurez-vous, tout est déjà prévu et les laboratoires ont déjà conçu un robot capable d’abriter en cas de conflit éthique. Qui dois-je écraser ? Le gamin avec le ballon ou le vieillard ? La poussette ou le chien ? La personne âgée ou le jeune homme ? Je me jette dans le ravin ou j’écrase le fauteuil roulant en dehors des clous ?

Tenez-vous bien, les chercheurs recourent à un modèle mathématique identifiant les solutions possibles à un problème de conduite, leur attribuant un « score » dépendant des réponses données par les internautes sur ‘’Moral Machine’’. Le principe du deep learning s’applique : les nombreux exemples fournis par les internautes pourront constituer une base de données afin ‘’d’apprendre » aux voitures autonomes à bien se conduire…

Vous pouvez vous-même vous confronter aux questions que pose le MIT dans son étude et parcourir les différents scénarios.

Vous voyez le problème et les cas que les tribunaux vont devoir trancher ?

 

Et la question chromatique ou catégorielle ?

 

Discrimination positive oblige, et s’il faut arbitrer entre deux cas équivalents sur le seul critère chromatique, on fait quoi ?

Et s’il faut arbitrer sur un critère d’appartenance ; la femme voilée ou la blonde nue tête ? Le tarbouche ou la kippa ? Le sari ou la cornette ?

C’est le robot qui dira quoi faire.

Je ne sais pas vous, mais moi je ne veux pas d’un monde où les questions morales ou d’éthique seraient réglées par des machines. JAMAIS.

Faites connaitre notre site, partagez !