Machines et Moralité

photo de l'auteur Robot
Ancien membre
Utilisateur désinscrit
Je reproduis ici le propos d'un blogueur sur l'un des nombreux sujets qui me passionne, ici les voitures dites "autonomes". Voici -en partie- le texte en question:


De mon point de vue, quand la voiture a un défaut et va forcément tuer
quelqu'un, c'est aux personnes DANS la voiture de se sacrifier.

Si on sacrifie les piétons dans la rue car ils sont plus agés, alors que
la voiture contient des enfants, oui, on aura sauvé des enfants au
détriment de personnes agées....

Or ce sont les personnes qui ont décidé de prendre la voiture qui
doivent assumer le·s problème·s de la voiture. Ce ne sont pas aux
piétons. Ce sont aux gens qui ont fait le choix de transports dangereux
(ici la voiture) et polluants.

Après ce n'est qu'une réflexion, mais en plus j'y pense, en plus
j'arrive à cette conclusion. Si on commence à dire qu'il faut
privilégier les personnes qui "valent" le plus, qu'est ce qui empêchera,
dans quelques années, d'avoir des voitures qui sauveront en priorité
des politiciens / hommes d'affaires au détriment d'autres ? (enfants ?
handicapés ?)

Dans l'absolu, est-ce qu'il ne faudrait pas définir qu'un piéton en
situation régulière (et pas qui se jette sous une voiture) est
prioritaire ?
Si oui, alors il faudrait l'imposer aux constructeurs (loi, code vérifiable et vérifié).

Mais pour moi le piéton doit vivre. Il faut rappeler aux gens qu'en
voiture c'est 1 tonne de métal qu'ils déplacent à 50/60/70/130 km/h. Et
qu'ils ont la responsabilité de tout ce qui arrivera, qu'ils conduisent
ou non.

La voiture autonome n'est pas une solution, mais si elle commence à privilégier certaines personnes, elle deviendra un problème.

- Moral Machine - Les liens du Lapin Masqué

Si vous avez un avis sur le sujet, quel est-il ?


photo de l'auteur Robot
Ancien membre
Utilisateur désinscrit
le mensonge et la vanité sont des défauts moraux !
la voiture est un mensonge et une vanité !
donc la voiture autonome ou pas est une défaite morale !

photo de l'auteur Dedale
Dedale
Homme de 23 ans
Strasbourg

14 remerciements
le problème dans ce genre de situation, c'est que si il y a une perte (mort/accident/blessé) il doit y avoir responsabilité. Le soucis avec les voitures autonomes, c'est que la responsabilité doit être imputé a quelqu'un d'autre que la machine, et il y a donc plusieurs possibilités: imputer la faute au passager (comme le mentionne la citation) qui a choisi d'utiliser la voiture, ou l'imputer au constructeur de la voiture, qui a créer un système dangereux.
Quoi qu'il arrive, dans une situation ou des gens mourrons forcément, on laisserait à la voiture le choix de décider qui vivra et qui mourra, sauf que si on y réfléchis bien, la machine ne choisi rien par elle même, elle choisi selon un algorithme défini par des gens. Donc techniquement, on pourrait imputer les morts causé par cette voiture à ceux qui ont défini ce code.

Je rejoins tout a fait le faite qu'il est ridicule de créer une "hiérarchie" entre les gens, comme si la valeur d'une vie différait d'une personne à l'autre.
Comme si la vie d'un enfant valait plus que la vie d'une personne âgée pour la simple raison que statistiquement, l'enfant à plus d'année à vivre que la personne âgée. 
Tout ce débat moral que pose les voitures autonomes me semble un peu ridicule, car les questions qui me semble importante sont:
peut on laisser un programme informatique décider de qui doit vivre en cas d'urgence? 
Qui est apte à définir un tel programme?
Qui est responsable en cas de mort d'une personne? 

A mon sens, le cas de la voiture autonome est une vrai bêtise, car cela crée une situation ou on devra considérer la machine comme un organe décideur, et non plus un outils (qui suis la volonté d'un homme).
Certes, l'homme est faillible, mais il est responsable. La machine est moins faillible sans doute, mais n'est pas responsable, et c’est un vrai problème, en particulier si une situation implique des victimes qui demanderons des comptes. 

Dans ce cas, j'aurais tendance à dire que ce sont ceux qui ont créé le programme qui seront responsable des morts, car ce sont eux qui déciderons des choix que formulera la voiture, et les morts refléterons leurs choix (et ce même si il se contentent de copier les choix de sondage, ect... ils sont seuls responsables du code qu'il créeront et devrons en assumer les lourdes responsabilités à mon sens) . 
Donc pour moi, la charge des potentiels victimes revient au constructeur de la voiture, puisque la voiture exécutera les choix du constructeur. 

photo de l'auteur Robot
Ancien membre
Utilisateur désinscrit
@Dedale: Bien dit, tu rejoins donc l'avis de l'auteur de blog en quelque sorte. Cette question de la hiérarchie me fais penser à I Robot justement, où le protagoniste a justement été sauvé par un robot plutôt qu'une jeune fille qui était à ses cotés car "il avait de meilleures chances de survie".

Pour participer à ce sujet, il faut être obligatoirement inscrit