Quand l'intelligence artificielle doit faire face à des choix moraux

Imaginez un train. Il fonce en ligne droite, à toute allure, visiblement inarrêtable. À quelques centaines de mètres devant lui se trouve une jonction entre deux rails. Vous, vous êtes installé, tranquillement, à côté de cette jonction. Et vous avez à disposition une sorte de levier : si vous l’actionnez, le train prendra les rails de droite. Sinon, il prendra automatiquement ceux de gauche.

Il y a toutefois un problème. Sur les rails de droite, un jeune homme est coincé. Mais sur ceux de gauche, cinq hommes sont attachés. Faut-il actionner le levier ou vaut-il mieux ne pas agir ? On appelle cela le "dilemme du tramway" et vous êtes le seul à même de prendre une décision. 

Depuis un an, une équipe de chercheurs du MIT ont lancé un curieux site appelé Moral Machine qui reprend exactement ce dilemme pour l’accorder avec une thématique contemporaine : le développement de l’intelligence artificielle. On doit ainsi voter pour savoir si une voiture autonome doit écraser les passants de droite, ceux de gauche ou, parfois, sacrifier les personnes se trouvant dans la voiture.   

The Outline nous rapporte qu’après le lancement du projet, la couverture médiatique a été telle – le Guardian, New York Times, Scientific American… –, qu’à ce jour, près de 18 millions de votes ont été enregistrés sur les différents questionnaires, pour 1,3 million de votants. La quantité de données enregistrées a été telle que deux chercheurs, Iyad Rahwan, chercheur au MIT à l’origine de Moral Machine, et Ariel Procaccia, professeur assistant en science informatique à l’université Carnagie Mellon, ont décidé de créer une IA fondée sur les réponses à Moral Machine.