Qui serà assassinat per un cotxe autònom? Màquina, salva tantes persones com sigui possible, però sobretot salva'm!

Si sorgeix una situació en què el sistema autònom d'un cotxe ha de triar ràpidament a qui sacrificar en cas d'un accident imminent, com hauria de reaccionar? Sacrificar els passatgers per salvar els vianants? Si cal, matar un vianant per estalviar, per exemple, una família de quatre persones que viatja en un cotxe? O potser sempre hauria de protegir-se primer?

Tot i que més de seixanta empreses ja han rebut permisos de proves personals només a Califòrnia, és difícil dir que la indústria estigui preparada per enfrontar-se a dilemes ètics. De moment, està lluitant amb problemes més bàsics: el funcionament i l'eficiència de navegació dels sistemes i simplement evitar col·lisions i imprevistos. En situacions com el recent assassinat d'un vianant a Arizona, o els accidents posteriors (1), fins ara s'ha tractat simplement de fallades del sistema, i no d'algun tipus d'"elecció ètica" del cotxe.

Salva els rics i els joves

Els problemes de prendre aquest tipus de decisions no són problemes abstractes. Qualsevol conductor experimentat pot certificar-ho. L'any passat, els investigadors del MIT Media Lab van analitzar més de quaranta milions de respostes d'enquestats d'arreu del món, que van recollir en el curs d'una investigació llançada el 2014. El sistema d'enquestes que anomenen "Màquina Ètica" va demostrar que en diversos llocs del voltant al món, preguntes semblants es fan respostes diferents.

Les conclusions més generals són previsibles. En situacions extremes la gent prefereix salvar persones a tenir cura dels animals, amb l'objectiu de salvar tantes vides com sigui possible i tendeix a ser més jove que la gent gran (2). També hi ha algunes preferències, però menys òbvies, a l'hora de rescatar dones per sobre d'homes, persones amb un estatus més alt sobre persones més pobres i vianants per sobre dels passatgers dels cotxes..

2. A qui ha de salvar el cotxe?

Com que gairebé mig milió d'enquestats van omplir qüestionaris demogràfics, va ser possible correlacionar les seves preferències amb l'edat, el gènere i les creences religioses. Els investigadors van concloure que aquestes diferències no "afectaven de manera significativa" les decisions de les persones, però van observar algunes influències culturals. Els francesos, per exemple, acostumaven a ponderar les decisions en funció del nombre estimat de morts, mentre que al Japó l'èmfasi era el menys. Tanmateix, al País del Sol Naixent es valora molt més la vida de la gent gran que a Occident.

"Abans de permetre que els nostres cotxes prenguin les seves pròpies decisions ètiques, hem de tenir un debat global sobre això. Quan les empreses que treballen en sistemes autònoms coneguin les nostres preferències, desenvoluparan algorismes ètics en màquines basades en ells, i els polítics poden començar a introduir disposicions legals adequades ", van escriure els científics l'octubre de 2018 a Nature.

Un dels investigadors implicats en l'experiment de la Màquina Moral, Jean-Francois Bonnefont, va trobar alarmant la preferència per rescatar persones d'estatus superiors (com ara executius sobre persones sense llar). En la seva opinió, això està molt relacionat amb el nivell de desigualtat econòmica en un país determinat. Allà on les desigualtats eren més grans, es va preferir sacrificar els pobres i les persones sense sostre.

Un dels estudis anteriors mostrava, en particular, que, segons els enquestats, un cotxe autònom hauria de protegir el màxim de persones possible, encara que signifiqui perdre passatgers. Al mateix temps, però, els enquestats van afirmar que no comprarien un cotxe programat d'aquesta manera. Els investigadors ho van explicar Tot i que la gent troba més ètic salvar més gent, també s'interessa per si mateix, cosa que podria ser un senyal per als fabricants que els clients es resistiran a comprar cotxes equipats amb sistemes altruistes.. Fa un temps, representants de l'empresa Mercedes-Benz van dir que si el seu sistema salvava només una persona, escolliria el conductor, no el vianant. Una onada de protesta ciutadana va obligar l'empresa a retirar la seva declaració. Però la investigació mostra clarament que hi havia molta hipocresia en aquesta santa indignació.

Això ja està passant en alguns països. primers intents de regulació legal al camp. Alemanya ha aprovat una llei que obliga els cotxes sense conductor a evitar lesions o morts a qualsevol preu. La llei també estableix que els algorismes mai poden prendre decisions en funció de característiques com l'edat, el gènere, la salut o els vianants.

Audi es fa càrrec

El dissenyador no és capaç de predir totes les conseqüències del funcionament del cotxe. La realitat sempre pot proporcionar una combinació de variables que mai s'havien provat abans. Això soscava la nostra fe en la possibilitat de "programar èticament" una màquina. Ens sembla que en situacions en què es produeix un error i es produeix una tragèdia "per culpa del cotxe", la responsabilitat ha de ser a càrrec del fabricant i desenvolupador del sistema.

Potser aquest raonament és correcte, però potser no perquè fos incorrecte. Més aviat, perquè es va permetre un moviment que no estava el 2019% lliure de la possibilitat de fer-lo. Aquesta sembla ser la raó, i l'empresa no defugia la responsabilitat compartida, que recentment va anunciar que assumiria la responsabilitat dels accidents que involucren un A8 de 3 anys mentre utilitzava un sistema automàtic Traffic Jam Pilot (XNUMX).

3. Interfície Audi Traffic Jam Pilot

D'altra banda, hi ha milions de persones que condueixen cotxes i també cometen errors. Aleshores, per què s'han de discriminar en aquest sentit les màquines, que estadísticament cometen molts menys errors que els humans, com ho demostren nombrosos errors?

Si algú pensa que els dilemes de l'ètica i la responsabilitat en el món del vehicle autònom són senzills, segueixi pensant...