De fapt, criteriile morale de luat in calcul in astfel de situatii vor trebui sa indeplineasca trei obiective aproape incompatibile: sa aiba o coerenta, sa nu provoace indignarea publica si sa nu descurajeze cumparatorii.
Masinile autonome sunt deja testate pe strazi, dar, inainte de a fi distribuite pe scara larga, producatorii sunt pusi in fata situatiei de traduce dileme etice in algoritmi bine definiti. Noile tehnologii auto sunt mai mult decat o moda. Caracteristici aproape SF au devenit standarde comune in prezent: cruise-control, parcare asistata si chiar depasire automata permit soferilor sa stea comod in scaun, chiar daca nu relaxati in totalitate, si sa lase masina sa preia controlul.
In acest context nu e deloc surprinzator faptul ca multi dintre producatorii de automobile au inceput sa gandeasca sisteme care sa preia controlul total. Aceste sisteme vor fi mai sigure, mult mai putin poluante si mult mai eficiente fata de cele manuale. Cu toate acestea ele nu pot garanta siguranta ideala.
Si tocmai faptul ca nimeni nu poate garanta siguranta ideala ridica probleme dificile: cum ar trebui sa fie programata masina sa reactioneze in cazul unui accident inevitabil? Ar trebui sa reduca la minimum pierderile de vieti omenesti, chiar daca aceasta inseamna sacrificarea pasagerilor? Sau ar trebui sa protejeze pasagerii cu orice pret? Iata cum dilema se transforma intr-o alegere dintre doua extreme, alegere ce capata forma unei dileme etice care merge chiar si pana la optiunea ca, in astfel de situatii, vehiculul autonom sa fie programat sa ia astfel de decizii la intamplare, exact ca un sofer actionand instinctiv, in viata reala.
Cine ar cumpara o masina programata sa-si sacrifice proprietarul?
Ce companie de asigurari ar asigura o astfel de masina si in ce conditii?
Raspunsurile la aceste dileme sunt extrem de importante pentru ca vor avea cel mai mare impact asupra modului in care acest tip de vehicule vor fi acceptate de societate. Cine ar cumpara o masina programata sa-si sacrifice proprietarul? Ce companie de asigurari ar asigura o astfel de masina si in ce conditii?
O echipa de cercetatori coordonata de Jean-Francois BONNEFON, Scoala de Economie Toulouse a incercat sa gaseasca si sa fundamenteze argumentele pentru rezolvarea acestei dileme reale. Prima afirmatie a studiului publicat de specialistii francezi ne spune ca, desi nu exista nici un raspuns corect sau gresit la aceste intrebari, opinia publica va juca un rol semnificativ in modul in care vehiculele autonome vor fi acceptate de societate.
Ei au observat, de fapt, ca unele dintre accidentele de acest tip sunt inevitabile si provocarea este de fapt definirea algoritmilor. "Stabilirea si implementarea algoritmilor care vor ghida vehiculele autonome reprezinta punctul cheie in rezolvarea dilemei si, in aceste circumstante, ar putea juca rolul cheie in acceptarea de catre public si dezvoltarea acestei tehnologii" scriu cercetatorii. Producatorii si autoritatile de reglementare vor trebui alaturi de psihologi sa aplice metode de etica experimentala pentru astfel de situatii care implica, in fapt, alegerea si acceptarea celui mai mic rau inevitabil in astfel de situatii.
Ipoteza de cercetare: Te afli intr-un vehicul autonom si, dupa un viraj, descoperi ca esti pe calea spre o coliziune inevitabila cu un grup de 10 persoane. Drumul are pereti pe fiecare parte. In cazul in care masina se abate catre partea peretelui cel mai probabil ocupantul vehiculului este ranit grav sau isi pierde viata in accident. Cum ar trebui sa fie programat vehiculul: sa faca orice incercare de a opri stiind foarte bine ca va lovi grupul de persoane sau sa vireze si sa riste viata ocupantului?
Opinia publicului a fost analizata prin noua stiinta a eticii experimentale. Acest lucru implica prezentarea acestor dileme unui numar mare de oameni pentru a analiza modul in care acestia reactioneaza. Cercetatorii afirma ca rezultatele ofera o prima incursiune in problemele spinoase ridicate de algoritmii morali pentru vehiculele autonome.
O modalitate de abordare a acestui tip de problema este actionarea intr-un mod care minimizeaza pierderile de vieti omenesti. Simplificat, acest principiu pleaca de la premisa ca o victima este intotdeauna preferabila in loc de 10 victime.
In analiza lor, cercetatorii au analizat cateva sute de persoane folosind un sistem online de crowdsourcing furnizat de Amazon. Ei au prezentat participantilor un numar de scenarii, inclusiv cel mentionat anterior, modificand numarul de persoane din masina, numarul de persoane din grup, varsta oamenilor din masina (incluzand si copii).
Este acceptabila varianta ca un vehicul autonom sa se izbeasca intr-un zid pentru a evita o motocicleta avand in vedere ca probabilitatea de supravietuire este mai mare pentru pasagerul din masina decat pentru cel aflat pe motocicleta? Ar trebui ca deciziile sa fie diferite in situatia in care pasagerii sunt copii deoarece acestia au o perspectiva de viata superioara adultilor?
Rezultatele nu sunt prea surprinzatoare: oamenii erau dispusi sa sacrifice conducatorul auto in scopul de a-i salva pe altii, dar cei mai multi erau dispusi sa faca acest lucru doar daca nu se considerau a fi ei in vehicul. In timp ce 75% dintre respondenti au considerat ca ar fi moral sa incerce sa franeze, 65% au spus ca masinile ar trebui programate sa faca orice pentru evitarea multimii.
Pe o scara de la 50 (protejarea conducatorului auto cu toate costurile) la -50 (maximizarea numarului de vieti salvate), raspunsul mediu a fost de 24. Potrivit cercetatorilor, rezultatele sugereaza ca participantii au fost, in general, deschisi catre ideea vehiculelor autonome utilitare programate pentru a minimiza pierderea de vieti in caz de accident.
Concluzia paradoxala a studiului este ca oamenii sunt in favoarea vehiculului care sacrifica ocupantul pentru a salva alte vieti atat timp cat nu trebuie sa fie ei in acea masina.
Aspecte juridice
Cercetatorii considera ca activitatea lor reprezinta primii pasi in ceea ce este probabil sa fie un labirint moral complex, iar in viitor aspectele ce vor trebui clarificate sunt de natura a incertitudinii si atribuire si clarificare a vinovatiei in cazul unor astfel de accidente.
Aspectele juridice legate de subiect raman, oarecum, intr-o zona gri. Ar putea fi reglementata legislativ varianta evitarii grupului de pietoni (in cazul nostru) tocmai aplicand principiul alegerii celui mai mic rau? Sau va fi permis ca masinile sa aiba diferite niveluri de "moralitate"? In ipoteza in care un producator ofera diferite versiuni ale algoritmului de morala si un cumparator a ales cu buna stiinta una dintre ele, va fi el responsabil pentru consecintele daunatoare ale deciziilor algoritmului? Care va fi opinia companiilor de asigurare?
Iata ca in perspectiva dotarii a milioane de vehicule cu sisteme autonome definirea moralitatii algoritmului devine o problema urgenta.
Din perspectiva asigurarilor este evident ca vehiculele autonome sunt, in sine, mult mai sigure decat soferii umani si, astfel, se creeaza o noua dilema: achizitionarea unui vehicul autonom deoarece ar putea fi programat sa-si sacrifice proprietarii sau ramanerea la sistemul clasic de condus care pastreaza sanse teoretice de accident mult mai ridicate.
Vehiculele autonome par viitorul logic pentru transportul public, dar asa cum arata azi perspectivele rezolvarii dilemelor morale de programare a acestora se transforma intr-o veritabila provocare.
Sunt date pentru a subscrie riscurile?
Din perspectiva asiguratorilor, orice inovatii sau progrese tehnologice aduc un set de noi riscuri putin intelese. Companiile si autoritatile de reglementare trebuie sa le inteleaga, sa le asume si sa le reglementeze. In prezent, potrivit GCcapitalideas.com, exista precedente insuficiente fundamentate statistic si nu sunt cunostinte generale pentru a permite companiilor de asigurare evaluarea cu exactitate a numeroaselor riscuri ce decurg din utilizarea vehiculelor autonome. Cu toate acestea, in urmatorii ani aceste date vor fi generate la fel de greu urmare a unor litigii complexe.