Međutim, šta se dešava ukoliko robotizovano vozilo mora da napravi izbor i presudi da li će u slučaju udesa povrediti svog vlasnika ili druge učesnike u saobraćaju? Sa ubrzanim razvojem autonomnih vozila, vozila bez vozača, rešenje ove psihološke i socijalne dileme želi da čuje sve veći broj budućih kupaca.

Drugim rečima, ljudi žele da kao vlasnici ovih automobila zaštite pešake i vlasnike drugih automobila, ali ne žele da odustanu od svoje bezbednosti, niti da potpunu autonomiju u odlučivanju povere robotima.

Tim istraživača sa Univerziteta u Kaliforniji, na čelu sa profesorom psihologije i društvenog ponašanja Azimom Šarifom, sproveo je istraživanje javnog mnjenja po pitanju nekoliko hipotetičkih scenarija koji se mogu dogoditi. Jedan od njih je bio, kakvu odluku robot koji upravlja autom može da donese u situaciji kada postoji opasnost da auto naleti na grupi neopreznih pešaka. Koju etičku odluku će doneti, ako je jedina opcija da se „zakuca” u zid ili surva niz liticu u pokušaju da sačuva njihove živote?

Kada su suočeni sa ovakvom dilemom, budućim kupcima malo znače uveravanja proizvođača, zasnovana na opštoj statistici, koja tvrdi da se ogroman procenat smrtnih ishoda (40,000) i povreda (4,5 miliona) izazvanih ljudskim faktorom u saobraćaju, može izbeći upotrebom robotizovanih vozača koji se oslanjaju na najsavremenije senzore i sisteme kontrole bezbednosti.

Jedno od pitanja u istraživanju je bilo i da li odobravaju upotrebu automobila bez vozača. Zanimljivo je da je najveći broj ispitanika rekao da podržavaju razvoj ove tehnologije, i voleli bi da vide te automobile na ulicama, ali ne bi želeli da njima zamene svoje automobile sa klasičnim komandama. Tim istraživača je pokrenuo i sajt Moralna Mašina, gde se ova tehnološka i moralna pitanja dublje analiziraju kroz interaktivnu komunikaciju sa posetiocima.

Problem automatizacije komandi je već imao svoj relativno neuspešan prodor u avio-tehnologiju. Postojeći sistem, poznat kao „kontrolisani let u cilju izbegavanja kopna”, koji bi trebalo da otkloni opasnost od loše procene pilota ili samoubilačkih letova, za sada nisu usvojile najveće avio-kompanije. Ipak, stručnjaci za razvoj robotizovanih automobila veruju da će tehnologija automatizovanih vozila pre zaživeti u drumskoj, nego u avio-industriji.

Nesporna je činjenica da će neko morati da ispiše kod koji će odrediti sudbine ljudi u takvim okolnostima. Bez obzira na mere predostrožnosti koje će biti ugrađene u kod automatizovanih automobila (pr. precizno određena brzina u gustom saobraćaju, savršeni sistem pravovremenog kočenja, poseban mod kretanja po lošim vremenskim uslovima i sl.) bilo bi neozbiljno tvrditi da do nesreća nikada neće doći.

Ono što zaista plaši, je nagoveštaj da odluka o ponašanju vozila u takvim okolnostima mora biti doneta kroz konzorcijum vlada država, a da će sve automobilske industrije morati strogo da je poštuju, da bi se izbegla svojevoljna (ne)etička podešavanja.