Наскоро, „проблема на тролея“, обмислян проблем от десетилетия в моралната философия, се радва на втора кариера във вид в който се появяват кошмарни видения за бъдещето, където колите взимат решения за живот или смърт за хората.
Сред много специалисти на автомобили без шофьор, обаче, говоренето за количките е „très gauche“. Те наричат „проблема на тролея“ сензационен и неуместен. Но това отношение е жалко. Благодарение на пристигането на автономни превозни средства ще се отговори на „проблема на тролея“ – това е неизбежно. По-важното обаче е, че този отговор ще преустанови дълбоко начина, по който се прилага законът в Америка.
За да разберете „проблема на тролея“, първо помислете за този сценарий: Вие стоите на мост. Под вас железопътната линия се разделя на основен и алтернативен маршрут. На главния маршрут 50 души са вързани на релсите. Тролейбусът се движи под моста по главния маршрут и се движи към пленниците. За щастие на моста има лост, който при изтегляне ще отклони тролея на алтернативния маршрут. За съжаление, алтернативният маршрут не е изчистен от пленници – но само един човек е свързан с него, вместо 50. Ще дръпнете ли лоста?
Сега помислете за това: За пореден път сте на мост, под който минава железопътна писта, към която са привързани 50 души. Този път обаче има само една пътечка и забелязвате количката по-рано, на около миля зад вас. На моста до вас има тежък човек, който се навежда несигурно над парапета. Появява се ужасна мисъл – лесно можете да бутнете човека в пистата. Когато тролеят го удари, ще спре, спасявайки живота на 50-те. Ще бутнете ли тежкия човек? Няма правилни или грешни отговори тук. Проблемът произтича от факта, че много хора казват, че със съжаление ще издърпат лоста, но след това ще се отдръпнат, за да бутнат тежкия човек. Трудно е да се определи морален принцип, който би бил приемлив за повечето хора (т.е. те няма да се противопоставят на последователното му прилагане във всички сценарии) и едновременно да оправдаят всяко от по-горните положения. Например, ако вашият ръководен принцип е да се сведат до минимум жертвите, не трябва да има разумно разграничение между убиването на човек чрез натискане, за разлика от бутането. Все пак всички можем да признаем, че нещо, свързано с бутането на тежкия човек е различно – изглежда по-близо до убийството. „Проблема на тролея“ подчертава тревожна възможност: че нашата морална интуиция се управлява от произволни или повърхностни фактори, както и от добре обмислени принципи.
Не е трудно да се видят паралелите с пътния сценарий, в който, да речем, избягването на автомобилен сблъсък, означава да се сблъскате с тълпа кафе-патрони. Но много експерти бързо посочиха, че сценариите за „проблема на тролея“ вече са редки събития; Самоуправляващите се првозни средства обещават да бъдат по-безопасни от всеки човешки оператор. Възпрепятстването на разпространението на технология, която може да донесе безброй предимства пред такива страхове, би била истерична, твърдят те.
Този отговор има заслуга, но тясното му съсредоточаване върху безопасността на автомобилите игнорира по-широк въпрос: „Проблема на тролея“ прониква в американската право. Наред с други неща, най-често срещаната роля на гражданското жури е да определи дали действията на ответника, при прехвърлянето на разходите и рисковете от една страна в друга, са разумни. За да се направят тези определения, журитата обикновено са инструктирани да прилагат груба и готова математическа формула, известна като Ръковото правило (оформено след съдия от началото на 20-ти век, наречено – да, наистина! – Learned Hand), което балансира интересите на онези, които са били засегнати от действията на ответника – прототип на сценариите на „проблема на тролея“. Разбира се, не е нужно да сте адвокат, за да прочетете това и да забележите несъответствието: Ако можем да намерим правилния отговор като просто включим стойностите в уравнение, тогава защо изобщо имаме нужда от жури?
Истината е, че Ръковото правило което същевременно предоставя приемлив отговор през по-голямата част от времето, понякога ще даде един, който е жесток. Той може да се провали, защото отново нашите морални интуиции не винаги са удовлетворени от придържането към по-високи принципи. Когато това се случи, правната система разчита на съдебните заседатели да намерят място в уравнението и да върнат присъдата, която е съвместима с общественото чувство за справедливост.
При самоуправляващите се автомобили обаче не може да има въртелива стая. Както всеки компютър, самоуправляващата се кола няма да направи нищо, освен ако не е инструктиран. Програмистът не може просто да му даде инструкции за повечето сценарии и да избягва да мисли за крайни случаи. В същото време самоуправляващата се кола трябва да взема решения в рамките на по-малко от секунда. Няма никаква възможност да се представят обстоятелствата на външно човешко „съдебно жури“ за преглед. По този начин инструкциите трябва да застанат на собствено основание. Някой ще трябва да предложи (или поне да приеме, когато алгоритъмът предлага) явно и недвусмислено правило за това кога да издърпа лоста, да бутне тежкия човек или да се запъти в кафенето. Обществото трябва сериозно да вземе „проблема на тролея“, не защото самоуправляващите се автомобили не трябва да бъдат изпробвани, докато той не бъде разрешен, а защото самоуправляващите се автомобили ще наложат решение – и стойностите, въплътени в това решение, вероятно ще бъдат възприети в редица важни граждански арени, включително и в законът.
Но на кого може да се разчита, за да разреши „проблема на тролея“ разумно? Най-малко един академик е твърдил, че адвокатите трябва да дойдат на помощ. Проблемът с това понятие е, че адвокатите са прекарали по-голямата част от историята на тази професия бягайки от предоставянето на окончателни отговори на трудни проблеми. Адвокатите дори са измислили поговорка, за да направят тази отмяна да изглежда отговорна: „Твърдите случаи правят лош закон.“ – казват те. В действителност, аргументът на адвокатите който според тях „ще ни спаси“, притежава посоката на причинността наобратно: въздействието на закона няма да се усети върху „проблема на тролея“; по-скоро въздействието на „проблема на тролея“ и неговото решение ще се усети от закона – например, как журитата са инструктирани да определят дали някой се държи разумно.
Примамливо е да се надяваме, че някой друг ще дойде и ще реши „проблема на тролея“. В края на краищата, намирането на решение изисква да се сблъскате с някои неудобни истини за моралната чувствителност. Представете си, например, че автомобилите без водачи се управляват от просто правило: „минимизиране на жертвите“. Понякога това правило може да доведе до нежелателни резултати – например да блъсне една майка и двете й деца на тротоара, вместо да удря четирима възрастни, които незаконно се намират на улицата. Така че правилото може да бъде допълнено с условие: „Да се сведат до минимум жертвите, освен ако една от страните не се изложи на опасност.“.
Но какво ще стане, ако изборът е между четирима пресичащи мъже и три пресичащи майки – или четири пресичащи майки, или просто четири жени? Разумните хора може да са несъгласни с това какъв резултат би бил приемлив в тези сценарии и да се борят да рационализират своите позиции. Твърдите казуси не правят лош закон, правят лоши юристи, които се страхуват да признаят, че техните мотиви често се дължат на егоизъм, сантименталност или социален натиск.
Въпреки тези предизвикателства, обществото трябва да се противопостави на аутсорсинга на своята морална кодификация. Ако отговорът на „проблема на тролея“ е да отразяват или поне да бъдат информирани за богатото разнообразие от опит, нагласи и мнения в американските общности, то от решаващо значение е всички да участват в процеса. Експертите могат да кажат, че „проблема на тролея“ не е нищо тревожно, но те забравят, че автомобилите са преди всичко превозни средства. Дори и да не сте напълно заинтересовани от това, как самоуправляващите се автомобили функционират докато сте вътре в тях, трябва да сте много загрижени за това къде ще се озовете, когато излезете от тях. В този случай те карат обществото към правни и политически реформи, които не бива да се пренебрегват.
