Представете си автомобил, който се движи с 80 км/час по път в ненаселено място. Вътре пътува малко момиченце и то е само - защото става дума за самоуправляващ се на 100% автомобил - един от онези, за които големите производители твърдят, че до 4 години ще влезат в производство.
Внезапно три други деца се появяват на пътя съвсем неочаквано и автомобилът трябва да вземе решение, според това, как е програмиран: да продължи напред и да блъсне децата или да завие настрани и да се забие в стената, заедно с малката пътничка вътре.
Как е редно да постъпи един самоуправляващ се автомобил?
Най-вероятно, според настройките си, които следват правилото за възможно по-малък брой жертви, колата ще се забие в стената, спасявайки живота на трите деца и жертвайки детето вътре.
А сега си представете, че в автомобила се вози вашето собствено дете. Бихте ли купили на семейството си кола, която ще предпочете да го убие, за да спаси три чужди деца?
Познахте: повечето от хората не биха си купили автомобил, който би пожертвал живота на пътуващия в него, само защото настройките са преценили, че това е най-добрата възможна опция.
Принципът за най-малкото зло, според законите на логиката, не важи, когато става дума за нас самите или близките ни.
Точно това показват и данните от изследване, проведено от американското списание Science. Серия въпроси на учените проверяват настроенията сред американците относно дилемите, които поставят самоуправляващите се коли.
Първият извод, който се налага според данните в анкетата, е парадоксален: запитаните намират за логично самоуправляващите се автомобили да са настроени според универсалната логика и морал: по-добре да убиеш един човек - в случая шофьора, отколкото да смачкаш 10 други души. И все пак мнозинството заявява, че не - не би си купило подобен автомобил, който работи с такъв алгоритъм.
Именно в това се състои голямата пародия на интелигентните автомобили на бъдещето.
Тяхната перфектност ще бъде безкомпромисна в момента, в който трябва да се намалят смъртните случаи, но собствениците на интелигентни автомобили едва ли могат да се примирят с факта, че в повечето случаи именно те ще бъдат жертвите.
Този парадокс, който за момента звучи чисто теоретично, може да се окаже основният мотив за забавянето на масовото производство на самоуправляващите се автомобили - и то в много по-голяма степен, отколкото чисто техническите детайли.
А с всяка една година, в която производството на самоуправляващи се автомобили се забавя - се забавя и намаляването на пътните инциденти в следствие на човешка грешка - което са около 90% от настоящите инциденти, според статистиките.
Но пред дилемата нашите автомобили да ни убият, ако на пътя има повече хора, отколкото се возят в колата - ние сякаш продължаваме да предпочитаме черната хроника, създадена от собственото си шофиране.
Според един от авторите на изследването Азим Шариф, специалист по етика от университета в Орегон, ще се наложи създаването на нови алгоритми за самоуправляващите се автомобили, в които ще има различни ситуации.
"Има неща, които няма как да се избегнат. Ще има ситуации на пътя, в които общите правила ще влизат в конфликт с конкретните случаи и ще се наложи създаването на алгоритми и за такива ситуации".
Всъщност самоуправляващите се автомобили ще се сблъскат с класическа морална дилема, наречена "дилемата на трамвая".
Тя гласи следното: "Ако се возите в трамвай, който се движи по инерция и не може да спре, ще бутнете ли най-тежкия човек от возещите се на релсата, за да спре с тялото си машината? С една дума, убивайки го, бихте ли спасили живота на останалите пет души в трамвая?"
Обикновено около 30% от хората отговарят, че биха постъпили по този начин.
Е, представете си колко сложна става ситуацията, ако трябва да програмираме самоуправляващите се автомобили спрямо различни фактори, като например дали в колата се вози бременна или тежко болен човек. И как да решат проблема автомобилите, ако трябва да избират дали да бутнат пресичащо дете или възрастен човек?
Пред бъдещето на самоуправляващите се коли все още има твърде много морални дилеми - и е ясно, че те ще могат да ги решават само по начина, по който са програмирани - и то без никакво колебание.
"В дебата за бъдещето на самоуправляващите се автомобили не е много ясно кой трябва да поеме отговорността", коментира Рамон Лопез де Мантарас, директор на испанския институт за разучаване на изкуствения интелект IIIA, цитиран от El Pais. "Кой трябва да реши как да постъпват автомобилите: правителствата, производителите, потребителите?".
Според изследването на списание Science, хората не искат правителствата да регулират моралния код на самоуправляващите се автомобили, а големите производители на автоматизиран транспорт (Uber, Google, Volvo, Ford) вече се обединиха, за да упражнят възможно най-голям лобистки натиск върху политическите решения, които предстоят в областта.
Лопез де Мантарас предполага, че е възможно, докато се появят първите абсолютно самоуправляващи се автомобили, изкуственият интелект вече да се развил до степен, в която да може да взема собствени автономни морални решения.
"Но тогава ще възникне нов проблем: автомобилите ще излизат от фабриката еднакви, но всеки един ще може да се самообучава, така че ще достигне някакво собствено етично ниво", подчертава той. "И във всички случаи, контролирането на изкуствения интелект трябва да става по абсолютно прозрачен начин".
Е, това не е много успокоително за потребителите, които едва ли скоро ще забравят скандалите, засегнали големите производители, що се отнася до скриването на реалните данни за вредните емисии в атмосферата и едва ли скоро ще повярват в "ангелските" намерения на корпорациите.
Добре де, нали този който плаща за колата, той поставя условията? Тогава какво по- логично има, колите да са програмирани да изпълняват правото - "газиш и продължаваш".
Първите години ще има проблеми докато се изгради системата. Това е като да играеш срещу AI шах. Знаете колко добре играе той. Просто системата за автомобила ще е леко по - сложен.
Те автомобилите може и да влязат в серийно производство до 4 години, но законодателите няма да са влезли. Така че напълно самоуправляващи се автомобили без намеса на шофьор няма да видим в близките 15 години и със сигурност ще има много ограничения в използването им. А докато станат достатъчно приемливи за да си оставиш детето само на път ще мине още повече време - днешните бебета вече ще имат пораснали деца и повечето няма да са достатъчно богати за да купят самоуправляваща се кола. Погледнете телефоните. От масовизацията на мобилните слушалки през 80-те до днешните смартфони минаха 20 години. И то като имаме предвид, че това е много по-бързо развиваща се индустрия, с много по-малко регулации и много по-къс продуктов живот. И макар че ги наричаме "умни" пак не ги оставяме да вземат решения вместо нас - точно обратното. Позволяваме автоматизация на някои процеси, но повечето хоря се дразнят ако телефонът опитва да поеме пълното управление. И то при положение, че безопасността при смартфоните далеч не е толкова важна за здравето и живота ни, колкото е безопасността при автомобилите. А примерът с колата и момиченцето е тъп. Колата може и да се движи с 80 км/час, но при заплаха от удар ще реагира по-бързо и ще намали скоростта, така че със сигурност няма да се блъсне с 80, а с по-малко, като въобще не е задължително да се блъсне челно. Но дори след удар не е сигурно, че детето ще умре. Всъщност далеч не е толкова лесно да загинеш при катастрофа. Наример за миналата година има 561 челни сблъсъка на коли, при които са загинали 126 души. А при косо сблъскване загиналите са още по-малко - 575 катастрофи със 28 жертви. Дори ако си извън колата не е задължително да умреш. При 428 блъснати велосипедисти има 29 загинали. Като зад тая суха статистика има и пияни шофьори с бавна реакция, и лекомислени младоци, и надути копелета, и неопитни водачи, които се паникьосват... тоест всякакво ирационално човешко поведение, което автоматичната кола може да спести. А отделно от това, колите се конструират доста по-безопасни, отколкото преди време. Вижте например днешна намляна кола, ударена два пъти, а шофьорът излиза само с лека контузия. http://goo.gl/C5Hdw8 Или пък масова катастрофа от 50 коли на магистрала, в която има само три жертви и няколко тежко ранени. http://goo.gl/ner6qQ * * * Тъпото при самоуправляващите се коли е, че трябва да зависиш от прекалено много външни фактори - непознати хора на другия край на света ти произвеждат купето, други непознати ти произвеждат гумите, трети ти ги доставят и се опитват да те метнат със стари вместо пресни, на четвърти плащаш за поддръжка и ремонт, на пети непознати се доверяваш за организацията на движението, на шести се доверяваш за GPS и за капак се очаква да махнеш ръце от волана и съвсем да се откажеш от малкото контрол, който имаш. Но и обратното обобщение - че ако колата те блъсне то ще умреш също не е коректно. Ама хич не е.