Често съм укорявал сам себе си, когато съм говорил, че живеем в пиеса на хуморист-социопат. Казвал съм си, че това е хипербола, че светът не може да е толкова идиотски, че дори в него да се раждат малоумници, то тях не ги допускат да го управляват, разрешават им единствено да шумят безобидно из медиите и толкоз, нищо повече. Но дискусиите в Европейския парламент не са безобидна шумотевица на идиоти във Фейсбук.
Миналата седмица попаднах на телевизионно предаване, в което двама души (единият - мой добър познат, затова и попаднах) обсъждаха философско-правните измерение на идеята за предоставяне на човешки права на роботите.
Участниците, както и водещият, бяха изключително задълбочени и сякаш се отнасяха съвсем сериозно към темата си. В един момент с удивление започнах да прозирам, че не става дума за пореден конгрес на фенове на „Стар Трек", а за напълно сериозна инициатива, съизмерима по дълбочината си с правите краставици и политкоректните детски приказки.
Реших да се поинтересувам. От информационния сайт „Вести", цитиращ ZDNet, научих, че действително „Европейският съюз обсъжда законова рамка, която да даде своеобразни „човешки права" на роботите"*, чрез които „да се гарантира сигурността на изкуствения интелект".
Правилата ще бъдат валидни за всички членове на ЕС и по този начин ще се „даде пример на останалия свят".
Грандиозната идея ще се осъществи като „се създаде нова агенция, която да е за роботика и да има правомощия да управлява и етичните въпроси по темата". Тази администрация ще създаде (естествено!) и „подобаващи застраховки и регулации". Ще се въведе „статут на „електронна персона", която да има своите права".
Логично. Който каже „а", рано или късно казва и „б". Който разпознава над 30 пола, рано или късно ще даде права и на вещите, за да има кой да ги защитава и кой да бъде преследван. Нали си представяте какви инспектори ще плъзнат из всички заводи, които са внедрили роботизирани производствени линии? То ще има плач по нечовешките (пардон - нероботските) условия на експлоатация, то ще има хленч за лишените от свобода на личностна самоизява роботи...
Сегашната трудова медицина, която ни глобява, ако не сме инструктирали писмено секретарката си как се работи с кафе машината, ще ни се види романтична ретро мелодия!
И ако продължим нататък, не виждам защо да мислим, че който е казал „б", няма да каже и „в". Съвсем скоро на роботите ще им организират синдикати, които да се борят за осемчасов работен ден и петдневна работна седмица. Ще поискат роботите да гласуват. Ще поискат да издигат свои кандидати в местната и законодателната власт. Ще поискат да създават семейства, след като сами свободно определят джендъра си - ако една сокоизстисквачка се чувства микровълнова печка, кой би ѝ попречил да се самоопредели!
Така стигаме до правата на всички електроуреди, включително и домашните. Защо роботите да са личности, а пък съдомиялните да не са? Нима те не са роботи? Нима не изпълняват програми? Нима не взимат решения, когато водата спре? За техните права няма ли някой да помисли?
Ами вибраторите? Вече виждам фондации и фондацийки, които скачат за техните права, щедро финансирани по някоя международна конвенция за еротичните играчки. Ах, вибраторите! Ах, тези сексуални роби, заключени в тъмни нощни шкафчета, откъдето ги вадят, само за да блудстват с тях!
Вече чувам как потъпканите личности на вибраторите една по една надигат унизени глави и скандират: „Me too! Me too! Me too!"...
Какво, струва ви се прекалено ли? Струва ви се твърде гротескно? Струва ви се абсурдно вибраторът, сокоизстисквачката и съдомиялната да са личности? Но те са точно толкова личности, колкото и най-съвършения робот - тоест, николко. Предметите могат да бъдат персонифицирани (оличностени) единствено в литературата. Само там Терминатор има благородни чувства и само там оживява шоколадената къщичка на кокоши крака. Само там автомобилчетата и самолетчетата имат характери и само там танцуват нощем цветята на малката Ида.
За да ти мине през ума, че предмет или машина може да бъде личност като човека, та чак да му учредяваш и защитаваш права - значи безвъзвратно си забравил какво е „човек" и какво е „личност". Сега се мъчат да дефинират човекоподобността на роботите. Спорят дали могат да се самообучават. Спорят дали могат да взимат решения. Спорят даже дали могат да изпитват чувства, да се привързват към човека, да се разочароват от него...
Да, тази фантазия е вълнуваща и гъделичкаща, както е вълнуващо и гъделичкащо четенето на талантливите романи на Айзък Азимов.
Но това са само романи, фикция. Ако тръгнем по този път, ще вкараме в затвора и вятърните мелници, за да осигурим справедливост (и равни права) за Дон Кихот.
Личността е по-висше качество на индивида и това не се отрича нито от материалисти, нито от идеалисти. Дали роботите се самообучават, дали взимат решения или имат някакво отношение по въпроса за изключването си от захранването (забравих да кажа, че това май се очертава първото право на роботите, за което ще се борят защитниците им - да не ги изключват от контакта) - това не ги прави личности, това са празни приказки.
Дали могат роботите да мислят абстрактно - също. Някои твърдят, че сега не могат, но един ден ще могат и то до такава степен, че ще се научат да различават добро от зло.
Но дори и тогава роботът няма да е човек, няма да е личност (προσοπων, υποστασις), защото природата, същността му (ουσύα) не е такава.
Природата на човека е уникална, божествена. А който не е съгласен с това, свободен е да се самоопредели като тостер, има това неотменимо ПРАВО.
За да улесня спора за правата на роботите, предлагам следното: турете настрана всички признаци на природата „човечество", които се мъчите да откриете у машините и предметите, и се концентрирайте само върху два -
безсмъртната душа и свободната воля.
Когато откриете у предметите и машините безсмъртна душа и свободна воля, тогава ги признайте за личности и излезте на бой за погазените им права. Дотогава е разумно да ги разглеждате като неодушевена материя и да спрете да се занимавате с глупости. Има толкова по-тревожни проблеми, които се правите, че не забелязвате.
„Роботи от цял свят - съединявайте се!" - ще се провикне Жан-Клод Юнкер от гроба на Карл Маркс. Аз пък, подпрян на някоя плачеща върба наоколо, кисело ще промърморя: Картаген трябва да бъде разрушен...
* б.р. В доклада на Правната комисия на ЕП с препоръки към ЕК няма предложение за даване на човешки права на роботите; Вероятно става дума за смесване на различни източници при българския превод на оригиналната статия от ZDNET. В нея се цитира съдържанието на подписка от 156 учени против създаването на нов „персонален" правен статут на роботите, в която се описват потенциалните юридически абсурди от въвеждането му.
Накратко - учените обръщат внимание, че ЕП прави грешна препоръка към ЕК заради надценяване на настоящите способности на дори най-напредналите роботи, заради повърхностно разбиране на непредсказуемостта и самообучението на машините, и заради поддаване на научно-фантастични романи и сензационни медийни интерпретации.
Дават и три юридически аргумента срещу въвеждането на „персонален" статут на машините:
1) „електронната персона" не може да произлиза от модела на физическите лица, защото това би предположило, че роботът се ползва не само от отговорности, но и от права като на човеците;
2) „електронната персона" не може да произлиза от модела на юридическите лица, защото юридическото лице се ръководи и представлява от човешка личност, а роботът - не;
3) „електронната персона" не може да произлиза от модела на доверителната собственост, защото режимът е много комплексен, изисква специализирани компетенции, с него не се разрешава проблемът за отговорността при нанесени от робота щети и отново предполага наличието на човешко същество (попечител), което би трябвало да носи отговорност за управлението на робота.
Добре, Иване. Нашата цивилизация се развива. Ако след някоя и друга година се засечем с извънземна цивилизация, съсояща се от представители с техногенен характер какво правим? Отричаме правото им да бъдат личности, обявяваме ги за вещи и се опитваме да ги поробим? Питаме ги кои са техните създатели-, приемаки контакт единствено и само с органични същества? (ако не знаят- обявяваме ги за вещи и се опитваме да ги поробим). Какво е съзнанието? Какво значи личност?
КАКВО ЗНАЧИ "ТЪПАК"? виж по-долу:
БРАВО СУЛА, браво римлянино! Бий левичарите - политкоректори!
>Когато откриете у предметите и машините безсмъртна душа и свободна воля Преди да напишеш тази статия е трябвало първо да откриеш у човека безсмъртна душа и докажеш наличието на свободна воля. Без тази необходима стъпка цялата статия е една злъчната словесна диария на възмутен старец (в смисъла на морално и интелектуално остаряла, старомодна отживелица), който или не може, или не желае да разбере промените в света около него, заради което единствената му възможна реакция е да лее пренебрежителен цинизъм към всяка идея, която не му пасва на закостенялото, примитивно виждане за света. Свят, в който единствената константа е постоянното развитие. Адаптирай се или отмри. Всички ще умрем, някои обаче отмират далеч преди физическата си кончина.
Прасешки му работи ("размишления"). Умоляват се Хората да ги игнорират. А статията е чудесен материал, кратък, точен и ясен. Бележката на редактора пък, е рядка тъпня.
>съвкупност от понятия опитващи се да обобщават само-осъзнаването на отделния човешки индивид и неговото АЗ, гледайки на отражението в огледалото и разбирайки че това отсреща не е някаква друга маймуна Което е учебников пример на кръгова логика - "обясняваш" един феномен като просто го перифразираш с други, също толкова неконкретни и недобре дефинирани идеи. Конкретно, апропо, куп животински видове, различни от нашия, минават теста на огледалото за саморазпознаване. Тестът е твърде основен и нито доказва, нито отхвърля наличието на съзнание, до голяма степен защото дори нямаме добра конкретна практична дефиниция на "съзнание", на която да можем да се опрем за да създадем добър тест.
> само-осъзнаването на отделния човешки индивид Човешки е твърде ограничено. Какво пречи на изкуствения интелект да се самоосъзнава? Освен технологичната бариера. Човекът като личност е съвкупност от същите заучени модели на поведение, каквито и един робот би могъл да има.
Вече чувам как потъпканите личности на вибраторите една по една надигат унизени глави и скандират: „Me too! Me too! Me too!"... .............. Това е яко!!!!! А иначе, ткае когато алчността срещне малоумността. Търсете кинтите. Щото ще има сума ти агенции и агенцийки. Пък после разни конвенции и конвенцийки. И за всичко това ще си има бюджет и щатни бройки и т.н. и т.н. За Картаген, не знам, ама ЕС ще го разруши бюрокрацията.
>Когато машината откаже да следва програмата И защо точно си мислиш, че хората нямат програма? Взимате свободната воля за априорна даденост без дори да помислите защо и дали имате право. А ако такава няма (което е напълно възможно) и това, което днес наричаме "свободна воля" е просто грешна и леко арогантна антропоцентрична интерпретация на обикновени случайни процеси, които все още не можем да разберем напълно, често защото грешно очакваме детерминистично поведение, то би излязло, че машината отказва да следва програмата си точно толкова, колкото и хората отказват да следват програмата си - николко, защото поведението на машината, точно както и това на хората и на всяка друга система, е изцяло следствие от познаваеми случайни процеси и физични закони. Та.. where's your god now?
Върти се канибала в леглото , не може да заспи, мърмори: -Кой съм аз... защо съм на този свят...!? -Казах ли ти да ядеш за вечеря философ- гълчи го жена му.
-Казах ли ти да НЕ ядеш за вечеря философ- гълчи го жена му. -------- Така е вица.
Мисля, че дълбаем не където е зарито кучето. Бунтът на машините е разискван отдавна, като почнем с духа от бутилката, минем през Мери Шели, Карел Чапек и Светослав Минков, та до Азимов с прословутите му три закона, за които и той самият не е много убеден, че ще помагат вечно. Любен Дилов (не син) добави 4-ти: "Роботът е длъжен винаги да се идентифицира като робот". И какво му пречи това да прояви свободна воля. И откъде Сула е сигурен, че Господ няма да реши да вдъхне безсмъртна душа на ИИ, творение, ако не Негово, то все пак на Неговия образ и подобие. Мисля, че Стамболов има предвид една друга машина, която набира все повече обороти. Бюрокрацията, която, както е доказано от Паркинсън се самовъзпроизвежда и сама си задава задачи, различни от тия, за които е създадена. Като например, кривината на краставиците. Или личността на автоматите. Дали един сложен автомат е личност е въпрос за философи от висша класа, а с него се хванали да се занимават евро комисари. Дискусията, за която споменава Сула и меморандумът на учените, цитиран от редакцията не са паднали от небето. Значи са разисквани в някой офис в Брюксел. Не бунтът на вибраторите и тостерите е страшен а комисийките и конвенцийките, които те ще ни натресат, ако ги оставим.
>да не се опитваш да ме убедиш, че коментарите ти са написани едиствено в резултат на случайни физични и химични процеси Съвсем не. Опитвам се да ти обърна внимание на факта, че нито ти, нито аз знаем дали свободната воля съществува. Докато аз изобщо не се опитвам да те убеждавам, че не съществува, ти, от друга страна, взимаш същестуването й за даденост без дори да се замислиш. >Иначе защо изобщо да разговарям с физични и химични процеси? Ако свободна воля не съществува, то не би било точно като да имаш свободен избор, нали? Илюзията за избор, особено породена от желание да се изживяваш като нещо повече от "физични и химични процеси", не би била нищо повече от арогантност.
Сарказмът неуместен. Дали арогантността е резултат от проява на свободна воля или следствие от случайни процеси няма точно никакво значение. Това, което единствено има значение, е че арогантността е вид bias, а наличието на bias променя априорното вероятностно разпределение на верността на твърденията ти - нещо, което не изглежда да осъзнаваш.