Лентата, която показва колко батерия ви остава или колко време ще отнеме изтеглянето на файл, е илюзия, лъжа. Бутонът в асансьора, който би трябвало да затваря вратите, също е лъжа. Дизайнерски трикове, като изчезване на изтритите файлове в облак от дим? И те са лъжа.
Ейтан Адар е доцент по информатика и компютърни науки в Мичиганския университет и консултант на технологични компании, който се занимава с въпросите на т. нар. технологична етика. Той е измислил понятие за този тип лъжи на технологиите: добронамерена измама.
Адар, заедно с с двама члена на Microsoft Research е съавтор на концепцията за добронамерена измама. Той формулира как изглежда тя в контекста на взаимодействието между човек и компютър, както и кога тя е зловредна или спорна в етично отношение и не работи в полза на потребителя.
Това е дискусия, която ще става все по-важна
Може да стане обект на спорове още утре, когато изкуственият интелект е способен да влияе на нашето поведение с невероятна лекота. Важно е да се формулира какво е добро и какво е лошо в света на технологичната измама.
"Измамата в съвременния смисъл е скрива част от сложността, за да бъдат нещата много по-приемливи за крайния потребител, за да може той да взаимодейства по някакъв начин със системите, с които се сблъсква", коментира Адар.
Повечето примери на добронамерена измама са скучни, прости начини за работа на неспециалистите, които нямат понятие от код. Вместо да отиваме в съответния команден ред, за да изтрием файл, издърпваме иконата или папката директно в кошчето на десктопа. Дори командният ред е пример за опростяване, което би могло спокойно да се приема за форма на измама.
Не разбираме как работят много от базовите технологии в наши дни, казва изследователят.
Голяма част от изследванията на Адар се концентрират върху примери на добронамерена измама, които са етично недвусмислени. Един от тях е роботът за канадска борба, проектиран да помага във физиотерапията на хора, които са подложени на рехабилитация на ръцете. Пациентите имат психични блокади доколко могат да движат ръката. Ако на някой от тях се каже, че е преместил ръката си с 9 градуса вчера, то роботът за канадска борба може да излъже и да каже на потребителя, че е достигнал 10 градуса.
„Той ще си помисли - вчера направих движение от 10 градуса, така че очевидно мога и повече, и готово: той ще направи 11. Но това е донякъде необичаен пример", коментира изследователят.
В по-нова публикация в Medium Кейси Джонстън описва много съвременно твърдението за ползата от добронамерената измама. Кейси, подобно на много от нас, винаги закъснява. Инструкциите за превоз в обществения транспорт в Google Maps в Ню Йорк често са несъвършени, заради много по-мащабните и обезсърчителни недостатъци, присъщи на системата на нюйоркското метро.
Google осигурява прогнозно време за достигане от точка A до точка B, но дава "най-добрия възможен вариант", който рядко се случва заради комбинация от потребителски грешки и конкретни маршрути, които са неимоверно бавни.
Джонстън се бори за версия на Google Maps, която да я лъже и да й каже да тръгне от къщи по-рано, за да предвижда и тези усложнения.
Това е спорно предложение, защото макар да е етично, вероятно трябва да кажете сами на Google, че искате такава функция, което затруднява реалната измама. "След като веднъж се ангажирате с такова поведение, знаете, че ви лъжат", казва Адар. Възможно е в някои ситуации да си кажете: знам, че програмата ме лъже, но просто ще се преструвам, че е истина.
Нещата започват да звучат по-плашещо, когато се замислите как точно Google може да ни подвежда, ако пожелае
Google знае ангажиментите ви (мерси, Google Calendar), знае местоположението ви (мерси, Google Maps), и може да помни всичко и да прави връзки между данните, които получава.
Google може с лекота да определи, че сте склонни да закъснявате и да ви лъже, за да ви попречи да закъснявате толкова редовно. Редно ли е това?
Ако се прави без ваше разрешение, има много етични възражения. "Ако вие сте решили, че трябва да бъдете такъв човек, желаете да отидете навреме и интерфейсът ви помага да го правите чрез измама, тогава мисля, че е по-допустимо в етичен план", допълва Адар.
Ами ако правителството въведе добронамерена измама в колите, за да ви убеди, че се движите по-бързо от реалното, за да забавяте скоростта повече?
Или банката ви каже, че имате по-малко пари, отколкото всъщност имате, за да ви стимулира да спестявате? Определено спестяването на пари и безопасното шофиране са желателни цели, но дали можем да преглътнем институции и технологии да ни лъжат, за да го постигнат?
Дори в случая с робота за канадска борба, почти идеалната добронамерена измама, какво се случва, ако потребителят разбере, че роботът лъже, за да го стимулира да се движи повече?
Какво се случва, когато не можем да имаме доверие на собствените си технологии?
Това е донякъде причината, поради която Адар твърди, че прозрачността и честността в технологиите като цяло са най-добрият избор. Но можете да се обзаложите, че в Apple и Google (и Facebook, и Amazon, и Microsoft) обсъждат тази концепция в заседателните си зали и мислят как да подведат потребителите - извън малките трикове в потребителския интерфейс от рода на кошчето за боклук.
В последните няколко години потребителите демонстрираха забележителен талант за заобикаляне на потенциално вредите технологии - защитата на личното пространство, безопасността и свободата на информацията са най-очевидни примери за това.
Но какво да правим, ако не знаем кога технологиите ни мамят? И още по-странно: какво правим, ако ни харесва?
