Доскоро видеата, създадени с изкуствен интелект, бяха сравнително лесни за разпознаване.
TikTok се напълни с абсурдни миниистории, говорещи животни, оживели плодове и измислени персонажи. Беше забавно, защото беше очевидно, че не е реално. И аз самата дълго време ги приемах точно така.
Само че напоследък все по-често ми се случва да видя видео и да не мога от първия път да преценя дали е истинско. Случвало ми се е дори да се заблудя.
Абсурдните AI клипове не са изчезнали, но до тях вече стоят много по-убедителни видеа. Лицата изглеждат по-естествено, движенията са по-плавни, а гласовете звучат все по-човешки.
Тук не става дума само за измислени персонажи. Същата технология може да използва лицето и гласа на реален човек, за да създаде съдържание, което изглежда като негово, без той изобщо да е участвал в него или дори да знае, че съществува.
Точно това се случва с Емили Шуман.
Тя е създател на популярния американски лайфстайл блог Cupcakes and Cashmere и има над половин милион последователи в Instagram, където от години споделя съдържание за мода, красота, храна и ежедневие.
В началото на тази година Шуман попада на реклама в Instagram, в която вижда собственото си лице. На изображението тя държи флакон с лекарства от групата GLP-1 и рекламира компания, предлагаща лекарства за отслабване, разказва The Guardian.
Има само един проблем - Шуман никога не е чувала за компанията и няма нищо общо с рекламата.
За създаването ѝ е използвано старо нейно селфи, публикувано години по-рано.
Последователите ѝ също виждат рекламата и започват да я питат за странното партньорство.
Впоследствие тя открива още свои изкуствени версии. Една рекламира козметика, друга се появява в TikTok и промотира компания за кръвни изследвания.
"Толкова е неприятно", разказва Шуман пред Guardian. По думите ѝ изображенията изглеждат точно като нея, но сякаш са някаква нейна обърната версия.
Проблемът вече не е просто, че изкуственият интелект може да създаде убедително фалшиво съдържание. Проблемът е, че ние можем да му повярваме.
Инфлуенсърите се оказват особено удобна мишена. В интернет има огромно количество техни снимки и видеа, в които се виждат лицата, жестовете и мимиките им и се чува начинът, по който говорят. Тоест има достатъчно материал, който може да бъде използван за създаването на все по-убедителни техни копия.
А за един инфлуенсър лицето не е просто лице. То е част от бизнеса му.
"Тяхната марка е техният бизнес", казва Алис Маруик, директор по изследванията в Data & Society Research Institute, която изследва измамите с имитации, създадени чрез изкуствен интелект.
Това е и причината една фалшива реклама да може да нанесе щета, дори никой да не купи продукта.
Ако години наред следваме определен човек, постепенно изграждаме представа какво харесва, какво използва и на какви предложения би се съгласил. Точно върху това доверие се крепи голяма част от инфлуенсърската реклама.
Deepfake съдържанието атакува именно този аспект - ако видя човек, когото следя от години и на когото вярвам, да рекламира съмнителен продукт, първата ми реакция вероятно ще бъде: "Как може да рекламира това?". Едва след това бих се запитала дали изобщо е той. Ако въобще стигна дотам.
Това е и може би най-притеснителното в случая - хората не винаги могат да разпознаят deepfake видеата. Те ще видят познато лице да рекламира продукт, но реалният собственик на лицето дори може да не разбере, че подобна реклама с него/нея съществува изобщо.
И тук не става въпрос за единични случаи.
Образите на Тейлър Суифт, Опра Уинфри, Ким Кардашиян, Гуинет Полтроу и Том Ханкс са използвани в генерирано с изкуствен интелект съдържание за промотиране на различни продукти. В подобни ситуации са изпадали и някои по-млади създатели на съдържание.
У нас сме ставали свидетели как още покрай пандемията се появиха видеа с доц. Ангел Кунчев - тогавашния главен държавен здравен инспектор - да рекламира медикаменти. Имало е случаи, в които и известни журналисти като Светльо Иванов говорят за нови криптовалути и други съмнителни схеми.
Въпросът вече не е само как инфлуенсърите ще защитят бизнеса си.
Каква е гаранцията, че утре няма да бъде използвано моето лице или моят глас?
Не е необходимо да имаме половин милион последователи, за да сме оставили снимки и видеа от себе си онлайн. А измамата също не е задължително да бъде реклама. Ако технологията може убедително да имитира човек, потенциалните злоупотреби са много повече.
Затова според мен не можем да оставим цялата отговорност върху потребителя с обяснението, че просто трябва да бъде по-внимателен.
Meta и TikTok имат правила срещу използването на изкуствен интелект и дигитални манипулации за имитиране на чужда самоличност. Но случаят на Шуман показва колко трудно може да бъде прилагането им на практика.
Тя разказва, че фалшивите реклами са били сигнализирани от нея, мениджъра ѝ и нейни последователи. Въпреки това са били необходими седмици, преди рекламата с GLP-1 да бъде премахната. По думите ѝ друга реклама с нейния образ продължава да се разпространява.
Получава се абсурдна ситуация, в която истинският човек трябва да се бори, за да докаже, че съдържанието със собственото му лице всъщност не е негово.
Според мен са необходими много по-сериозни правила и много по-бърза реакция от платформите. Защото докато една фалшива реклама бъде проверена и премахната, тя вече може да е достигнала до хора, които са ѝ повярвали.
Все пак най-много ме притеснява не конкретната реклама, нито дори конкретният инфлуенсър.
Притеснява ме колко бързо свикваме с всичко това.
В началото AI видеата бяха забавни именно защото виждахме измамата. Смеехме се на странните лица, нелогичните движения и абсурдните истории. Сега понякога трябва да изгледам дадено видео два пъти, за да се запитам дали човекът в него изобщо е истински.
А следващата стъпка вероятно ще бъде още по-трудна.
Да знам, че човекът е истински, но да не знам дали думите, гласът и действията му са.
