Бот в чат приложението Telegram е способен практически да "съблече" облечени снимки на жени. Същият този бот е отговорен и за създаването и изтичането онлайн на над 100 хил. голи снимки на реални и вероятно нищо неподозиращи жени, става ясно от нов доклад.
В документа от 12 страници, публикуван този месец компанията очерта как в Telegram се е развила нова "екосистема на deepfake изкуството", базирана върху бот с изкуствен интелект, който позволява на потребителите фотореалистично да "събличат голи" облечени изображения на жени.
Зад доклада стои компанията за дигитално разузнаване Sensity, като експертите ѝ са разкрили и проследили редица deepfake фалшификати, както и други форми на "злонамерена визуална медия".
Това става ясно от публикувания на сайта ѝ документ. Оттам също разбираме, че снимките на всички тези жени най-често са били взимани от профилите им в социалните медии.
Главният изпълнителен директор и главен учен на Sensity Джорджо Патрини заяви пред сп. Forbes, че за разлика от deepfake видеоклиповете на знаменитости, които изискват множество изображения и видеоклипове, за да създадат реалистично изображение, тук е необходимо само едно изображение, което да бъде качено в чат стая.
Той отбелязва, че това напълно променя идеята на това кой може да бъде набелязан за жертва на подобен род шеги.
"Ако някога сте споделяли публично една снимка в социалните медии, може да сте под заплаха. Наличието на акаунт в социални медии с публични снимки е достатъчно, за да може всеки да се превърне в цел", коментира Патрини.
Така от Sensity са установили, че 70% от всички качени изображения са на "обикновени жени" - частни лица, а не известни личности или влиятелни знаменитости. Фалшивите голи снимки на тези жени са генерирани с помощта на изображения, взети от социални медии или от частни материали.
По този начин ботът в Telegram контрастира рязко на общата тенденция сред deepfake изображенията и deepfake порното - там фокусът все още попада върху знаменитости и известни политици.
Почти по всяка вероятност ботът е базиран на софтуера "DeepNude", който "съблича" дрехите от снимки на жени.
Тъй като медийното отразяване на тази deepfake технология беше изключително критично, разработчиците му свалиха приложението си още в същия ден на пускането му. Въпреки това те продадоха лиценза на софтуера за 30 хил. долара. Сега се смята, че отворен код на приложението е в основата на бота в Telegram.
Самата система работи, заменяйки дрехите по тялото на дадена снимка с реалистични изображения на женски интимни части, избрани от широка база данни.
В рамките на няколко минути след качването на снимката в Telegram (по същия начин, по който се пращат и снимките във Facebook Messenger), ботът е готов с обработеното изображение, което може да бъде изтеглено на устройството на потребителя или препратено до друг потребител.
Докладът показва, че процесът работи само върху снимки на жени.
Потребителите също имат възможност срещу минимална такса да премахнат водния знак от изображенията и да изпреварят клиентите с безплатната версия, като техните снимки бъдат обработени по-бързо.
От BBC са тествали софтуера със снимки на жени, които предварително са дали съгласието си за участие в този експеримент, като от медията твърдят, че получените резултати не са "особено достоверни". От там цитират един от множеството примери - жена с пъп на диафрагмата.
Самият бот е безплатен за ползване на смартфони и компютри и е лесно достъпен чрез Telegram. Средата предполага много повече свобода, отколкото в други приложения за изпращане на съобщения, тъй като то залага на двойно криптиране и предлага много повече сигурност за изпращащия съобщения. Именно затова официално Telegram е забранен в Русия, Китай и Иран.
Според констатациите на доклада към края на юли в приложението са били споделени "съблечени" снимки на 104 862 жени.
Само от 19 юни до 19 юли общо 45 615 уникални потребители са използвали спорното приложение. Анкета сред потребителите на бота показва, че по-голямата част са базирани в държавите от бившия соц блок като най-вече Русия, Украйна и Беларус.
Но около 3% посочват, че са от САЩ, Великобритания, Канада или Австралия. Поне 6% са от Испания и Латинска Америка, а 8% казват, че са "никъде".
Разследването на Sensity показва, че една от причините за тази предимно рускоговоряща аудитория идва от това, че ботът е бил солидно рекламиран в руската социална медия ВКонтакте. Оттам коментират, че платформата не толерира подобно съдържание, като всички такива материали или линкове се изтриват, а общностите, които ги разпространяват, биват блокирани.
От Telegram засега не отговарят на исканията за коментар по казуса.
От BBC са се свързали с администратора, поддържащ услугата. Той отказва да разкрие самоличността си и се представя само като "P". По думите му в цялата ситуация нямало нищо нередно, тъй като никой не е пострадал.
"Не ми пука особено. Това е за забавление и не причинява вреда на никого. Никой няма да изнудва никого с това, тъй като качеството е нереалистично", коментира той. P обяснява още, че екипът зад бота преглежда какви снимки се споделят в канала в Telegram и щом някой забележи видимо непълнолетно момиче, потребителят, качил снимката, бива "блокиран завинаги".
От Sensity далеч не са толкова сигурни в това твърдение. Според доклада на компанията, ботът със сигурност е бил използван и за споделяне на детска порнография с фалшиви голи снимки на непълнолетни момичета.
Все пак, P потвърждава, потребители сами решават дали да споделят крайното "голо" изображение с други хора и дали да го качат някъде в интернет.
И въпреки че отказва да признае творението си за толкова вредно, администраторът заявява, че "скоро" ще премахне всички изображения от канала досега.
Докладът на компанията за дигитално разузнаване изразява мнение, че хората могат да използват крайните изображение за изнудване или атаки срещу доброто име на жените, чиито снимки използват. Макар и нереалистично, подобно изображение може да бъде изпратено на роднините и приятелите на жертвата, или да бъде използвано като лост за заплахи и изнудване.
Нина Янкович, автор на книгата How to Lose the Information War ("Как да загубим информационната война"), заявява пред BuzzFeed, че технологията е притеснително достъпна за обикновените потребители.
"По същество тези deepfake фалшификати или се използват, за да изпълнят някаква болна фантазия на отхвърлен любовник, или от гаджетата на тези жени, или просто от някой тотален перверзник. Или се използват като потенциален материал за изнудване", обяснява тя.
Този лесен и свободен достъп до подобни приложения и услуги действително ще се превърне в проблем, смята Джорджо Патрини.
"Много от тези сайтове или приложения не се крият и не работят под радара, защото не са строго забранени. Докато те не бъдат забранени, страхувам се, че ситуацията само ще се влошава", категоричен е експертът от Sensity.
