Този сайт използва „бисквитки“ (cookies). Разглеждайки съдържанието на сайта, Вие се съгласявате с използването на „бисквитки“. Повече информация тук.

Разбрах

Фалшиви хора с фалшиви лица - измамници, шпиони и корпорации потриват доволно ръце

Имате нужда от многообразие в снимките си? Няма проблем, ето ви фалшиви хора Снимка: iStock/ Getty
Имате нужда от многообразие в снимките си? Няма проблем, ето ви фалшиви хора

Стартъпи за изкуствен интелект продават изображения с компютърно генерирани лица, които изглеждат като истински. Така дават на компаниите шанс да създадат въображаеми модели и да увеличат така желаното многообразие в рекламите си, без да има нужда от наемането на истински хора.

Една такава фирма предлага продажба на разнообразни снимки за рекламни брошури и вече си е намерила клиенти, включително и приложение за запознанства, което възнамерява да използва изображенията в чатбот.

Друга компания казва, че преминава отвъд генерирани от изкуствения интелект портретни снимки към генерирането на цели човешки тела и то още този месец.

ИИ софтуерът, който се използва за създаване на такива лица, е свободно достъпен и се усъвършенства бързо, като позволява на малки стартъпи да създават лица, които са толкова убедителни, че могат да подведат човешкото око. Системите се обучават върху огромни бази данни от съвсем реални лица, след което се опитват да възпроизведат чертите им до постигането на ново лице.

Технологичните експерти се опасяват, че фалшивите лица ще спомогнат на ново поколение измамници, ботове и шпиони, които ще могат да използват снимките, за да изградят въображаеми онлайн образи, ще прикрият колко тенденциозно се назначават кадри на много места и ще навредят на опитите да се внесе многообразие в различни браншове.

Фактът, че такъв софтуер вече използва собствен бизнесмодел, може да доведе до още по-голям спад на доверието в интернет, който и без това е мишена на дезинформационни кампании, deepfake видеа и други подвеждащи техники.

Елана Зайди, изследовател на изкуствения интелект, законодателството и политиките в правния факултет към Калифорнийския университет в Лос Анджелис, казва, че технологията демонстрира колко малко власт и познания имат потребители в контекста на онлайн реалността, която виждат. Според нея липсва обективна реалност, с която да се сравняват тези снимки.

Хората сме свикнали на физически свят със сетивни възприятия, но в този случай нямаме инстинкт как да открием кое е реално и кое - не.

Icons8 е основана в Аржентина фирма за графичен дизайн, която продава дигитални илюстрации и сток снимки. Компанията започва онлайн бизнеса си Generated.photos миналия месец, като предлага многообразни модели по заявка. Всички те са изработени от изкуствен интелект и по думите на фирмата могат да бъдат използвани "без притеснения".

Сайтът позволява на всеки да намери фалшивите снимки на базата на различни филтри като възраст (от "бебе" до "старец"), етнос (включително "бял," "латинос," "азиатец" и "чернокож") и емоция ("радост," "неутрално," "изненада"), както и пол, цвят на очите и дължина на косата. Системата обаче демонстрира някои странни пропуски и тенденциозност, например единственият достъпен цвят на кожата за бебета е бял.

Компанията казва, че изображенията й могат да бъдат полезни за клиенти, които имат нужда да разнообразят рекламните си материали или да илюстрират концепции, които са твърде деликатни, за да се използват реални модели. Такива са например симулациите на разследвания на престъпления или на неловки социални ситуации. Онлайн ръководството също така обещава на клиентите, че могат да увеличат многообразието като включат "много етнически групи в проектите си".

Компании вече са се злепоставяли с нескопосани опити да увеличат разнообразието в материалите си като добавят на Photoshop чернокож мъж в изцяло бяла тълпа.

Това направи например университетът на Уисконсин в брошура за студенти. "В крачка" бяха хванати и организаторите на технологично събитие, които впоследствие добавиха софтуерно жени на груповата снимка на присъстващите. Но докато стартъпите за ИИ изтъкват просто решение и предлагат една илюзия за многообразие, системите им имат един критичен недостатък - те подражават само на образи, които вече са виждали.

Валери Еманюел, съосновател на агенция за таланти в Лос Анджелис, коментира, че го е страх този тип фалшиви снимки да не превърнат медиите в "монокултура", в която повечето лица изглеждат еднакво. Еманюел иска да създаде по-голямо разнообразие и да показва уникални лица в рекламата, а създадените от ИИ изображения хомогенизират и правят външния вид еднотипен.

Icons8 създават лицата си като взимат десетки хиляди снимки на около 70 модели, уточнява Айвън Браун, основател на фирмата. Колегите на Браун, които работят не само в САЩ, но и в Италия, Израел, Русия и Украйна, после прекарват няколко месеца в подготовка на база данни. Те коригират изображенията, въвеждат данни и организират снимките по прецизни компютърни спецификации.

С налични готови изображения инженерите после използват ИИ системата, за да генерират изобилие от нови снимки.

Така те получават 1 млн. нови изображения за един ден. Екипът после избира 100 хил. от най-убедителните кадри, които представя за публична употреба. В следващите месеци ще бъдат генерирани още от тях.

Компанията, казва Браун, намира трима клиенти още в първата седмица. Това са американски университет, приложение за запознанства и фирма за планиране на човешки ресурси. Браун обаче отказва да назове кои точно са клиентите.

Клиентите могат да изтеглят до 10 хил. снимки на месец срещу суми, които започват от 100 долара. Моделите не получават отчисления от нови, генерирани от ИИ снимки, базирани на техните фотосесии, уточнява още Браун.

Друг стартъп, този път от Сан Франциско - Rosebud AI, предлага на клиентите си избор между 25 хил. снимки на модифицирани с ИИ модели от различни етноси.

Основателят на компанията е Лиша Ли, която я нарича на чийт код от "The Sims", който докарва безкрайно много пари на играещия. Ли казва, че първоначално рекламира снимките като начин малките фирми в онлайн продажбите да създават стилни изображения, без да се налага да прибягват до скъпи фотосесии.

Първите изображения на нейната компания идват от онлайн бази данни с безплатни снимки и такива без авторски права и системата позволява на клиентите лесно да наслагват различни лица върху голям набор от тела. Ли популяризира компанията си като мощен инструмент за разширяване възможностите на фотографите, които лесно адаптират моделите за фотосесия към националността и етноса на зрителите.

"Лицето е деликатният проблем, който технологиите вече могат да решат", казва Лиша.

Системата се предлага на ограничена група от клиенти, които компанията оценява, за да спре недобросъвестните потребители. Около 2000 клиенти са в списъка на чакащи за услугата.

И двете компании разчитат на пробив в изкуствения интелект, известен като "генеративно-състезателна мрежа". Той използва конкуриращи се алгоритми за усъвършенстване на работата - система-създател генерира нов образ, който система-критик после сравнява с оригинала, което влияе на следващия дизайн на "създателя". Всяка следваща стъпка в този случай води до по-добро копие от предишната.

Системите обаче са несъвършени и не са обучени на основите на човешката анатомия, затова могат да се опитат да комбинират само модели във всички лица, които са обработвали до момента. Междувременно ИИ създава армия от това, което Браун нарича "чудовища": кошмарни лица с нечовешки деформации и сюрреалистични мутации. Чести примери включва ръце с твърде много пръсти, лица без черти и хора с усти вместо очи.

Софтуерът в последните месеци стана един от най-атрактивните и нашумели пробиви на ИИ изследователите, като сериозно намали времето и усилията, необходими на творци да създават въображаеми пейзажи и измислени хора.

Почти безкраен поток от фалшиви образи може да бъде видян на thispersondoesnotexist.com, както и има съпътстваща ИИ система, обучена върху изображения на котки, наречена thiscatdoesnotexist.com.

За да проверят дали хората могат да направят разлика между генерирани фалшиви образи и реалността, ИИ изследователите във Вашингтонския университет също така са създали уеб сайта за сравнения whichfaceisreal.com.

Техниките за машинно обучение са с "отворен код" и позволяват на почти всички да ги използват и надграждат. Софтуерът се усъвършенства през цялото време: по-нова версия на StyleGAN, представена миналия месец от ИИ изследователите в Nvidia, обещава по-бързи методи на генериране, по-висококачествени изображения и по-малко бъгове и артифакти, издаващи досегашните фалшификати.

Изследователите казват, че изображенията са дар от небесата за разпространяващите дезинформация, защото за разлика от реалните снимки, взети от друго място, не могат лесно да бъдат проследени. Подобни фалшификати вече се използват, включително и във Facebook, където модератори откриват изображенията да се използват за създаване на фалшиви профили, популяризиращи дадени страници или политически идеи.

В друг случай се установи по-рано тази година, че LinkedIn профилът на млада жена, за която се твърди, че се казва Кейти Джоунс, и която си е изградила контакти с висши фигури във Вашингтон, използва генерирано от ИИ изображение. Контраразузнавателни експерти коментираха пред Associated Press, че това изглежда като типична проява на чуждестранен шпионаж.

Технологията също така е основа за видеа за размяна на лица, известни като deepfake, използвани и за пародии, и за фалшива порнография.

Системите някога са изисквали огромни количества "лицеви данни", за да генерират един убедителен фалшификат. Учените обаче тази година публикуваха подробности за техники за "малко кадри", които изискват само няколко снимки, за да се получи убедителна имитация.

Създаването на ИИ генерирани изображения с такива обеми може да се окаже изключително скъпо, тъй като процесът изисква необичайно много изчислителна мощ под формата на скъпо струващи сървъри и графични карти. Компанията на Браун, подобно на други, се възползва от конкуренцията в облачните услуги между Google и Amazon, предлагащи "кредити", които стартъпите могат да използват за сериозна ИИ работа на силно намалени тарифи.

Браун казва, че има основателни опасения от генерирани от ИИ изображения, които да се използват за дезинформация или злоупотреби, като допълва, че трябва да се притесняваме за това, защото технологията вече е налице, и няма къде да се денем.

Решаването на този проблем по негови думи не е отговорност на компании като неговата: вместо това е нужна "комбинация от социални промени, технологични промени и политики." (Компанията не използва никакви мерки за идентификация, от рода на водни знаци, за да помогне на хората да проверят дали изображенията са реални или фалшификати.)

Два модела, работили с Icons8, казват, че едва след фотосесията са научили, че портретите им ще се използват за генерирани от ИИ изображения.

Браун коментира, че първите фотосесии са били предназначени за сток снимки, и че идеята за ИИ приложение е дошла по-късно, като допълва: "Никога не съм мислил за това като проблем."

Естефания Масера, 29-годишен модел от Аржентина, казва, че нейната фотосесия е включвала изразяване на различни емоции чрез лицеви гримаси. Тя е била приканена да изглежда гладна, гневна, уморена или все едно е научила, че е диагностицирана с рак. Когато преглежда някои от генерираните от ИИ лица, по нейни думи тя вижда някои сходства с очите й.

Тя сравнява софтуера за създаване на лица със системи за "дизайнерски бебета", в които родителите могат да изберат чертите на децата си. Моделът обаче не се притеснява толкова как технологията ще се отрази на работата й, светът все така ще се нуждае от реални модели, казва тя.

Сега тенденциите като цяло и за компаниите и брандовете по-конкретно са да се стремят към максимален реализъм, допълва тя.

Симон Ланза, 20-годишен студент, който също е участвал във фотосесия на Icons8, казва, че разбира защо хората в бранша са притеснени.

"Като модел мисля, че това би отнело работата на доста хора", заявява той. "Но не можем да спрем бъдещето."

Най-четените