През декември 2019 г. стартъп от Юта на име Latitude пуска на пазара иновативна игра, наречена AI Dungeon ("Тъмница с изкуствен интелект" в свободен превод).
Тя трябва да демонстрира ново ниво на колаборация между човек и машина, при което се използва ново поколение изкуствен интелект, генериращ игра по вкуса на потребителя и по подобие на "Dungeons and Dragons".
Когато играчът избира диалог или действие, което героят му трябва да изпълни, алгоритмите сами изчисляват какво да се случи по-нататък в играта. А през миналото лято Latitude се сдобива и с дори още по-модерна технология за изкуствен интелект и паралелно с това рекламира AI Dungeon като доказателство за потенциала на алгоритмите си.
Само че играта започна да демонстрира и тъмната страна на връзката човек-машина.
Мониторинг, проведен от компанията производител, доказва, че при определени думи и комбинации от думи и команди изкуственият интелект започва да генерира обезпокояващо съдържание, което съдържа насилие и сексуален подтекст.
Проблемът е, че модерацията в подобни случаи е трудна, а Latitude не иска потребителите да виждат по този начин бъдещето на машинния интелект.
Вместо това обаче промените, които компанията нанася в алгоритмите си, предизвиква бунт сред клиентите. Те се оплакват, че дори и напълно невинни реплики като "Осемгодишна машина" водят до предупреждение за неподходящо съдържание и цензура.
Други казват, че изискването за ръчна модерация на зададени от потребителя думи и действия, свързани със секс, е излишно навлизане в личното пространство. Тези хора са категорични, че използват AI Dungeon за създаване на сексуална фикция, но тя включва само доброволен секс с участието на пълнолетни лица.
Накратко казано - усилията на Latitude завършват с пълен провал.
Разгневени колажи се редуват с информация за анулирани абонаменти както в социалните мрежи, така и в специализираните форуми и платформите като Reddit. Общността на геймърите в AI Dungeon се чувства предадена, че някой ръчно ще преглежда генерираното от тях съдържание и ще чете създадена от друг фикция.
Потребителка, която се представя като Мими във форума на Reddit, казва, че е написала повече от 1 млн. думи с помощта на изкуствения интелект, сред които е и поезия и текстове на песни. Сред другите ѝ "произведения" обаче са и пародия на "Зоната на здрача", както и еротични разкази. За Мими Latitude просто унищожава една плодотворна за създателите на съдържание почва.
Лично за нея AI Dungeon помага да изследва аспекти от психиката си, каквито не може да достигне с други приложения и игри.
От фирмата създател на свой ред заявяват, че работят по това алгоритмите и модерацията им да стане по-фина и прецизна. Оттам уточняват, че потребители, които създават сексуално съдържание, и преди са били ограничавани, но въвежда някои "необходими промени" в тази насока.
Така оттук нататък играта ще поддържа единствено и само определен тип нецензурно съдържание.
Но да блокираш една платформа да прави съдържание за възрастни по едни теми, а по други - да го забранява, е доста трудна задача. Ако един текст вече е генериран, неговото продължение може да поеме в много различни посоки, част от които никак няма да са подходящи за хора под 18 години.
Нещо повече, изкуственият интелект не разбира концепцията за цензура, законност, разлики в половете. Затова и неговите творения могат да са както красиви и поразителни, така и токсични и опасни. Системата на Latitude е доказателство, което е успяло да произведе и шокиращи расистки и екстремистки материали, понякога напълно случайно.
А платформа като AI Dungeon предоставя на потребителите буквално безгранични възможности за генериране на съдържание. Още с пускането си през декември 2019 г. играта трупа 100 хил. геймъри, някои от които бързо се ориентират в обстановката и започват да се заиграват със сексуалната страна на сюжетите.
Други обаче са недоволни, че играта им предлага действия със сексуален подтекст, когато например се опитват да обяздят дракон или когато направят някакъв напълно неочакван завой в действията си.
Latitude е наясно, че някои геймъри са се чувствали ужасно неудобно от случващото се.
Някои съобщават за случаи, в които сюжетът включва в сексуални действия деца или изведнъж става непоносимо насилствен. Компанията добавя и възможност за игра в "ултра безопасен" режим, но и това не помага, тъй като алгоритмите понякога разчитат на евфемизми или възприемат отделни думи съвсем погрешно.
През 2020 г., когато Latitude представя подобрените си функции, промяната и проблемите са още по-осезаеми. Едни се наслаждават на креативността, особено в насока сексуалността и създаването на нови сюжети. Други откриват, че изкуственият интелект понякога бърка "изнасилване" с "известност".
Не е ясно колко неподходящо съдържание генерира в момента AI Dungeon, при положение, че има над 20 хил. потребители ежедневно. Според анализ на специалисти от април тази година, поне 31 на сто от 188 хил. истории са с груб сексуален контекст, ако се съди по част от ключовите думи в тях.
Въпреки това подходът към модерацията никак не допада на потребителите.
Въпросът е, че след като бъде създаден един алгоритъм, никой не знае как точно той ще се държи в реалния живот, особено след като се самообучава.
Затова и в момента основната задача на Latitude е как да придобие повече контрол над изкуствения си интелект, а не как да замазва щетите, след като последният е създал един куп изпълнено с насилие и секс съдържание.
