25-годишната Шахана Ханиф създава кариерата си чрез Facebook. Като активист и организатор, тя възприема социалната мрежа като необходим инструмент за промяна на езика на омразата и за самоорганизирането на отделни общности.
Facebook обаче е и мястото, в което Шахана Ханиф е тормозена, заплашвана и следена всеки ден.
Преди години тя започва да забелязва Facebook страници, които се представят за нейни. Фалшивите профили изглеждат убедително - използват снимки на Ханиф и 19-годишната ѝ сестра, извадени от публичните им профили. Някои от тях съдържат "агресивни, отблъскващо сексуални" коментари за Ханиф. Страниците са пълни със снимки на възбудени пениси.
Преди няколко месеца тя започва да докладва редовно всеки фалшив профил, който се представя за нейно творение; Facebook забранява създаването на акаунти от чуждо име. Но едва след като Шахана публикува 5-6 публични статуси във Facebook, с които приканва приятелите ѝ да докладват страницата, тя е премахната.
Веднага след това момичето осъзнава, че стратегията ѝ е дала обратен резултат. Собствената ѝ страница е премахната - някой я е докладвал като фалшива. Междувременно се появява друг вулгарен профил.
Шахана Ханиф не е единствена в борбата си с троловете. Facebook има толкова много доклади за тормоз, че хората не успяват да реагират достатъчно бързо. Затова социалната мрежа разчита на алгоритъм, който помага на екипа.
Ако желаете да докладвате даден профил за тормоз или за друго поведение, което нарушава стандартите на Facebook, вариантите ви са ограничени до онлайн връзка със социалната мрежа. Facebook има екипи, които преглеждат тези съобщения денонощно, без почивни дни. "Огромното мнозинство" от съобщения получават отговор в рамките на 24 часа, твърди представител на Facebook.
Алгоритъмът за борба с тормоза във Facebook разпознава и филтрира дублиращи се съобщения, като по този начин отчита по-ефективно еднотипните нарушения - например публикуване на голи снимки или порнография,
Ако Facebook получи 1000 съобщения за едно и също нарушение, алгоритъмът ще улесни процеса, така че хората няма да са принудени да отговарят поотделно на всичките 1000 подаени сигнала.
При 2 милиарда потребители и огромни количества онлайн тормоз, е напълно обяснимо защо Facebook разчита на автоматизация, когато е необходимо.
Задачата на хората в екипа на Facebook е да направят "контекстуализация".
"Те определят дали даден коментар е проява на омраза или тормоз. Затова имаме постоянен екип от хора, които преглеждат тези неща", посочва представителят на социалната мрежа.
Той подчертава, че тези съобщения се преглеждат от живи хора, които отговарят на подателите. Ако получите официален отговор, той не е компютърно генериран: съобщението ви е видяно от човек, който е решил да отговори.
Ханиф е чела десетки подобни стандартни съобщения. Тя не разбира защо няма по-човешки начин потребителите да се свържат с Facebook в случай на постоянен тормоз.
"В някакъв сериозен случай би трябвало да мога да говоря с някого по телефона, трябва да има лице за контакт, нещо веществено и осезаемо," казва тя.
Ханиф смята, че Facebook не предприема мерки след серията от нейни сигнали, защото фалшивата страница изглежда твърде убедително.
"Ако една страница има над 4000 приятели и изобилие от снимки, не е лесно да се блокира такъв акаунт. Изглежда така, сякаш човекът е истински", казва тя.
"Във Facebook просто решиха, че аз се преструвам на друг човек заради смотания си алгоритъм - въпреки че имам акаунт от 8 години, реалната ми дейност е там, аз съм истинската Шахана Ханиф," коментира тя.
Компютрите умеят да преработват големи количества информация за кратко време, но имат проблеми със засичането на автентичност и изпълняването на действия с емпатия.
Бивш служител на Facebook, който разговаря с нас с молба за анонимност, признава, че алгоритмите понякога допускат грешки. "Ако съдим по случая с Шахана, смятам, че точно това е и станало."
Без възможност за лична комуникация, жертвите на тормоз са безпомощни.
Ханиф е принудена да докладва страницата ден след ден, с надеждата поне едно от нейните съобщения да бъде забелязано. Това не дава резултат. За щастие тя има контакти във Facebook и се свързва лично, за да обясни ситуацията си. Без тази помощ според нея страницата ѝ нямаше да бъде възстановена.
"Знаех си, че ако нямам връзка с някой във Facebook, или с хора, чрез които да се свържа с известни личности, истинският ми профил никога няма да бъде възстановен," коментира тя.
Бившият служител на Facebook разказва, че често от тях се иска помощ за справяне с тормоз, когато алгоритъмът не е проработил както трябва: "Редовно приятели, или приятели на приятели, се свързваха с мен заради различни проблеми".
След като Ханиф потвърждава самоличността си пред Facebook, като изпраща данните от паспорта си, социалната мрежа активира отново акаунта ѝ и изпращат съобщение с извинение за "причиненото неудобство".
Ханиф казва, че не е получила "никакво признание" на факта, че тя и нейната сестра са станали жертва на тормоз.
"Това отговорност ли е? "Неудобството" беше, че това ме травматизира. Не можех да отида на работа цял ден".
Да създадеш машина за борба с омразата
"Няма спор, че работата ни може да се усъвършенства", коментира бившият служител на Facebook. "Мисля, че ситуации като тази на Шахана ни показват, че независимо колко умни са социалните ни алгоритми, независимо колко много хора харесват и употребяват Facebook и го приемат като ценна услуга, за някои хора той не е приятно изживяване. Ние като общество би трябвало постоянно да търсим начини да поправим този проблем, който стои пред Facebook, журналистите и активистите."
Фалшивите акаунти във Facebook са "уникален" проблем, казва представител на компанията: за разлика от Twitter и Instagram, не можете да се скриете зад псевдоним или потребителско име - трябва да сте с реалната си идентичност. Тъй като Facebook счита, че потребителите използват истинските си имена, "очаква се, че знаете с кого комуникирате".
Facebook напълно съзнава, че системата му има много пропуски.
Говорителят на социалната мрежа коментира, че компанията е провела серия от кръгли маси с организации за безопасност на жените на четири места по света, за да обмени информация за наличните инструменти и средства за борба с тормоза. Facebook иска да "води открита дискусия за това къде се проваляме и какво бихме могли да правим по-добре."
"Опитваме се да използваме автоматизация при прилагането на нашите стандарти," казва говорителят на Facebook. "Ще продължим да търсим допълнителни начини, по които автоматизацията да докладва и премахва съдържание, което ясно противоречи на нашите политики".
По думите му не съществува вариант, в който борбата с онлайн тормоза да се управлява изцяло от алгоритми.
Изпълнителният директор на Medium и съосновател на Twitter Ев Уилямс коментира пред BloombergTV, че онлайн тормозът става все по-сериозен като злоба и ниво на агресивност. Twitter също беше обвиняван, че не се справя добре с реакцията при тормоз срещу потребители на платформата.
Има ли как да озаптим троловете?
Ханиф все още не знае защо е станала мишена на тролове.
"Мисля, че мъжете онлайн са опасни и търсят власт," коментира тя. "Представянето за други хора им позволява да изпитват чувство за власт, особено след отхвърляне или мълчалив отказ от жена. Това е форма на манипулация. Това е най-плашещата форма на тормоз, защото не знаеш нито как изглежда извършителят, нито къде се намира."
Ханиф има идеи как Facebook би могъл да работи по-добре.
Една от мерките е да се даде възможност на компанията да проследява потребителски IP адреси и да изисква съдействие от органите на реда или други служби. Facebook би трябвало да създаде екип, посветен изцяло на жените, тормозени онлайн - и отделен екип за премахване на фалшиви акаунти.
Ханиф препоръчва на Facebook да улесни възможността на потребителите да кандидатстват за "верификация" - такак както го направи Twitter. По думите й социалната мрежа не бива да допуска потребителите-нарушители да създават многобройни акаунти.
Когато става дума за тормоз онлайн, несъвършените системи могат сериозно да навредят на потребителите.
Изводът е, че ангажирането с потребителите спада наравно с безопасността им - нещо, което Facebook недвусмислено признава. "Хората няма да споделят във Facebook, ако не се чувстват в безопасност, и това е нещо, което осъзнаваме във всеки един момент," казва говорителят на компанията.
