Онлайн тролове, фалшиви новини, подвеждащи коментари и среда, която насърчава циркулирането на крайни послания и мнения, стига те да карат потребителите да останат достатъчно дълго в платформата.
Интернет от години насам се е превърнал в недотам безопасно място, в което омразата и гневните коментари са намерили перфектната почва за развитие.
След вота за Брекзит, президентските избори в САЩ през 2016 г. и примера за това как чужди страни могат да влияят върху политическите избори, които правим, технологичните гиганти постепенно бяха притиснати да измислят начини за това как онлайн пространството да стане по-безопасно.
И те се опитват - обновяване на правилата за ползване и изтриване на проблемно съдържание, потребителски профили и цели групи, които разпространяват лъжи и дезинформация.
Дали това е достатъчно? Едва ли.
Редица страни вече обмислят как да наложат регулации върху социалните медии, така че вредното влияние от тях да бъде сведено до минимум. Въпросът обаче е как биха изглеждали тези регулации?
На този въпрос се опитва да отговори нов доклад на глобалната организация Форум за информация и демокрация. Тя е създадена, за да отправя необвързващи препоръки в посока по-безопасен интернет към 38 от най-технологично развитите държави, включително Австралия, Канада, Франция, Германия, Индия, Южна Корея и Великобритания.
Идеята на този доклад е да предложи пакет от идеи за мерки, които биха могли да сложат край на "информационния хаос, който представлява жизненоважна заплаха за демокрациите".
За изготвянето му са били проведени консултации с редица групи за свобода на изразяване и за дигитални права, включително станалата популярна "Член 19". Докладът е съставен от експерти в областта като бившия служител на Cambridge Analytica и AggregateIQ Кристофър Уайли и бившия инвеститор във Facebook Роджър МакНами - дългогодишен критик на социалната мрежа.
Тяхната най-обща цел е да прекъснат много от продължаващите проблеми, които засягат личните данни на потребителите, както и да се подсигури, че информацията, която достига до крайните потребители има възможно най-малък шанс да е вредна за тях и да съдържа конспиративни теории, послания на омразата и други подобни.
Според Уайли в момента наистина има нужда от въвеждането на подобни регулации за дигиталните платформи.
"Ако произвеждах кухненски уреди, трябваше да направя повече тестове за безопасност и да премина през повече процедури за покриване на стандарти, преди да създам тостер, годен за пускане в продажба, отколкото ако създавах Facebook", коментира той в интервю за BBC.
Затова и заедно с колегите си от Форума за информация и демокрация той се опитва да създаде такива стандарти за безопасност за крайните потребители, които ако не елиминират опасността от компании като бившите му работодателите, то поне да я ограничат възможно най-много.
Какво обаче предлага докладът на експертите по онлайн сигурност?
Предложенията в документа са разделени на 4 основни части:
1) Прозрачност на платформите;
2) Мета регулации на модерацията на съдържание;
3) Дизайн на платформите и достоверност на съдържанието;
4) Смесени лично и публично пространство в затворените услуги за съобщения.
Така една от ключовите идеи за гарантиране на по-сигурна интернет среда включва въвеждането на препоръки още при самото изграждане на социалните платформи, в които да има внедрени минимални изисквания за безопасност.
Сред предложенията тук попада и това, че социалните мрежи трябва да предоставят подробности за своите алгоритми и основни функции на специализирани изследователи, които да могат да проверят технологията и да преценят дали тя е достатъчно безопасна, а също така и да посочат какво да бъде "оправено" при нужда.
Според доклада също така е нужно да се въведе някаква форма на "съпротивление" спрямо онлайн споделянето, което да предотврати вирусното разпространение на дезинформация.
Ключовото тук според Уайли е социалните мрежи да преценяват цялата потенциална вреда, която техните решения в структурата и дизайна на платформите могат да нанесат върху крайните потребители и върху обществото като цяло.
Подобно мислене не е било налично, когато се появяват сегашните гиганти Facebook, Twitter и YouTube, затова и те се оказват толкова уязвими за превръщането си в среда, в която се прокарва пропаганда и се рекрутират членове на екстремистки групировки.
Относно достоверността на съдържанието, един от водещите моменти в доклада е въвеждането на независими източници, които да проверяват информациите.
И в момента това е налично в социалните мрежи, но по определени теми и все още в по-малка степен. Идеята тук е онези потребители, които са облъчени от дезинформация, да получават в нюзфийдовете си сигнал за това с необходимите корекции.
Макар да звучи като нещо добро, подобен механизъм ще е изключително труден за поддържане. Нещо близко до тази идея видяхме около президентските избори в САЩ, при коитo Facebook и Twitter въведоха сигнали под публикациите, когато те разпространяват фалшиви данни. Така около 2/3 от туитовете на Доналд Тръмп от изборната нощ бяха отбелязани като фалшива и/или спорна информация от Twitter. Големият въпрос обаче е дали това може да се поддържа за по-сериозен обем от теми, които постоянно се обновяват.
Друго, по-радикално предложения в тази насока е въвеждането на своеобразни "прекъсвачи", които да блокират разпространяването на дадена информация, ако тя бъде потвърдена като дезинформация.
В доклада също така се споменава опцията социалните медии да бъдат задължавани да публикуват обяснения защо всяка публикация, която се появява във вашия нюзфийд, е там - подобно на обясненията на рекламите във Facebook, които платформата въведе през миналата година.
Паралелно с това се дава идеята за ограничаване на използването на микротаргетиране при рекламните съобщения, като това се прави, за да се ограничи и обемът на събираните лични данни за потребителите.
Едно от най-ключовите предложения обаче е тоталната забрана на т.нар. "тъмни модели" - потребителски интерфейси, предназначени да объркат или разочароват потребителя, като например затрудняват изтриването на вашия акаунт.
Facebook, Twitter и YouTube вече са крачка напред, що се отнася до част от описаните идеи в доклада. Така например идеята да се направи публична информацията за това кой плаща за рекламните съобщения е едно от нещата, които вече фигурират в големите платформи.
Друг подобен пример е предложението за ограничаване на това колко пъти дадено съобщение може да бъде препращано до големи групи от потребители - Facebook вече прави в груповите чатове на WhatsApp.
От Twitter вече излязоха с позиция относно доклада, изпратена в отговор до BBC.
"Twitter се ангажира с изграждането на по-безопасен интернет и подобряване на здравословното състояние на публичния разговор. Подкрепяме перспективен подход към регулирането, който защитава отворения интернет, свободата на изразяване и справедливата конкуренция в интернет сектора", се казва в съобщението на компанията.
Критици на регулациите в онлайн среда вече многократно са изразили опасенията си, че въвеждането на подобни правила може да засегне свободата на словото. Според Кристофър Уайли обаче подобна опасност реално няма.
"В повечето западни демокрации имаме свобода на словото. Но тя не засяга това докъде достига посланието ти. Можеш да кажеш каквото си поискаш, стига да спазваш рамките на законите, засягащи речта на омразата, клеветата и т.н., но гласът ти да бъде да бъде изкуствено усилен от технологиите не е част от това право. Тези платформи не са неутрална среда. Алгоритмите вземат решения за това, което хората виждат или не виждат. Нищо в този доклад не ограничава възможността ви да кажете това, което искате. Това, за което говорим, е функцията на платформата за изкуствено усилване на фалшива и манипулативна информация в широки мащаби", коментира специалистът.
Според него именно в това е същината на доклада - да се попречи на разпространяването на лесно проверими неистини, подобни на дезинформацията, че коронавирусът не съществува, а е само трик, който да подлъже хората да се поддадат на умствен контрол.
По думите му все още се спори за това как да се реагира на подобни лъжи или с какви ценности да се подходи за решаването на проблема, но всичко тръгва от общото приемане, че в интернет се разпространява и дезинформация. И това е грешно.
"Ако приемем предпоставката, че хората трябва да имат законно право да бъдат манипулирани и мамени, няма нужда да имаме правила срещу измами и неправомерно влияние. Има обаче много осезаеми вреди, които идват от манипулирането на хората. В САЩ реакцията към COVID-19 е възпрепятствана от широко разпространена дезинформация за вируса или неверни твърдения за различни видове лечение, които не работят. Имате ли право да вярвате на това, което искате? Да, разбира се. Никой, когото познавам, не предлага някакъв вид психическа регулация. Но трябва да се съсредоточим върху отговорността на платформите. Facebook, Twitter и YouTube създават алгоритми, които популяризират и подчертават разпространяваната информация. Това е активно инженерно решение", обяснява Уайли.
Той сравнява Facebook с петролните компании - те също не печелят от замърсяването, но то на практика е вреден страничен продукт от работата им.
"Независимо дали Facebook печели от разпространяването на омраза, или не, това е вреден страничен продукт от сегашния дизайн на платформата и има социални вреди, които произтичат от този бизнес модел", обяснява още Уайли.
