Представете си общество, в което бивате оценявани от държавата по "благонадеждност", а "гражданската ви оценка" определя благата, с които разполагате - по-висока оценка ви дава достъп до по-бърз интернет или ускорено получаване на виза за Европа.
Ако обаче публикувате политически постове онлайн без разрешение, или подлагате на съмнение или оспорвате официалната теза на властите за скорошни събития, оценката ви се намалява.
Междувременно, за да изчислят оценката, частни компании, работещи с правителството, постоянно преравят огромни обеми съдържание в социалните ви медии и данни за пазаруването ви онлайн.
Когато излезете от вратата на дома си, действията ви във физическия свят също попадат в мрежата за наблюдение: правителството събира огромни количества информация чрез видеокамери, разположени по улиците из целия град. Ако извършите престъпление - или ако просто пресичате неправилно — алгоритми за разпознаване на лица сравняват лицето ви от видеозаписа със снимка в националната база данни за лични документи. И не минава много време, преди полицията да се окаже на вратата ви.
Не, това не е някоя нова антиутопична фантастика в стила на Джордж Оруел. Това е една доста реалистична картина на Китай след няколко години.
Страната полага усилия да е първата, която ще въведе всеобхватна система за алгоритмично наблюдение на гражданите си. Като използва напредъка в изкуствения интелект и технологиите за съхранение и преравянето на обеми от данни, китайската комунистическа партия-държава разработва "гражданска оценка", която да стимулира "доброто" поведение.
Огромна съпътстваща мрежа от камери за наблюдение постоянно ще следи движението на гражданите, с аргумента за намаляване на престъпността и тероризма. Въпреки че разрастващото се наблюдение в стил "1984" може да повиши "обществената безопасност", то създава смразяваща нова заплаха за гражданските свободи в страна, която така или иначе се нарежда в челните места по контрол върху гражданите.
Еволюиращата алгоритмична система за наблюдение в Китай ще разчита на органите за сигурност, които са под контрола на комунистическата партия, за да филтрира, събира и анализира поразителни количества данни от интернет.
С оправданието за засилен контрол в името на националната сигурност и социалната стабилност, Китай първоначално е планирал да разработи т.нар. система за наблюдение "Златен щит", позволяваща лесен достъп до локални, национални и регионални публични данни за всеки гражданин. Този амбициозен проект досега се ограничаваше основно до филтриращия онлайн съдържание "Велик китайски файъруол", който забранява чуждестранни сайтове, включително Google, Facebook и New York Times.
Според Freedom House, нивата на свобода в интернет в Китай вече са сред най-ниските в света. Сега комунистическата партия в страната най-накрая изгражда мащабната, функционираща на много нива система за събиране на данни, за която мечтае от десетилетия.
Китайското правителство отдавна следи отделни граждани за доказателства за нелоялност спрямо режима, но едва сега е започнало да разработва изчерпателен, постоянно обновяван детайлен архив на политическите убеждения на всеки гражданин, изказванията и комнтарите му, контактите му и дори потребителските му навици.
Новата система за "социален кредит", която се разработва в последно време, ще консолидира огромните обеми архивна информация от частни компании и правителствени институции в единна обща "гражданска оценка" на всеки гражданин.
В мащабните си дългосрочни планове, огласени през 2014 г., китайската комунистическа партия заявява цел да "поддържа доверието и да ограничава начините за нарушаване на доверието".
Въпреки че системата засега работи на доброволни начала, тя ще стане задължителна към 2020 г. Вече около 100 000 китайски граждани са писали в социални медии за високи оценки в приложението "Sesame Credit", поддържано от Alibaba, което е предшественик от частния сектор на предложената от правителството система.
Мащабният конгломерат за електронна търговия твърди, че приложението му следи само финансовото и кредитно поведение на потребителите, но обещава да предложи "холистична оценка на характера". Не е трудно човек да си представи как скоро много китайци ще се хвалят с официалните си оценки от властите.
Въпреки че все още не е ясно какви данни ще бъдат вземани предвид, коментатори вече твърдят, че мащабите на системата ще са притеснително големи.
Планираната оценка за "граждански кредит" ще разчита на много повече данни от кредитния рейтинг FICO, използван в Западния свят, който помага на кредиторите да вземат бързи и надеждни решения дали да отпускат финансови кредити. Той проследява само дали сте изплатили дълговете си и сте управлявали добре парите си, но експертите по Китай и защитата на лични данни в интернет смятат, че тази кредитна оценка ще е по-висока, ако купувате продукти, които режимът одобрява - например памперси - и по-ниска, ако купувате такива, които не допадат на властта като видеоигри или алкохол.
Извън областта на онлайн покупките, политическата ангажираност също може много да повлияе на гражданската оценка: публикуването на политически изказвания без разрешение, или дори публикуване на реални новини, които китайското правителство не одобрява, може да понижи "рейтинга" ви.
Още по-притеснително е, че правителството технически ще е способно да взема предвид поведението на приятелите и роднините на граждани в страната, за да определя тяхната оценка. Например е възможно антиправителствена публикация от ваш близък приятел или роднина да понижи вашата собствена оценка. Така системата за оцеляване ще изолира дисидентите от техните приятели и останалата част от обществото.
Гражданската оценка може дори да определя правото на досъп до определени привилегии, считани за даденост в Западния свят, като виза за пътуване в чужбина или дори правото за пътуване с влак или самолет в рамките на страната.
Един от експертите в областта на защитата на лични данни онлайн предупреждава: "Това, което Китай на практика прави в случая, е да извършва селекция сред населението си, при която да елиминира черти като критичното, независимо мислене".
Но докато мнозина се притесняват за правата на гражданите в Китай и за потенциалните заплахи свободата там, много китайци приветстват мерките, тъй като липсата на доверие е сериозен проблем в страната.
Тази планирана базирана на данни социална кредитна система е само един от аспектите на бързо разрастващата се китайска система на алгоритмично наблюдение.
Друг аспект е огромната мрежа от технологии, особено камери за наблюдение, следящи физическото движение на хората.
През 2015 г. националната полиция на Китай - Министерството на обществената безопасност - призова за създаването на "вездесъща, изцяло свързана, винаги работеща и напълно контролируема" национална мрежа за видеонаблюдение.
Министерството на обществената безопасност и други правителствени институции обявиха, че органите на реда трябва да използват технологии за разпознаване на лица в комбинация с видеокамерите, за да залавят нарушители.
IHS Markit твърдят, че броят на камерите в Китай в момента е около 176 млн., като има планове за инсталирането на още 450 млн. камери до 2020 г. Практически 100% от територията на Пекин вече е покрита от камери за наблюдение, обяви наскоро пекинското Бюро за обществена безопасност.
Заявената цел на тази система е залавяне и възпиране на престъпници. Тя обаче представлява очевиден и огромен риск за личните данни, личното пространство и минималните свободи, които китайските граждани са придобили от маоистката ера насам. Наказанията за незначителни престъпления изглеждат необосновато сериозни: властите във Фужу публикуват имената на пресичащите неправилно в локалните медии и дори изпращат тази информация до работодателите им.
По-зловещо обаче е вероятно наказание, налагано на хора, които поддържат контакти с дисиденти или критици на официалната държавна политика, или разпространяват петиция, или излязат на протест с лозунг в ръка, или просто се окажат на неподходящото място в неподходящото време.
Китайското правителство постоянно следи мобилните телефони и социалните медии на активисти за защита на правата на човека в името на "поддържането на стабилността".
Система за видеонаблюдение би позволила още по-масово разпространено и репресивно следене. А публичната достъпност на такова видеонаблюдение би застрашила личното пространство на всеки гражданин: сплетничещ съсед с лекота би могъл да шпионира какво прави съседно семейство, докато то се занимава с домакински задачи или отива на почивка.
Китайските експерименти с цифровото следене създават сериозна нова заплаха пред свободата на словото и други права на човека в Китай. Все повече гражданите ще се въздържат от всякакви видове независими или критични изказвания заради опасения, че данните им ще бъдат видени, или движенията им ще бъдат записани (и строго санкционирани) от правителството.
И точно това е и целта на тази програма. Нещо повече, това, което се заражда в Китай, няма да остане само в Китай. Тези репресивни технологии имат тенденция да навлизат и в други авторитарни режими по цял свят.
Поради тази причина - извън неизбежната загриженост за съдбата на стотици милиони хора в страната, чиито скромни свободи допълнително ще бъдат ограничени - демокрациите по света трябва да наблюдават внимателно и категорично да отхвърлят този зловещ стремеж към свят в духа на Джордж Оруел.
