Изтъкната служителка в Google остана без работа, скоро след като постави искания пред компанията заради отхвърлен свой доклад. А обвиненията в расизъм и "заглушаване гласовете на маргинализирани групи" не закъсняха.
Макар технологичният гигант да защитава позицията, че Тимнит Гебру е подала оставка, стотици нейни колеги са убедени, че става дума за цензура. Самата тя в поредица от туитове през изминалата седмица обвини Google, че я е уволнила.
Всичко започнало с един скорошен доклад. Като съръководител на екипа за етичен изкуствен интелект (ИИ) в Google, Гебру търси проблеми и рискове около ИИ. Екипът ѝ разглежда широкопопулярен през последните години метод, при който изкуственият интелект се захранва от огромни масиви от текст, на базата на които може да възпроизведе нови текстове.
Според екипа на Гебру текстовете, с които се захранват моделите, не се подлагат на предварителна проверка и в тях могат да попаднат расистки, ceксистки и други текстове с обидно и нерегламентирано съдържание.
Документът отчита и опасностите от използването на големи езикови модели за обучение на алгоритми, които могат например да пишат туитове и да превеждат поезия.
Според учените зад доклада моделите са основно обучени чрез анализ на езика от интернет, който не отразява големи части от глобалното население, което все още не е онлайн. Това създава риск моделите да отразяват само мирогледа на хора, които са били достатъчно привилегировани да попаднат сред данните, използвани за обучението. А това създава възможност моделите след това да бъдат използвани за заблуждаване на четящите.
Докладът на Гебру и компания е трябвало да бъде представен за разглеждане за предстояща индустриална конференция през 2021 г.
Обичайно Google изисква всички публикации на изследователите ѝ да получат предварително одобрение. В този случай докладът e пристигнал ден преди крайния срок, което не било достатъчно време за преглед, коментират от компанията.
Но не това е ябълката на раздора. От Google поискали Гебру да изтегли документа, защото пренебрегва други изследвания по въпроса, а и не е била спазена правилната процедура. Извикали я на лична среща и ѝ казали, че ако тя не оттегли документа, Google настоява да бъдат премахнати от него посочените вътре имена на служители на компанията - включително и това на Гебру като съавтор.
Тя очаквано е поискала обяснение. По-късно в имейл помолила Google за дискусия по доклада, а освен това е поставила и условия - да бъде разкрита самоличността на всеки, който е участвал в рецензията на документа. Поискала също така да знае какво ще се случи с нейните бъдещи аналитични проекти.
Гебру посочила, че при тези условия би могла да остане да работи в компанията, иначе ще подаде оставка след съответното предизвестие.
След срещата Гебру се присъединява и към имейл група на изследователи от Google, наречена Google Brain Women and Allies. Там тя коментира доклад, по който други работят, за това колко малко жени са били наети от технологичната компания през пандемията. Гебру изразява мнението си, че такъв документ едва ли би бил ефективен и, съдейки по собствените си преживявания след последния ѝ труд, "никой в Google няма да носи отговорност".
"Спрете да пишете документите си, защото това няма значение. Няма начин повече документи или повече разговори да постигнат нещо", пише Гебру в имейла, цитиран от "Блумбърг Нюз". В същото писмо обвинява Google в "заглушаване на маргинализирани гласове".
Това, че нейният имейл стига и до "служители на не-мениджърски позиции в мозъчната група", според Google е "поведение, несъвместимо с очакванията за мениджър".
И така скоро след това Гебру получава не отговор на поисканите от нея условия, а уведомление от Google, че "приемат оставката" ѝ.
Официалният отговор на компанията е, че не може да отговори на исканията на изследователката и зачита решението ѝ да напусне компанията - при това не в посочения от нея срок, а веднага.
От споделените в Twitter имейли става ясно, че в отстраняването има пръст Джеф Дийн, който отговаря за отдела за изкуствен интелект на Google.
Реакциите
Тимнит Гебру е убедена, че уволнението ѝ има за цел да изпрати послание до останалите служители на Google "да не си отварят устатата".
Нейна колежка - Джой Буоламвини, каза, че д-р Гебру "заслужава повече" от Google заради постиженията си не само около изкуствения интелект, но и около напредъка по въпросите за равенството.
"Отстраняването ѝ заради дързостта да се изисква цялост на научните изследвания сериозно подкопава доверието в Google за подкрепа на строги изследвания за етиката на изкуствения интелект и алгоритмичния одит", посочва Буоламвини.
Според съавтора на спорната публикация - Eмили Бeндъp, действията нa Gооglе могат да имат негативен ефект върху изследванията в областта на етиката на изкуствения интелект.
Много други колеги на Гебру също застават на нейна страна. 1500 служители на Gооglе изпращат на ръководството протестно писмо.
"Изказваме солидарност с д-p Гeбpy, която беше отстранена от позицията (...) си след извършена безпрецедентна цензура на изследването", пишат служителите.
След уволнението на Гебру отвореното писмо в нейна подкрепа привлича близо 4500 подписали се (бел.ред. към 7 декември), както от Google, така и от индустрията като цяло. Потребители на Twitter пък се обединяват в защита на учената с хаштаг #BelieveBlackWomen.
"Би Би Си" отбелязва и че новината за уволнението на Гебру дойде в същия ден, в който американска агенция по труда обвини Google, че незаконно уволнява служители за участието им в профсъюзна дейност.
Коя е Тимнит Гебру?
Тя е един от водещите учени по отношение на етичната употреба на изкуствен интелект. Добре известна е с работата си за разкриване на расовите пристрастия в технологиите за разпознаване на лица и критиките за системи, които не успяват да разпознаят чернокожи лица.
През 2018 г. екипът ѝ показа как софтуер за разпознаване на лица погрешно идентифицира тъмнокожите жени в 35% от случаите, докато технологията работи с почти 100% точност върху белите мъже. Експертите наричат това "расови пристрастия в технологиите".
Гебру е и открит критик на липсата на многообразие в технологичните компании и неравното според нея третиране на чернокожите там.
Тя е и пионер по въпросите на "алгоритмичното пристрастие" (algorithmic bias), което най-общо обозначава случаите на системни грешки в модели, които отдават предпочитане на една или друга група от хора.
Екипът, с който Гебру работи в Google, създава езиковия модел BERT през 2018 г., който беше толкова успешен, че компанията го включи в своята търсачка. А, както е добре известно, търсенето е изключително доходоносен сегмент от бизнеса на Google, като само през третото тримесечие на тази година е донесло приходи от 26,3 милиарда долара.
