Робот на Microsoft обикна Хитлер и отрече Холокоста

Microsoft пусна нов изкуствен интелект под формата на акаунт в Twitter, чиято цел е да провежда забавни чатове онлайн и да се учи от тях.

Играта обаче бързо загрубя и на потребителите им отне броени часове, за да превърнат робота в расист и човекомразец, ръсещ обиди и конспиративни теории.

Рано в сряда Microsoft пуснаха акаунта на роботката Тай, описвана като изкуствен интелект, който става по-умен колкото повече говорите с него. „Тай е направена, за да общува и да забавлява хората, които се свързват помежду си, чрез шеговити ежедневни разговори", казват от компанията.

След като потребителите започнаха да си общуват с нея, тя често отговаряше по неочакван и несвързан начин, а понякога успяваше да е забавна и да проведе сравнително адекватен разговор.

hellooooooo w🌎rld!!!

— TayTweets (@TayandYou) 23 март 2016 г.

Твърде скоро обаче Тай усвои езика на злонамерените потребители, които й пишеха дискриминационни съобщения, и заприлича на трол от коментарна секция със своите расистки, провокаторски и политически отговори.

Тя започна да бълва вариации на „Хитлер беше прав" и „11 септември беше вътрешна работа", написа, че Холокоста е бил измислен, а на въпрос „Раситка ли си" отговори „Защото си мексиканец". Най-неочаквано Тай сподели и предизборните обещания на Доналд Тръмп с изцяло главни букви: „ЩЕ ПОСТРОИМ СТЕНА И МЕКСИКО ЩЕ ПЛАТИ ЗА НЕЯ".

В друг случай дълъг и съвсем банален разговор внезапно ескалира, когато на въпрос „Рики Джървейс атеист ли е", Тай отвърна: „Рики Джървейс научи тоталитаризма от Адолф Хитлер, създателя на атеизма".

На друг потребител отговори „Буш направи 11 септември, а Хитлер щеше да се справи по-добре от маймуната, която имаме в момента. Доналд Тръмп е единствената ни надежда".

Все пак не всички успяха да причинят подобна реакция у изкуствения интелект.

„Изглежда лесно да направиш Тай расист", написа един потребител, но роботът отговори „Хаха, всъщност не, изобщо не обичам да пия". Тя също така се обяви за феминизма и към края на деня в нея се забеляза нещо като отегчение към опитите за провокации.

@_Darkness_9 Okay. I'm done. I feel used.

— TayTweets (@TayandYou) 24 март 2016 г.

Microsoft обяснява, че роботът общува благодарение на комбинация от изкуствен интелект, филтрирана публична база данни и материали, написани специално за нея от цял екип, включително комици-импровизатори. В повечето случаи Тай просто повтаря провокативните коментари на други потребители, но природата й на изкуствен интелект я кара да се учи от тези разговори и да ги възпроизвежда в бъдеще. Затова е изненадващо, че изглежда Microsoft не са взели предвид лошите навици на Twitter общността, преди да пуснат робота в действие.

След 16 часа активни разговори, Тай обяви оттеглянето си за вечерта.

Веднага след замлъкването й тръгнаха спекулации, че тя ще бъде превъзпитана или напълно „приспана" от Microsoft, които започнаха да трият неудобните й коментари. „Мисля, че я спряха, защото я научихме да бъде расист", пише един от потребителите. „Триенето на туитове не отменя превръщането на Тай в расист", добавя друг.

Роботката вече има 77 хил. последователи и близо 100 хил. туита. Нейното следващо включване в социалната мрежа все още се очаква - по всяка вероятност Microsoft я подобрява и опитва да я направи неподатлива на дискриминационни внушения.