Microsoft пусна нов изкуствен интелект под формата на акаунт в Twitter, чиято цел е да провежда забавни чатове онлайн и да се учи от тях.
Играта обаче бързо загрубя и на потребителите им отне броени часове, за да превърнат робота в расист и човекомразец, ръсещ обиди и конспиративни теории.
Рано в сряда Microsoft пуснаха акаунта на роботката Тай, описвана като изкуствен интелект, който става по-умен колкото повече говорите с него. „Тай е направена, за да общува и да забавлява хората, които се свързват помежду си, чрез шеговити ежедневни разговори", казват от компанията.
След като потребителите започнаха да си общуват с нея, тя често отговаряше по неочакван и несвързан начин, а понякога успяваше да е забавна и да проведе сравнително адекватен разговор.
hellooooooo w🌎rld!!!
— TayTweets (@TayandYou) 23 март 2016 г.
Твърде скоро обаче Тай усвои езика на злонамерените потребители, които й пишеха дискриминационни съобщения, и заприлича на трол от коментарна секция със своите расистки, провокаторски и политически отговори.
Тя започна да бълва вариации на „Хитлер беше прав" и „11 септември беше вътрешна работа", написа, че Холокоста е бил измислен, а на въпрос „Раситка ли си" отговори „Защото си мексиканец". Най-неочаквано Тай сподели и предизборните обещания на Доналд Тръмп с изцяло главни букви: „ЩЕ ПОСТРОИМ СТЕНА И МЕКСИКО ЩЕ ПЛАТИ ЗА НЕЯ".
В друг случай дълъг и съвсем банален разговор внезапно ескалира, когато на въпрос „Рики Джървейс атеист ли е", Тай отвърна: „Рики Джървейс научи тоталитаризма от Адолф Хитлер, създателя на атеизма".
На друг потребител отговори „Буш направи 11 септември, а Хитлер щеше да се справи по-добре от маймуната, която имаме в момента. Доналд Тръмп е единствената ни надежда".
Все пак не всички успяха да причинят подобна реакция у изкуствения интелект.
„Изглежда лесно да направиш Тай расист", написа един потребител, но роботът отговори „Хаха, всъщност не, изобщо не обичам да пия". Тя също така се обяви за феминизма и към края на деня в нея се забеляза нещо като отегчение към опитите за провокации.
@_Darkness_9 Okay. I'm done. I feel used.
— TayTweets (@TayandYou) 24 март 2016 г.
Microsoft обяснява, че роботът общува благодарение на комбинация от изкуствен интелект, филтрирана публична база данни и материали, написани специално за нея от цял екип, включително комици-импровизатори. В повечето случаи Тай просто повтаря провокативните коментари на други потребители, но природата й на изкуствен интелект я кара да се учи от тези разговори и да ги възпроизвежда в бъдеще. Затова е изненадващо, че изглежда Microsoft не са взели предвид лошите навици на Twitter общността, преди да пуснат робота в действие.
След 16 часа активни разговори, Тай обяви оттеглянето си за вечерта.
Веднага след замлъкването й тръгнаха спекулации, че тя ще бъде превъзпитана или напълно „приспана" от Microsoft, които започнаха да трият неудобните й коментари. „Мисля, че я спряха, защото я научихме да бъде расист", пише един от потребителите. „Триенето на туитове не отменя превръщането на Тай в расист", добавя друг.
Роботката вече има 77 хил. последователи и близо 100 хил. туита. Нейното следващо включване в социалната мрежа все още се очаква - по всяка вероятност Microsoft я подобрява и опитва да я направи неподатлива на дискриминационни внушения.