В първия неделен следобед на 2015-та, Илън Мъск* излиза на сцената на конференция. Той обсъжда пред ограничена аудитория в пуерторикански курорт тема за "експлозията на интелекта". Този стряскащ теоретичен термин се отнася за неконтролируемия хипер-скок в когнитивните способности на изкуствения интелект, който според Мъск и физика Стивън Хокинг може някой ден да сложи край на съществуването на човешката раса.
Това, че някой с популярността на Мъск говори на конференция за етиката на изкуствения интелект - отдавна считана за тема единствено за учени - е забележително.
Самата конференция, носеща оптимистичното заглавие "Бъдещето на Изкуствения Интелект (ИИ): възможности и предизвикателства", представялва безпрецедентна среща на някои от най-интелигентните хора на света. Тя събира на едно място специалистът по етика на ИИ от Оксфорд Ник Бостром и едри риби от IT бизнеса, като основателя на Skype Ян Талин, както и експерта по ИИ в Google Шейн Лег.
И Илън Мъск, и Стивън Хокинг се притесняват от апокалипсиса, който ИИ може да предизвика някой ден. Но те осъзнават, че има и по-непосредствени заплахи от ИИ.
В последните 5 години, напредъкът в областта на ИИ - и конкретно на област от ИИ алгоритмите, наречена "дълбоки невронни мрежи" - поставя основаните на "изксутвен интелект" продукти на централна позиция в живота ни.
Google, Facebook, Microsoft и Baidu и много други наемат учени-специалисти по изкуствен интелект и с безпрецедентни темпове инвестират стотици милиони долари в надпреварата за по-добри алгоритми и по-умни компютри.
Проблемите с ИИ, които изглеждаха почти непреодолими само преди няколко години, сега вече намират решение.
"Дълбокото самообучение" (Deep learning) засили възможностите за разпознаване на говор на Android и снабди Skype с уникални възможности за незабавен превод.
Google вече създава самоуправляващи се автомобили и компютърни системи, които могат да се самообучават и които дори вече могат да идентифицират видеа с котки.
Кучета-роботи пък вече могат да се движат, до голяма степен, подобно на живите си събратя.
"Неща от рода на компютърна визия започват да работят; разпознаването на говор също започва да работи. Развитието на ИИ системите доста се ускори", казва Барт Селман, професор в Корнелския университет и специалист по ИИ етика, който присъства и на конференцията с Мъск. "И това прави още по-належащо разглеждането въпроса".
Като се има предвид бързото развитие, Мъск и други анализатори призовават създаващите такива продукти внимателно да обмислят етичните аспекти.
На конференцията в Пуерто Рико, делегатите подписаха отворено писмо, в което поемат ангажимента да провеждат изследвания на ИИ за добри цели, "избягвайки потенциални клопки".
Мъск също е сред подписалите писмото. "Всички водещи изследователи заявяват, че безопасността на ИИ е много важна", коментира той. "И в това отношение съм съгласен с тях".
Google също са на борда
Девет учени от DeepMind, компанията за ИИ, която Google купи миналата година, също подписаха писмото.
Историята зад този документ обаче датира чак от 2011 година. Тогава Ян Талин се запознава с Демис Хасабис, след като присъства на негова презентация на конференция за изкуствен интелект.
Хасабис наскоро е основал стартиращата компания за ИИ DeepMind и Талин си поставя мисия. След основаването на Skype той става "евангелист" по въпросите на ИИ безопасността и търси други хора, които да "евангелизира" за каузата си.
Двамата започват да обсъждат ИИ и Талин скоро инвестира в DeepMind, а миналата година Google платиха 400 млн. долара за компанията, която има 50-членен екип.
Така с един удар Google получиха най-голямата общност от таланти сред експертите по "дълбоко самообучение" в света.
Google пазят в дълбока тайна амбициите си за DeepMind - компанията не позволява на Хасабис да дава интервюта - но едно е ясно: DeepMind извършват изследвания, които биха позволили на робот или самоуправляващ се автомобил да се ориентира по-добре в средата си.
И това донякъде притеснява Талин.
В презентация, която изнася на конференцията в Пуерто Рико, той си спомня среща, на която Хасабис му показва как е направил система за машинно обучение, която може да играе на класическата аркадна игра от 80-те години Breakout.
Не само че машината е овладяла играта до съвършенство, но и я играе с безупречна ефективност, която шокира Талин. Въпреки че "технологът в мен се възхити на това постижение, другата мисъл, която ми дойде наум, беше, че наблюдавам миниатюрен модел как би започнала ИИ катастрофа. А именно, чрез внезапна демонстрация на неочакван интелектуален капацитет", спомня си Талин.
Определянето на разрешените неща и табутата в научните изследвания е сред основните етични решения, които молекулярните биолози дефинират и на конференцията за ДНК в Асиломар през 1975 година. Тогава те се споразумяват и за стандартите, с които да се предотврати създаването на генетично модифицирани организми, представляващи опасност за обществото.
Конференцията в Асиломар обаче има много по-конкретен резултат от срещата за ИИ в Пуерто Рико.
На конференцията в Пуерто Рико присъстващите подписаха само писмо, обобщаващо изследователските приоритети за ИИ - за изследвания на икономическите и правни ефекти от ИИ например, както и сигурността на ИИ системите.
Буквално преди дни, Илън Мъск вложи 10 млн.долара собствени средства, с които да подпомогне финансово тези изследвания.
Това са важни първи стъпки към възпрепятстване на роботите да съсипят икономиката или като цяло да излязат тотално изпод контрол.
Някои компании обаче вече отиват още по-далеч. Миналата година канадските специалисти по роботика Clearpath Robotics обещаха да не създават автономни роботи за военна употреба.
"Уважаеми хора, противопоставящи се на роботи-убийци: подкрепяме вашата кауза", заяви техническият директор на Clearpath Райън Гариепи на уеб сайта на компанията.
Обещанието да не създаваш Терминатор е само една от необходимите стъпки.
ИИ компаниите като Google трябва да мислят за безопасността и юридическата отговорност на самоуправляващите се техни автомобили, за това дали роботите ще оставят хората без работа, както и за непредвидените последствия от алгоритми, които биха изглеждали несправедливи за хората.
Например етично ли е Amazon да продава продукти на една цена за една общност, определяйки различна цена за друга общност?
Какви предпазни мерки са взети, за да се предотврати търговски алгоритъм да съсипе пазара на стоки за масово потребление? Какво ще се случи на хората, които работят като автобусни шофьори в ерата на самоуправляващите се возила?
Итамар Арел е основател на Binatix, компания за "дълбоко самообучение", която търгува на фондовата борса.
Той не е присъствал на конференцията в Пуерто Рико, но е подписал писмото в мига, в който го е прочел.
За него предстоящата революция в интелигентните алгоритми и евтините, интелигентни роботи трябва да бъде разбрана и проучена по-добре.
"Време е да отделим повече ресурси за разбирането на въздействието върху обществото от ИИ системи, извършващи все по-голяма част от физическия труд", казва той. "Това със сигурност, поне според мен, ще набере скорост с темпове, които няма да позволят на обществото да бъде готово достатъчно бързо за този процес. Това определено е притеснително".
Пресказанията за деструктивен ИИ супер-интелект може и да са това, което привлича масмедиите, но тези по-прозаични притеснения за ИИ са нещо, което трябва да бъде решено като проблем в следващите няколко години, коментира Мъри Шанахан, професор по когнитивна роботика в колежа "Империал" в Лондон. "Трудно е да предскажем точно какво ще се случи, но можем да бъдем абсолютно сигурни, че те ще повлияят по някакъв начин на обществото".
*Илън Мъск е бизнес-магнат, инвеститор и изобретател. Понастоящем е главен изпълнителен директор и главен технически директор на компанията SpaceX (СпейсЕкс), както и главен изпълнителен директор и главен продуктов архитект на Tesla Motors (Тесла Моторс). Също така той е и сред основателите на PayPal
