Ако имате вяра на мениджърите на технологичните гиганти - самоуправляващите се коли би трябвало да тръгнат по пътищата до няколко месеца.
През 2015 г. Илон Мъск твърдеше, че ще видим напълно автономна Tesla до 2018 г. Така смятаха и в Google. Системата на Delphi и MobileEye за четвърто ниво на автономност се готви да излезе през 2019 г., а по същото време Nutonomy планира да пусне няколко хиляди таксита без шофьори по улиците на Сингапур.
GM започва производството на напълно автономна кола през 2019 г., без волан и без възможност на шофьора да се меси в управлението.
В тези проекти се вливат реални пари само заради предположението, че софтуерът ще успее да оправдае високите очаквания.
На думи пълната автономност изглежда по-близка отвсякога. Waymo вече тества автомобили по пътната инфраструктура в Аризона. Tesla и цял куп имитатори продават коли с лимитиран режим "автопилот", като разчитат на шофьорите да поемат волана, ако се случи нещо неочаквано.
Вярно, имаше няколко катастрофи със смъртни случаи, но щом системата се подобрява, значи би трябвало да се доближаваме до съвършенството. Нали?
Мечтата за напълно автономната кола обаче може да се окаже много по-далеч от предполаганото. Все повече експерти по AI смятат, че забавянето може да отнеме години, ако не и десетилетия.
Докато самообучаващите се системи се опитват да се справят с хаоса от реалния свят, експертите се готвят за болезнено преосмисляне на прогнозите - корекция, която е наричана "зимата на AI".
Забавянето може да има катастрофални последици за компаниите, които инвестират всичко в автономната технология.
Не е трудно да разберем защо мениджърите на автомобилни компании са оптимистично настроени. Deep learning технологията (метод, който използва пластове от алгоритми за машинно самообучение за извличане на структурирана информация от огромни бази данни) доведе до неочаквано развитие на изкуствения интелект през последните 10 години.
Тази технология задвижва търсачката на Google, News Feed-а на Facebook, алгоритмите за преобразуване на реч в текст и др. Deep learning се използва и за засичане на земетресения, изчисляване на риска от сърдечно-съдови заболявания, установяване на подозрително поведение в системите за видеонаблюдение и още безброй иновации, които доскоро светът смяташе за невъзможни.
Проблемът е, че технологията има нужда от огромни количества първични данни, за да може да работи адекватно, т.е. да обработи почти всеки възможен сценарий, с който алгоритъмът се сблъска.
Системи като Google Images например могат да се справят перфектно с разпознаване на животински видове, стига да разполагат с достатъчно тренировъчни данни за разпознаване на конкретните животни. Този процес се нарича интерполация. Инженерите проявяват голяма креативност по отношение на източника на данните и начина на структурирането им, но алгоритъмът не може да се развива до безкрай.
Алгоритъмът не може да разпознае оцелот, ако не разполага с хиляди снимки на това животно. Няма да го разпознае дори ако е разгледал снимки на домашни котки и ягуарите, и знае, че оцелотите са нещо междинно като вид. Генерализацията изисква много по-различен набор от умения.
Дълго време изследователите смятаха, че ще могат да подобрят тези умения с правилните алгоритми. Последните проучвания обаче показват, че конвенционалните deep learning технологии са много по-слаби в генерализирането, отколкото сме предполагали.
Едно от изследванията открива, че deep learning системите се затрудняват дори да генерализират данните от няколко различни кадъра във видеозапис - една и съща бяла мечка е "разпозната" веднъж като павиан, друг път като мангуста, а трети път като невестулка, само заради леки промени във фона на изображението.
Всяка класификация се основава върху комбиниране на стотици фактори, а дори малките промени в картината могат тотално да променят преценката на системата.
Спомнете си за истерията около първите тестове с чат-ботове през 2015 г. - оказа се, че технологиите не са достатъчно напреднали, за да заменят адекватно човешкото присъствие в разговора, защото общуването не е просто въпрос на събиране на данни.
Когато разговаряте с друг човек онлайн, не очаквате от него само да си припомня по-старите ви разговори, а очаквате да реагира на това, което казвате в момента. По-широките способности за общуване биха произвели реакция, която е уникална за вас. Deep learning системите обаче все още не могат да се справят с този проблем. Затова компаниите загубиха интерес от развитието на чат-бот проектите, след като първоначалният шум около тях поотмина.
Това поставя страховит въпрос пред Tesla и другите компании, разработващи автономни коли - дали продуктите им ще продължат да се подобряват или ще се превърнат в следващия провал на AI като чат-ботовете? Дали автономността е проблем на интерполация или на генерализация?
Колко непредсказуемо е шофирането всъщност?
Безпилотните автомобили изглеждат като научен експеримент, чийто резултат продължава да е неизвестен. Никога досега автомобилните компании не са успявали да симулират самостоятелно шофиране на подобно ниво, което прави самото задание неясно.
Ако всичко се състоеше само в това да се идентифицират познатите обекти и да се спазват правилата за движение по пътищата - съществуващите технологии са напълно достатъчни да се справят.
Но шофирането в среда, която има повече предпоставки за пътни инциденти, прави задачата много по-сложна, отколкото индустрията иска да признае.
Когато на пътя се случи нещо изненадващо и неотигравано досега, deep learning няма как да се справи адекватно.
Данните от няколкото катастрофи със самоуправляващи се автомобили показват няколко странни изводи.
През 2016 г. млад мъж загина в Model S, който се вряза с пълна скорост в задницата на камион - причината за катастрофата се оказа объркване в системата за автопилот заради отражението на ярката слънчева светлина в бялата каросерия.
През март самоуправляващ се джип на Uber уби жена, която изведнъж решава да пресече пътното платно, бутайки велосипед. Според доклада на Националната транспортна служба софтуерът на Uber е разпознал жената първо като "неидентифициран обект", после като "превозно средство", накрая - като "колело". При друга катастрофа в Калифорния Model X се удари в бариера, като в последните секунди преди удара е увеличавал скоростта по неясни причини.
Всеки инцидент изглежда като частен случай - от онези сценарии, които инженерите няма как да предположат, че ще се случат.
От друга страна обаче, почти всяка автомобилна катастрофа е предизвикана някакво непредсказуемо обстоятелство. Ако "мозъците" на автономните коли не притежават умението да генерализират, всяка рискова ситуация ще се оказва "първа" за тяхното възприятие.
Това може да доведе до серия от неочаквани катастрофи, които няма да намаляват с времето. Скептиците твърдят, че този сценарий вече е в ход, а развитието на технологията е достигнало плоскост, от която вече не може да се надгради.
Създателят на Drive.AI Андрю Нг - един от водещите изследователи в тази област - твърди, че проблемът не се състои в създаването на перфектна автомобилна система, а в обучаването на всички останали участници в пътното движението как да се съобразяват с поведението на автономната кола.
С други думи - можем да направим пътищата по-сигурни за колите, вместо да правим колите по-безопасни за пътищата.
Deep learning не е единствената AI-технология. Компаниите вече обмислят и други алтернативи. Макар че техническите средства се пазят ревниво от най-големите компании в индустрията, много от хората в бизнеса се прехвърлят към AI, базиран на правила - стара техника, която позволява на инженерите да вградят в кода специфично поведение или логика в иначе самоуправляващи се системи.
Този подход не е толкова гъвкав, за да се учи сам на поправка чрез изучаването на нови данни, но би помогнал на производителите да избегнат някои от най-сериозните ограничения на deep learning.
Докато базовите функции за възприятие на околната среда все още се формират предимно на базата на deep learning, не е ясно дали инженерите ще могат да гарантират защита от потенциални грешки.
До голяма степен проблемът се състои в прекалено високите очаквания от автономните коли.
Бизнесът смята, че всичко под абсолютната самостоятелност на управлението би било провал. Тази представа е грешка на стратегията, а не на технологията. Всяко микро-подобрение е изключително важна стъпка по пътя към постигане на съвършенството.
Полуавтоматичните системи като Автопилотът на Tesla са достатъчно умни, за да се справят в повечето ситуации, но все пак имат нужда от човешка намеса при непредсказуеми сценарии. Ако се случи катастрофа, е трудно да се определеи дали вината е на автомобила или на шофьора.
Според изследване на Корпорация Ранд, самоуправляващите се коли трябва да изминат повече от 442 млн. км без фатален инцидент, за да докажат, че са толкова безопасни, колкото управляваните от човек машини. Първият смъртен случай, свързан с Автопилота на Tesla, беше регистриран на около 209 млн. км, изминати от модели в проекта - доста далеч от този маркер за сигурност.
Намаляването на смъртността по пътищата може да се окаже още по-трудна задача с навлизането на самоуправляващите се коли, задействани с deep learning.
Фаталната катастрофа с автомобил на Uber доведе до временно замразяване на всички подобни разработки в компанията. Всички останали играчи в бизнеса се надпреварват как да придобият повече данни, като приемат, че колкото повече километри се изминат от тестови автомобили, толкова по-силна ще е системата.
Проблемът обаче не е в данните - използват се технически средства с надеждата, че ще проработят. Но все още няма доказателства, че някога ще се стигне до онова ниво на прецизност, от което всички имат нужда.
