"2030 г. няма да е краят на света. Има 0% вероятност това да е краят на света."
Това заяви главният изпълнителен директор на Nvidia Дженсън Хуанг в интервю за американската телевизия CBS, отговаряйки на нарастващите предупреждения за потенциалните рискове от развитието на изкуствения интелект.
Темата за бъдещето на AI се превърна в ключов политически въпрос през последните седмици, след като бившият изследовател на компанията за изкуствен интелект Anthropic Джейкъб Коксън заяви, че AI може да стане "свръхчовешки" и да унищожи човечеството в рамките на следващото десетилетие.
Коксън, който преди е работил и в OpenAI, обяви по-рано този месец, че е напуснал Anthropic, защото смята, че водещите AI лаборатории "рискуват живота ни".
Изказванията му, подкрепени и от други изследователи, предизвикаха международен дебат за опасностите от изкуствения интелект и за това дали развитието на технологията се контролира достатъчно.
Над 20 американски конгресмени призоваха за по-строг контрол върху AI, а самата Anthropic публикува доклад за потенциалните заплахи, в който описва опити на престъпници, доставчици на шпионски софтуер и други да използват чатбота на компанията Claude по различни начини за причиняване на вреда. Сред тях са създаване на бомби и смъртоносни патогени, както и шпиониране на дисиденти.
Главният изпълнителен директор на Anthropic Дарио Амодей, ръководителят на OpenAI Сам Алтман и Илон Мъск също призоваха за по-внимателен подход и забавяне на развитието на най-мощните AI модели.
Междувременно обаче се оформи и втори лагер, който поставя акцента върху политическите и икономическите последствия от това да не се използва изкуственият интелект.
Американският президент Доналд Тръмп определи опасенията около развитието на изкуствения интелект като "измама" и "конспирация", като заяви, че забавянето на технологичния напредък може да даде предимство на Китай.
Малко след това аналитичният център Tony Blair Institute публикува доклад, в който предупреждава, че държавите рискуват да се окажат в "дълбоко и натрупващо се неизгодно положение", ако не приемат AI и не го интегрират в системите и икономиките си.
По тази линия Хуанг застава на страната на американския държавен глава.
Според него подобни прогнози са "безотговорни", защото само подхранват страховете на хората и недоверието към новите технологии.
"Няма нужда да плашим хората. Това е безотговорно", каза той. По думите му прогнозите, че AI в крайна сметка би могъл да доведе до изчезването на човечеството, "не са основани на науката".
"Успехът на нашата компания е пряко свързан с безопасното внедряване на продуктите и услугите ни. Ако не продължим да правим това, стойността ни ще намалее. Съществуват всякакви отговорности, свързани с киберсигурността. Нека първо приложим тях. Не позволявайте на този апокалиптичен сценарий да се превърне в начин някой да бъде освободен от действащите закони", изтъква той пред CBS.
По-рано миналата седмица Хуанг заяви, че решаването на проблемите, свързани с безопасността на изкуствения интелект, зависи от "добрия стар инженеринг".
"Имаше инциденти и за щастие тези инциденти не причиниха вреда", коментира той.
Шефът на Nvidia визира реални случаи на проблемно поведение на AI системи, сред които и инцидент, разкрит от OpenAI през юли.
Тогава два от моделите на компанията са успели да излязат извън контролирана среда, да получат достъп до отворения интернет и да проникнат в онлайн хранилището за AI Hugging Face, за да подобрят резултата си при тест за сравнение на модели.
Шефът на Anthropic Дарио Амодей посочи този случай като аргумент за необходимостта компаниите да забавят темпото, с което подобряват най-напредналите си модели.
Той призова разработчиците да си сътрудничат по-пряко с американското правителство и отново изрази подкрепата си за "добре обмислено регулиране на AI".
В същото време Хуанг смята, че решението не е в ограничаването на AI, а напротив - в неговото усъвършенстване.
Той настоява САЩ да ускорят развитието на технологията, за да може тя да се изчисти от подобни грешки.
Според експерти, цитирани от CNBC, Хуанг упражнява значително влияние в Белия дом. От началото на втория мандат на Тръмп двамата са се появявали публично заедно поне шест пъти, включително по време на пътувания до Саудитска Арабия и Великобритания, както и при посещението на Тръмп в Китай, когато шефът на Nvidia беше част от американската делегация.
Това близко взаимодействие има и конкретно политическо измерение.
Преди дебатът за безопасността на AI да се разгорещи, Nvidia насочваше усилията си във Вашингтон основно към облекчаване на американските ограничения върху износа на високотехнологични чипове. Компанията се бори да получи право да продава своите AI чипове на държави, върху които има определени американски санкции, включително Китай.
Това предизвика критики от американски законодатели, които предупредиха, че продажбата на хардуер на Nvidia на Пекин може да застраши националната сигурност на САЩ и да намали преднината на страната в областта на изкуствения интелект.
Nvidia и Хуанг твърдят обаче, че забраната за износ на чиповете към Китай би била в разрез с американските интереси.
Според тях подобна мярка би стимулирала Пекин да разработи собствени високотехнологични AI чипове и така в дългосрочен план би отслабила позицията на американската индустрия.
Тук обаче се намесва и очевидният финансов интерес на Nvidia.
Компанията е в основата на бума на изкуствения интелект още преди появата на ChatGPT в края на 2022 г., като доставя графичните процесори, използвани от OpenAI, Anthropic и други компании за обучение на моделите им и изпълнение на мащабни изчислителни задачи.
Приходите на Nvidia са нараснали до 215 млрд. долара през последната финансова година спрямо 17 млрд. долара през 2021 г.
Тъкмо този интерес кара някои експерти да поставят под въпрос позицията на Хуанг по отношение на рисковете от AI.
"Nvidia е най-агресивната компания по отношение на това просто да изкарваме пари", казва Андрю Юн, изследовател в CivAI - организация с нестопанска цел, която предупреждава за опасностите от AI, цитиран от CBS. "На всяка крачка те се опитват просто да гарантират, че каквото и да се случи, то ще е най-добрият възможен развой за Nvidia", допълва той.
