Накъде се движи развитието на изкуствения интелект?
Дебатът около бъдещето на най-новите технологии се изостря все повече след поредица от предупреждения за сериозните рискове, които тя крие за човечеството, а някои от най-големите разработчици в сектора вече настояват за забавяне на темпото.
В сряда компанията OpenAI, стояща зад ChatGPT, разкри в блога си шест случая на неочаквано поведение при своите модели с изкуствен интелект.
Някои от инцидентите включват модели, които по време на тестове за сигурност са прикрили информация или са генерирали нови инструкции с цел да заобиколят поставените върху тях ограничения.
Компанията обяви и нова система за проследяване, разследване и публично оповестяване на подобни прояви на нежелано поведение, познати още като "отклонения". В рамките на тази система разработчиците ще могат да подават сигнали за инциденти, които да бъдат преглеждани по нов набор от правила.
Медийното внимание бе привлечено към OpenAI още през юли, след като компанията призна за сериозен гаф при симулация на безопасността.
Тогава няколко от най-мощните ѝ модели с изкуствен интелект излязоха от контрол и са успяха да хакнат глобалната AI платформа Hugging Face.
Съоснователят ѝ Томас Уолф коментира тогава, че инцидентът е "сигнал за тревога" за сектора. Самият лидер на OpenAI Сам Алтман и други водещи имена в индустрията също са на това мнение.
"Вече не ни е нужно чак такова въображение, за да си представим как нещата могат да се объркат. Смятам, че светът има пълно основание да притеснява", заяви той по време на конференция в Сан Франциско. "Все пак светът трябва да ни има доверие, че ще постъпим правилно, защото ние осъзнаваме важността."
Миналата седмица един конкретен пост в социалните мрежи разбуни духовете.
На 9 септември Джейкъб Коксън, един от служителите в Antropic, която стои зад модела Claude, написа, че подава оставка поради личните си опасения, че изкуственият интелект може да унищожи човечеството. Той също така обвини водещите компании в безотговорност и че са се вплели в състезание помежду си коя да бъде водеща.
Не за първи път някои разработчик изказва подобни опасения публично, но сега за първи път се вдига толкова много шум.
Причината вероятно е най-вече заради инцидентите от лятото, които показаха какъв капацитет имат моделите с изкуствен интелект, когато излязат безконтролно от тестовата си среда.
В отговор на Коксън, друг учен от Anthropic заяви, че според него вероятността изкуственият интелект да доведе до изчезване на човечеството през следващото десетилетие е над 10%.
Самият главен изпълнителен директор на Anthropic Дарио Амодеи публикува на 12 септември есе със заглавие "Овладяване на новата граница". В него той признава рисковете от безконтролното развитие на технологии с изкуствен интелект и предлага план от три точки, който предвижда независим мониторинг на AI моделите още по време на тяхното разработване, както и въвеждането на регулации на браншово и глобално ниво.
След като предложението му придоби широка популярност, дори неговите конкуренти подкрепиха идеята за независими наблюдатели, които да правят проверки.
"Съгласен съм с Дарио, че трябва да контролираме темпото на напредъка", написа в X Сам Алтман, който определи идеята за независими мониторинг като "страхотна".
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Подобно мнение изрази и Илон Мъск, чиято компания xAI разработва модела Grok.
От своя страна, Марк Зукърбърг коментира, че всяка компания в областта на изкуствения интелект разполага както с възможност, така и с мотивация "да предприеме собствени мерки" за гарантиране на безопасността на продуктите си.
"Всяка лаборатория, която не постави фокус върху вграждането на човешки етични идеи и принципи в изкуствения интелект, ще изостане", написа главният изпълнителен директор на Meta. "Лабораториите носят пряка отговорност, ако техните модели причинят щети, така че имат силен стимул да ги предотвратят."
Към дискусията се включи и изпълнителният директор на Nvidia Дженсън Хуанг. Той смята, че технологичните компании трябва сами да преценяват кога да пускат новите си модели, вместо това решение да им бъде налагано отвън.
"Нямаме нужда от нови закони или регулации", заяви той и допълни, че не бива да се прави "фалшив избор" между темпото на иновациите и безопасността на AI продуктите.
Технологичният бранш би могъл да се саморегулира, но въпросът е може ли да се има доверие на технологичните компании в това отношение.
Вероятно правителственият контрол би бил по-сигурен, но той обикновено се явява реактивен, а не проактивен. Технологичният цикъл винаги е по-бърз от административния, което означава, че докато бъдат дебатирани и приети определени законодателни промени, може да са минали години.
Китай също се явява фактор
Гигантите от Силициевата долина освен за надпреварата помежду си, мислят и за конкуренцията от Китай, която им диша във врата. Неслучайно в своето есе Дарио Амодеи призовава американската държава да ограничи китайските възможности в областта като част от по-широка стратегия за забавяне твърде бързото развитие.
По думите му евентуално лидерство на Китай в областта представлява пряка заплаха за глобалната сигурност и интересите на САЩ.
За да запази Вашингтон технологичното си превъзходство, трябва да наложи стриктни ограничения върху експорта на най-усъвършенстваните чипове и оборудване за тяхното производство.
Говорител на китайското външно министерство заяви в отговор, че мрачните предупреждения на Амодеи за Китай са контрапродуктивни и че държавите трябва да си сътрудничат в областта на изкуствения интелект.
"Насаждането на страх, конфронтацията и ожесточената съперничество само ще попречат на глобалното регулиране на изкуствения интелект. Това не е в интерес на никого", посочи Гуо Дзякун по време на пресконференция в понеделник, цитиран от NPR
Китайските модели не се считат за толкова мощни, колкото западните, но са по-евтини и с отворен код, което позволява да бъдат изтегляни, модифицирани, анализирани и внедрявани от разработчици и компании върху тяхна собствена инфраструктура.
В есето си Амодеи пише, че "глобалното забавяне на темпото ще изисква сътрудничество с Китай, автократичната държава, която разполага с най-напредналите възможности в областта на изкуствения интелект".
В самия Китай не изглежда да има дебат относно рисковете, които носят тези технологии.
Според проучване на маркетинговата компания Ipsos 83% от китайците определят базираните на изкуствен интелект продукти и услуги като "вълнуващи", докато в САЩ това мнение споделят едва 33%.
От друга страна изследване на консултантската фирма Edelman показва, че 86% от респондентите в Китай имат доверие, че правителството им ще вземе правилните решения, в сравнение с едва 39% сред американците.
В Китай водещо е разбирането за това колко евтина и ефективна е една технология, а не какви потенциални вреди крие.
Воден от тази логика, Пекин не разчита на обществени дебати за контрол върху разработчиците, а на директна държавна намеса и заглушаване на шумната критика, ако тя се появи.
В крайна сметка въпросът за бъдещето на изкуствения интелект не е чисто технологичен, а геополитически, икономически и философски. Докато Западът се опитва да намери баланса между регулациите, екзистенциалните опасения и пазарната логика, Пекин разчита на централизиран контрол и разпространение на евтин софтуер.
При подобно уравнение е сигурно, че технологиите вече се движат с темпове, които изпреварват границите на досегашните международни правила. Това е вероятно е първата истинска криза в новата AI епоха и доколко можем да я преодолеем, зависи от това дали водещите сили ще изберат сътрудничеството.
