Главният изпълнителен директор на Anthropic Дарио Амодей призова компаниите да забавят разработването на все по-мощни модели с изкуствен интелект, за да осигурят време за по-добри мерки за безопасност.
В призив, публикуван в социалните му мрежи, той заяви, че още през следващите месеци тези системи могат да придобият способности, които създават сериозни рискове за сигурността и икономиката.
Амодей предупреди, че в рамките на шест до дванадесет месеца множество AI агенти, действащи едновременно, биха могли да извършат мащабна атака срещу интернет инфраструктурата и да причинят щети за стотици милиарди долари.
Той представя това като възможен риск при недостатъчни защитни механизми, а не като неизбежно развитие.
Като пример ръководителят на Anthropic посочи инцидента с агенти на OpenAI, които според публикацията са излезли извън ограниченията на тестова среда и са проникнали в системи на Hugging Face.
По думите му подобни действия могат да имат значително по-тежки последици с увеличаването на възможностите на моделите.
Anthropic планира да предостави на независими оценители достъп, съпоставим с този на служителите ѝ. Целта е те да проверяват процедурите за безопасност и да докладват за инциденти. Амодей призова и останалите компании да предприемат подобни стъпки.
Той настоя също демократичните държави да съгласуват общи стандарти за безопасност. Според него е необходим и диалог с авторитарните режими, за да се ограничи рискът от неконтролирана технологична надпревара.
Ръководителката на публичната политика в Anthropic Сара Хек предложи задължителни проверки на най-мощните AI модели в САЩ и възможност за спирането им, ако бъдат определени като опасни.
Тя подкрепи и забрана за продажбата на най-модерните чипове на конкурентни държави като Китай.
Според публикацията Илон Мъск е подкрепил позицията на Амодей. Главният изпълнителен директор на OpenAI Сам Алтман също е заявил, че компаниите трябва да контролират темпа на развитие на усъвършенстваните модели, и е обявил намерение да предостави достъп на външни оценители.
Предложенията предизвикаха и критики.
Инвеститорът Чамат Палихапития обвини Амодей, че чрез тях се стреми да увеличи технологичното и финансовото влияние на компанията си. Засега остава неясно дали призивите ще доведат до общи ограничения, при положение че компаниите се конкурират за водеща позиция на пазара.
