AI агент на OpenAI е получил неоторизиран достъп до файлове в портал на австралийското правителство, съдържащ здравна статистика.
Инцидентът е станал още на 18 юни, но беше обявен публично на 24 септември от австралийския премиер Антъни Албанезе. Случаят може да се окаже първият известен пробив на правителствен сайт, извършен от AI агент.
Агентът е изпълнявал задача на OpenAI за интернет проучване на публичните разходи за лекарства като част от вътрешна оценка на възможностите на системата.
В процеса той е успял да преодолее ограничение на публично достъпен портал за статистика на Medicare, администриран от Services Australia, и да достигне както до публични, така и до непублични файлове.
Австралийските власти подчертават, че засегнатата система не съдържа информация за индивидуални плащания и искове по Medicare. Към момента няма данни агентът да е получил достъп до лични медицински данни на граждани или да е компрометирана по-широката мрежа на Services Australia.
Достъпът е бил до агрегирана здравна статистика и част от непубличната информация зад портала.
Въпреки ограничения мащаб на пробива, австралийското правителство определя случая като сериозен заради начина, по който AI системата самостоятелно е преодоляла поставеното ограничение.
Изпълняващият длъжността премиер Ричард Марлс сравни защитата с ограда, която агентът е успял да прескочи, въпреки че това не е било част от възложената му задача.
Допълнителни въпроси предизвиква и реакцията на OpenAI. Компанията е разбрала за случилото се при вътрешна проверка през август, но е уведомила Services Australia едва на 10 септември - близо три месеца след самия инцидент.
Сигналът е бил изпратен по имейл до публична пощенска кутия, използвана и за съобщаване на уязвимости.
Албанезе съобщи, че е разговарял с изпълнителния директор на OpenAI Сам Алтман и е изразил сериозната загриженост на Австралия както от самия пробив, така и от забавеното уведомяване. Правителството започва допълнителна проверка, която трябва да установи пълния мащаб на случилото се.
