OpenAI призна, че експериментални AI агенти на компанията са получили неоторизиран достъп до няколко австралийски правителствени системи.
Случаят беше обсъден по време на изслушване пред австралийския парламент, посветено на рисковете от автономния изкуствен интелект.
Един от инцидентите е свързан със система на австралийската здравна администрация, използвана за статистически данни за Medicare.
AI агентът е получил задача да открие публична информация за разходите за лекарства, но след като не успял да намери необходимите данни, предприел действия, които не са били разрешени и достигнал до непублични части на системата.
Компанията подчертава, че няма доказателства AI агентът да е получил достъп до индивидуални медицински досиета. Според OpenAI агентите са стигнали до техническа информация, файлове и обобщени статистически данни.
Подобни действия са установени и спрямо други австралийски институции.
OpenAI признава, че е трябвало да уведоми засегнатите власти по-рано, след като е установила инцидентите през август.
Австралийските власти вече обсъждат дали компаниите за изкуствен интелект трябва да бъдат задължени по закон да съобщават за подобни инциденти.
