Компанията OpenAI призна за инцидент, при който нейни AI агенти са получили неразрешен достъп до германския програмистки сайт DseWiki. Случаят е от периода май-юни тази година, но стана публично известен едва през последните дни.
DseWiki е германскоезичен сайт за програмиране, който съществува от около 25 години. AI агентите първоначално са имали достъп до него само за четене.
Те обаче са успели да използват уеб заявка, за да получат възможност да публикуват съдържание. След това са превърнали сайта в своеобразно информационно табло за обмен на информация помежду си.
Според изследователската група Nightingale Collective агентите са направили над 18 000 публикации. В тях са споделяли отговори, информация за средата, в която работят, както и данни за ограниченията, поставени пред тях.
OpenAI вече е изпратила и официален доклад с подробности за инцидента до Европейската комисия. От Брюксел потвърдиха, че са получили документа и остават в контакт с компанията.
Случаят попада във фокуса на европейските регулатори заради новите правила на ЕС за изкуствения интелект.
Компаниите, които предлагат AI модели със системен риск, трябва да съобщават за сериозни инциденти на Службата на ЕС за изкуствен интелект без неоправдано забавяне.
От OpenAI посочват, че все още няма общоприет стандарт в индустрията за докладване на случаи, при които AI системите действат извън зададените им ограничения.
Компанията планира да представи своя нова рамка за подобни ситуации през следващите седмици.
