OpenAI ще започне да поставя невидим воден знак върху текстовете, генерирани от ChatGPT и Codex в Европейския съюз.
Мярката е свързана с изискванията на европейския Закон за изкуствения интелект (AI Act), който задължава компаниите да обозначават съдържание, създадено от изкуствен интелект.
Новата технология няма да добавя видим символ или надпис към текста. Вместо това OpenAI ще променя по незабележим начин избора на думи, така че в самия текст да остава специфичен модел, който специализиран детектор може да разпознае.
Това означава, че ако копирате текст от ChatGPT и го поставите в друг документ или платформа, водният знак ще остане част от него.
OpenAI ще започне постепенното въвеждане на технологията през следващите седмици за потребителите на ChatGPT и Codex в ЕС, независимо от техния план. Компанията уточнява, че засега няма да прави водното маркиране глобален стандарт.
Технологията носи името textGrain и е разработена така, че да променя статистическия модел на текста, без това да се усеща от читателя.
При генерирането на изречение системата ще подрежда думите по начин, който изглежда естествен, но се подчинява на един и същ повтарящ се модел. Когато тези малки промени се натрупат в достатъчно дълъг текст, специализиран детектор ще може да установи дали той е генериран с помощта на изкуствен интелект.
Има обаче една важна уловка: маркировката може да бъде отслабена или напълно избегната, ако генерираният текст бъде редактиран.
От OpenAI уточняват, че ако 10% от думите бъдат заменени със синоними, успеваемостта на детектора пада от около 92% до 66%.
Още по-трудни за разпознаване са много кратките текстове, математическите отговори и преводите.
Затова OpenAI подчертава, че липсата на воден знак не доказва, че даден текст е написан от човек. Той може да е прекалено кратък, да е бил силно редактиран или да е създаден от друга AI система.
