Човек вече трудно може да вярва на нещо в интернет... Първо бяха програмите за сложни обработки на снимки, а след това се появиха и софтуерите с изкуствен интелект (AI), така че съвсем да не може да се разбере коя снимка е истинска и коя - манипулирана.
Същите компании, които разработват тези технологии, все пак осъзнават, че имат отговорност и за това да помагат на хората в откриването на изкуствено генерирани изображения.
Така от технологичния гигант Google обявиха, че още от другата седмица ще въведат в Google Photos инструмент, който ще отбелязва, че в определено изображение е имало AI намеса. Компанията съобщава, че вече маркира подобни снимки чрез определени метаданни, а сега тези метаданни ще станат видими и съпроводени с информация на разбираем за потребителя език.
Тя ще може да бъде открита в нова AI Info секция, която ще се намира при останалата част от информацията за въпросната снимка в Google Photos.
As we bring AI-powered editing tools to more users, we recognize the importance of doing so responsibly. Starting next week, you’ll be able to see when a photo has been edited with Google AI right in the Google Photos app. Learn more → https://t.co/gGlC332oz5 pic.twitter.com/PwysdmGkLz
— Google Photos (@googlephotos) October 24, 2024
Освен това вече ще може да се разбира дали някое изображение съдържа добавени елементи от други места.
Например, ще е ясно, ако някой е решил да допълни снимката с предмет, който не е присъствал там, когато е правена.
"Тази работа не е свършена и ние ще продължим да събираме обратна връзка и да работим върху допълнителни решения, за да има повече прозрачност около редакциите чрез изкуствен интелект", казва Джон Фишър, който е главен инженер в Google Photos.
Новите функции представляват една позитивна стъпка в борбата с разпространение на фалшиви снимки, но тази стъпка сякаш е твърде малка.
От Google не поясняват дали Photos ще разпознава изцяло AI генерирани снимки или само редактирани. Също така не става ясно дали ще бъдат маркирани изображения, които са преминали през софтуери на други компании. В съобщението се споменава засичане на изображения, "пипани" само с инструментите за AI обработка на Google - Magic Editor, Magic Eraser и Zoom Enhance.
Да, всеки иска да прави най-добрите снимки за себе си и близките си и в този смисъл технологиите с изкуствен интелект имат голяма полза при обработката и подобряването на изображения.
Само че същото важи и когато говорим за не толкова безобидни неща. Има и много опасни рискове, свързани със сексуален тормоз, разпространение на пропаганда и фалшиви новини и всяка друга незаконна дейност, която би могла да се възползва от манипулирани изображения.
Днешната вълна от нови "интелигентни" инструменти с изкуствен интелект правят възможно създаването на все по-убедителни фалшификати с много по-малко усилия или умения.
Така с интерес очакваме какви други мерки ще бъдат взети в тази посока.
И то не само от Google.
