Генерирана снимка с ИИ
Тестовете показаха, че функцията може да се използва за добавяне на елементи като последици от пътнотранспортно произшествие, домове, разрушени в резултат на война или бедствие, и дори тела под окървавени чаршафи към снимки.
Инструментът Reimagine е нова форма на магическия редактор, който позволяваше на потребителите да изтриват части от сцена или да променят осветлението на снимка. Новата функция обаче е отишла много по-далеч, като позволява на потребителите да генерират всеки обект в кадъра чрез текстово запитване. Резултатите от подобни манипулации могат да изглеждат много реалистично, което е особено притеснително за експертите.
Google твърди, че инструменти като Reimagine са създадени за творческа употреба и компанията се стреми да ограничи създаването на обидно съдържание. Говорителят на Google Алекс Морикони заяви, че компанията активно работи за подобряване на защитните си механизми, но призна, че понякога тези механизми могат да бъдат заобиколени.
Особена загриженост буди липсата на очевидно обозначаване на такива изображения като създадени с помощта на изкуствен интелект. В някои случаи етикетите, указващи редактиране с изкуствен интелект, могат лесно да бъдат премахнати, което затруднява разпознаването на фалшификатите. Google използва технологията SynthID, за да маркира изображения, създадени изцяло от изкуствен интелект, но изображенията, редактирани чрез Magic Editor, не получават такова маркиране.
Хората и преди са редактирали снимки с цел създаване на фалшификати, но за това са били необходими умения и специализиран софтуер. Сега, благодарение на инструменти като Reimagine, е възможно да се създаде убедителен фалшификат буквално за секунди, което увеличава риска от разпространение на дезинформация.
Липсата на надеждни средства за идентифициране на такива изображения увеличава опасенията за използването им за недобросъвестни цели. Докато преди създаването и разпространението на фалшиви снимки изискваше време и усилия, сега това става по-лесно и по-бързо, което повдига въпроса за необходимостта от нови подходи за проверка на автентичността на изображенията.
