Meta казва, че ще въведе технология, която може да открива и отбелязва изображения, генерирани от инструменти за изкуствен интелект (AI) на други компании, предаде BBC. Ще използва технологията в платформите си Facebook, Instagram и Threads.
Meta вече маркира AI изображения, генерирани от собствените си системи. От компанията казват, че се надяват новата технология, която все още изграждат, да създаде „импулс“ за индустрията да се справи с фалшифицирането на AI. Но експерт по изкуствен интелект казва пред BBC, че подобни инструменти лесно могат да се заобиколят.
В блог, написан от старши изпълнителния директор сър Ник Клег, Meta казва, че възнамерява да разшири обозначаването на фалшификатите на AI „през следващите месеци“. В интервю за информационната агенция Ройтерс той признава, че технологията "все още не е напълно развита", но компанията иска да "създаде усещане за импулс и стимул за останалата част от индустрията да я последва".
Още: САЩ забранява роботизираните обаждания генерирани от изкуствен интелект
Лесно да се заобиколи
Проф. Сохейл Фейзи, директор на Reliable AI Lab в Университета на Мериленд, предположи, че такава система може лесно да се заобиколи. „Те може да успеят да обучат своя детектор да може да маркира някои изображения, специално генерирани от някои конкретни модели“, казва той пред BBC. „Но тези детектори могат лесно да бъдат избегнати чрез някаква лека обработка върху изображенията…“
Meta призна, че инструментът няма да работи за аудио и видео, въпреки че върху тях е насочена голяма част от загрижеността относно фалшификатите на AI. Фирмата казва, че вместо това иска от потребителите да отбелязват собствените си аудио и видео публикации и "може да наложи санкции, ако не го направят".Сър Ник Клег също призна, че би било невъзможно да се тества за текст, който е генериран от инструменти като ChatGPT.
Още: Лейбъристите принуждават фирмите за изкуствен интелект да споделят данните от изследванията си
От януари компанията има политика, според която политическите реклами трябва да сигнализират, когато използват цифрово променени изображения или видео.
