Исследователи из Чикагского университета разработали инструмент, который дает художникам возможность «отравлять» свое цифровое искусство, чтобы помешать разработчикам обучать системы искусственного интеллекта (ИИ) их работе.
Инструмент, получивший название «Паслен», в честь семейства растений, некоторые из которых известны своими ядовитыми ягодами, изменяет изображения таким образом, что их включение загрязняет наборы данных, используемые для обучения ИИ, неверной информацией.
Согласно отчету MIT`s Technology Review, Nightshade меняет пиксели цифрового изображения, чтобы заставить систему искусственного интеллекта неверно истолковать его. В качестве примера Tech Review упоминает убеждение ИИ в том, что изображение кошки — это собака, и наоборот.
При этом способность ИИ генерировать точные и осмысленные результаты теоретически будет повреждена. Используя приведенный выше пример, если пользователь запросил изображение «кошки» у испорченного ИИ, вместо этого он может получить собаку, помеченную как кошка, или объединение всех «кошек» в обучающем наборе ИИ, включая тех, которые на самом деле это изображения собак, измененные с помощью инструмента Nightshade.
Один из экспертов, ознакомившийся с работой, Виталий Шматиков, профессор Корнелльского университета, высказал мнение, что исследователи «пока не знают надежных средств защиты от этих атак». Это означает, что даже надежные модели, такие как ChatGPT от OpenAI, могут оказаться под угрозой.
Исследовательскую группу, создавшую Nightshade, возглавляет профессор Бен Чжао из Чикагского университета. Новый инструмент на самом деле является расширением существующего программного обеспечения для защиты артистов под названием Glaze. В своей предыдущей работе они разработали метод, с помощью которого художник мог затемнить или «застеклить» стиль своих работ.
Например, художника, создавшего портрет углем, можно было бы застеклить, чтобы он выглядел в системе искусственного интеллекта как современное искусство.
Согласно обзору технологий, Nightshade в конечном итоге будет реализован в Glaze, который в настоящее время доступен бесплатно для использования в Интернете или для загрузки на веб-сайте Чикагского университета.
Источник
