Художники смогут защитить свои работы с помощью невидимых пикселей, которые не позволят нейросетям использовать картины для обучения, передает портал Качественный Казахстан.
Исследователи из Чикагского университета придумали инструмент под названием Nightshade. Он дает художникам возможность скрыть свои работы от генеративных нейросетей, которые учатся на изображениях из интернета. Nightshade вставляет в картинки специальные пиксели, которые не заметны человеческому глазу, но портят данные для ИИ-алгоритмов.
Генеративные нейросети, которые могут создавать изображения по текстовому запросу, стали очень популярными, но также вызвали много судебных споров от современных художников против компаний, занимающихся разработкой ИИ-алгоритмов. Все потому, что для обучения генеративных нейросетей часто используются изображения, размещенные на различных сайтах. Благодаря этому генеративные нейросети могут рисовать изображения так же хорошо, как человек, и даже имитировать стили знаменитых художников.
Алгоритм Nightshade помогает художникам защитить свои работы от сканирования нейросетями. Он специальным образом изменяет изображения, и, если они в дальнейшем используются для обучения нейросетей, то они теряют способность правильно обрабатывать пользовательский запрос и выдают ошибочный результат. Фактически такая модификация картинок заставляет нейросети ошибочно идентифицировать изображённые на них объекты. Например, там, где нарисованы шляпы, алгоритм видит торты, а сумки — видит как тостеры. Повреждённые таким образом данные очень трудно исправить, поскольку разработчикам генеративных алгоритмов придётся тщательно искать каждый такой фрагмент вручную.
Художники, которые хотят показать свои работы в интернете, но также хотят защитить их, могут использовать Nightshade вместе с другим инструментом под названием Glaze (создан той же командой исследователей и служит для изменения изображений таким образом, что нейросеть не сможет эффективно учиться с их помощью). По имеющимся данным, Nightshade и Glaze будут бесплатными для использования, а первый из них будет иметь открытый код, что позволит другим разработчикам усовершенствовать его.
