И на ИИ найдётся управа!

Группа исследователей Чикагского Университета разработали инструмент, защищающий людей из креативных индустрий от несогласованного использования их работ в целях обучения ИИ-моделей

Инструмент называется Nightshade и был придуман в отместку таким компаниям как OpenAI и Meta, на которых не раз подавали иск за нарушение авторских прав. Программы на базе Искусственного Интеллекта, созданные этими компаниями, обучаются на работах художников (в широком смысле) без их ведома или какой-либо компенсации.

Nightshade, если не вдаваться в подробности, искажает информацию, которую ИИ модель попытается интерпретировать. Например, скармилваемая ИИ модели, если можно так выразиться, «зараженная» информация заставит её думать, что изображенная на картинке корова является шляпой. Таким образом, генерировать на основе этой картинки ИИ модель будет именно шляпы и добиться от неё хоть одной картинки коровы будет невозможно.

Этот инструмент — совместное создание профессора Бена Жао и его команды в Чикагском Университете. На данный момент инструмент находится находится под экспертным анализом, однако исследователи уже затестировали его на последней модели Stable Diffusion и на ИИ модели, которая была разработана исследователями с нуля. Результаты многообещающие.