Nightshade искусственный интеллект для борьбы с кражей авторских прав

260
0

Как торговать этими акциями из России? >Подробная инструкция здесь<

Исследователи Чикагского университета представили Nightshade, инструмент, предназначенный для разрушения моделей искусственного интеллекта, пытающихся извлекать уроки из художественных образов.

Инструмент, все еще находящийся в стадии разработки, позволяет художникам защищать свои работы, тонко изменяя пиксели на изображениях, делая их незаметно отличающимися для человеческого глаза, но сбивающими с толку модели искусственного интеллекта.

Многие художники и создатели выразили обеспокоенность по поводу использования их работ в обучении коммерческим продуктам искусственного интеллекта без их согласия.

Модели искусственного интеллекта для эффективного функционирования полагаются на огромные объемы мультимедийных данных, включая письменные материалы и изображения, часто загружаемые из Интернета. Nightshade предлагает потенциальное решение, саботируя эти данные.

Будучи интегрированным в цифровую графику, Nightshade вводит в заблуждение модели искусственного интеллекта, заставляя их неправильно идентифицировать объекты и сцены.

Например, Nightshade преобразовал изображения собак в данные, которые для моделей искусственного интеллекта выглядели как кошки. После воздействия всего лишь 100 образцов яда искусственный интеллект надежно сгенерировал кошку, когда его попросили назвать собаку, что продемонстрировало эффективность инструмента.

Этот метод не только сбивает с толку модели искусственного интеллекта, но и бросает вызов фундаментальному способу работы генеративного ИИ. Используя кластеризацию похожих слов и идей в моделях искусственного интеллекта, Nightshade может манипулировать ответами на конкретные запросы и еще больше снижать точность контента, генерируемого искусственным интеллектом.

Разработанный профессором компьютерных наук Беном Чжао и его командой, Nightshade является продолжением их предыдущего продукта Glaze, который скрывает цифровые иллюстрации и искажает пиксели, чтобы сбить с толку модели искусственного интеллекта относительно художественного стиля.

Хотя потенциал для неправомерного использования Nightshade признается, основная цель исследователей состоит в том, чтобы сместить баланс сил от компаний, занимающихся искусственным интеллектом, обратно к художникам и препятствовать нарушениям интеллектуальной собственности.

Внедрение Nightshade представляет собой серьезную проблему для разработчиков искусственного интеллекта. Обнаружение и удаление изображений с поврежденными пикселями является сложной задачей, учитывая незаметный характер изменений.

При интеграции в существующие наборы данных для обучения ИИ эти изображения требуют удаления и потенциальной переподготовки моделей ИИ, что создает существенное препятствие для компаний, полагающихся на украденные или несанкционированные данные.

Поскольку исследователи ожидают экспертной оценки своих работ, Nightshade является маяком надежды для художников, стремящихся защитить свои творческие начинания.

(Фото Джози Вайс на Unsplash)

Смотрите также: UMG подает знаковый иск против разработчика искусственного интеллекта Anthropic

Отказ от ответственности: Содержимое этого сайта не следует рассматривать как инвестиционный совет. Инвестирование носит спекулятивный характер. При инвестировании ваш капитал подвергается риску.