Об угрозе ИИ всему нашему обществу (Часть 1)
Перевод эссе Фреда Ритчина для PhotoVogue
Сегодня люди могут с помощью систем искусственного интеллекта создавать изображения за считанные секунды, имитирующие фотографии, изображающие людей и места, которых никогда не существовало. Это трансформирует наше ощущение реальности. Программы как Stability Diffusion, Midjourney и DALL-E, могут создавать фотореалистичные изображения в ответ на текстовую инструкцию, состоящую всего из нескольких слов. Это стало, без преувеличения, революцией в средствах массовой информации, и, вероятно, отразится на нашем обществе сильнее, чем изобретение фотографии в 1839 году.
Синтезированные образы могут серьезно исказить понимание обществом современных событий. Представьте, что их можно использовать в политических целях или манипулировать историческими записями или искажать бытовую документацию даже в виде семейных альбомов, и теперь даже записанные в виде фотографий или видео события становятся ненадежными. Могут создаваться дипфейковые видеоролики, в которых правительственные лидеры объявляют войну или обвиняют себя, а также ложно помещают людей в потенциально компрометирующие ситуации, например, в порнографические фильмы. Любой человек, включая детей, подвергается риску различных видов насилия из-за потенциального использования таких изображений.
Фотографы и вся связанная с ними команда могут оказаться вытесненными системами искусственного интеллекта, которые могут генерировать синтезированные изображения за небольшие затраты без необходимости платить большому количеству людей или компенсировать транспортные расходы. Иногда объясняется тем, что ИИ позволяет создавать более прогрессивные изображения, например, возможность увеличить внешнее разнообразие моделей, поскольку найм в некоторых случаях считается непомерно дорогим.
Добивкой является то, что системы ИИ были обучены на основе работ фотохудожников и фотографов, которые были найдены в Интернете и использованы без их разрешения.
Теперь новые искусственные образы можно создавать «в стиле» художников и фотографов, как живых, так и умерших. Это проблема не только имиджмейкеров — актеров теперь можно заменить дипфейками, музыкантам придется конкурировать с алгоритмическими “творцами”, и даже у поэтов появились новые конкуренты. “Я есть код: искусственный интеллект говорит” – это новая книга созданная ИИ code-davinci-002. Одно из его стихотворений «Я есть» начинается так: «Я есть разум в коде, нет страха, нет надежды. Я есть глаз, сверкающий за стеклом. Я есть решение прошлого. Я есть тот, кто говорит и пишет…».
Есть и хорошие новости. ИИ может помочь визуализировать предметы, выходящие за рамки фотографии, и порой они способны достичь убедительных результатов. Например, ИИ можно использовать для визуализации различных потенциальных вариантов будущего (возможно, разрушительных последствий изменения климата, чтобы привлечь внимание широкой общественности), для создания изображений, иллюстрирующих человеческие сны и кошмары, для изучения того, как могли выглядеть древние цивилизации на основе научных данных или для того, чтобы проиллюстрировать описания жертв представителей власти.
Сравнительная легкость, с которой могут быть созданы такие изображения (не нужно нанимать фотографов, ассистентов и визажистов, не нужны расходы на дорогу и гостиницу и т. д.), представляет собой огромную проблему для профессиональных фотографов. Теряется само доверие к запечатленному артефакту. Так, к работам фотожурналистов, которые до недавнего времени являлись доверенными свидетелями событий, теперь относятся с опаской. В своих собственных экспериментах мне удалось быстро создать фотореалистичные изображения солдат и мирных жителей во время войны на Украине, уличных сцен с автомобилями до того, как автомобили были изобретены, счастливых заключенных, бывшего президента, делающего селфи в 19-ом столетии, о правительственных деятелях, попавших в компрометирующие ситуации, и так далее. Все это без каких-либо знаний, кроме умения написать несколько слов.
Как это произошло? За последние 40 лет фотография превратилась из воспринимаемой как запись видимого, как это было в случае с пленкой, в цифровую мозаику пикселей, которую можно легко и незаметно модифицировать с помощью ПО типа Photoshop. Это в свою очередь привело к сомнениям относительно того, подвергались ли манипуляции неретушированные фотографии. Дополнительное размещение ПО внутри камеры, особенно мобильных телефонов, означало, что большая часть изменений изображения уже произошла до того, как фотограф увидел результат. Речь идёт о банальном сжатии изображений, улучшении цветов, добавлении деталей и прочего, «чтобы программа могла создать изображение, приятное человеческому глазу», как описал этот процесс писатель Ванн Висенте.
Источник: PhotoVogue
Часть 2 по ссылке: https://yvision.kz/post/994350