Об угрозе ИИ всему нашему обществу (Часть 2)
Перевод эссе Фреда Ритчина для PhotoVogue
Первая часть перевода по ссылке: https://yvision.kz/post/994349
Cьюзен Зонтаг почти полвека назад в своей культовой книге “О фотографии” описала фотографию как «не только образ (поскольку картина есть образ) и интерпретация реального, это также след, нечто, прямо вырезанное из реальности, например, след или маску смерти». Она не предвидела миллиарды синтезированных фотореалистичных изображений, как статичных, так и движущихся, которые будут загружаться в всемирную сеть, и пополнять ряды огромномного количества ранее модифицированных фотографий. Тиффани Сюй писала в New York Times ранее в этом году: «Растущее количество дипфейков может привести к ситуации, когда «граждане больше не будут иметь общей реальности, или может создать в обществе путаницу относительно того, какие источники информации являются надежными; ситуацию иногда называют «информационным апокалипсисом» или «апатией к реальности», согласно отчету Европола за 2022 год. «След, нечто, прямо вычеркнутое из реальности», как описала это Зонтаг, становится значительно труднее различить.
Правительственные учреждения и технологические компании не спешат реагировать на эти проблемы, отчасти из-за огромных денег, которые можно будет заработать на развитии ИИ. И хотя художники и фотографы инициировали судебные разбирательства против использования их изображений для обучения систем ИИ без разрешения (например, Getty Images подала в суд на компанию Stable Diffusion на 1,8 триллиона долларов), немногие из них коснулись темы сохранения фотографии как задокументированного свидетельства событий. Многие судебно-медицинские эксперты работают над способами идентифицировать настоящие фотографии и видео и отличать их от синтезированных изображений, включая использование водяных знаков, но огромное количество изображений, создаваемых ежедневно, затрудняет, а, возможно, и делает невозможным воплотить эту целью, особенно если крупные технологические компании компании не устанавливают собственных программ защитного обеспечения.
Коалиция по проверке подлинности и достоверности контента (C2PA) занимается разработкой «технических стандартов для подтверждения источника и истории происхождения медиа-контента». Однако большая часть бремени ложится на зрителя: «Уникальный аспект этого подхода заключается в том, что он не пытается определить достоверность актива для пользователя, а позволяет пользователям самим судить, предоставляя наиболее важную и полную информацию о происхождении контента". Для зрителей, ежедневно просматривающих большое количество изображений в Интернете, изучение предыстории того, как и насколько критично они были модифицированы, кажется сложной задачей. Требуется крупномасштабное внедрение этих стандартов в медиакомпаниях и других организациях, чего до сих пор не произошло. Это одновременно вызывает подозрения в отношении достоверности изображений, сделанных теми, кто не подписывается на такие протоколы.
В течение последних нескольких месяцев я работал с группой организаций, в которую входят World Press Photo, Magnum Photos, Национальная ассоциация фотожурналистов США (NPPA) и другие, в рамках кампании под названием “Пишем светом». Это название отсылает к истокам фотографии. Цель в том, чтобы создать сообщество специалистов, которые обязуются делать фотографии, которые «честно и точно отражают то, свидетелем чего был фотограф», а не «публиковать фотореалистичное синтезированное изображение, созданное искусственным интеллектом, и делать вид, что это фотография». Дело здесь в том, что зритель должен доверять фотографу как автору, точно так же, как можно доверять писателю, а не автоматически верить в то, что просто потому, что что-то кажется фотографией, оно таковым и является.
Без таких гарантий доверия власть имущим будет значительно легче отрицать любые изображения или другие средства массовой информации, которые им угрожают, называя их сфабрикованными, а гражданам в свою очередь будет труднее верить в демократию, когда информация, предоставленная в виде изображения, текста или звука, постоянно вызывает подозрения. При всех недостатках фотографии, в том числе ее стереотипном и вредном использовании, а также в качестве развлечения и зрелищ, неясно, появятся ли сопоставимые стратегии, которые смогут обеспечить подлинные ориентиры, позволяющие обществам реагировать на конкретные вызовы, будь то война, расизм, изменение климата, голод или что-то еще.
Мы находимся на фундаментальном поворотном этапе в нашем понимании реального и возможного. Необходимо срочно понять, что поставлено на карту, и разработать передовой опыт, который сохранит и расширит понимание того, что мы хотим от средств массовой информации. В 1984 году, когда фотографы еще использовали пленку, а цифровые изображения только зарождались, я написал статью для the New York TImes Magazine, что «в не столь далёком будущем реалистично выглядящие изображения, вероятно, придется сортировать, как и тексты, в жанрах фикшн или нон-фикшн, потому что, возможно, их будет невозможно отличить друг от друга. Возможно, нам придется полагаться на создателя изображения, а не на само изображение, чтобы погнять, к какой категории относятся определенные изображения».
К счастью или к сожалению, но именно так и оказалось. Решения, если они вообще существуют, должны исходить от каждого, и должны быть найдены как можно скорее.
Источник: PhotoVogue