За гранью реальности: изучение этических последствий дипфейков

Дипфейки все более прочно входят в нашу повседневную жизнь, становясь массовым инструментом, широко используемым в кино и рекламе. Россия является одним из лидеров этого процесса, а в июне пришла новость о том, что в осеннюю сессию планируется проект, закрепляющий в законе понятие «дипфейк».

Мы продолжаем наблюдать яркие, полноценные и качественные российские и мировые кейсы в рамках технологии — год назад широко нашумел первый в мире дипфейк-сериал «ПМЖейсон», а совсем недавно Netflix анонсировали первое в мире реалити-шоу с дипфейками — Falso Amor. В рамках передачи пять реальных пар разделили на два дома, подселили в каждую из компаний одиночек и предложили последить за тем, как поведут себя вторые половинки. Очевидно, что данная технология перестает быть чем-то необычным, становится массовым, широко используемым инструментом.

Команда «За»

Первое и, пожалуй, самое очевидное — искусство и развлечения. Дипфейки могут быть использованы в художественных целях, чтобы создать интересные и впечатляющие визуальные эффекты, улучшить качество фильмов, создать различные образы и персонажи. В киноиндустрии дипфейки могут использоваться для создания реалистичных спецэффектов, смены образа или воссоздания актеров (даже тех, которых уже нет в живых), что помогает снизить бюджет и улучшить визуальный ряд.

Активное использование технологии в образовании и исследованиях поможет создать необычные продукты с точки зрения маркетинга. Например, лекции от ученых и легенд прошлого, кино с их участием, воссоздание в документальных фильмах реальных образов и многое другое.

Сюда же отнесем виртуальные помощники и образы, которые могут использоваться в образовательных или консультационных целях.

Для компаний, которые занимаются созданием контента технология поможет в улучшении качества старых видео или аудиозаписей, что может быть полезно для восстановления исторических материалов, старые хроники обретут второе дыхание. В некоторых случаях дипфейки могут быть использованы в рекламе и маркетинге для привлечения внимания к продукту или услуге. Они могут создавать яркие и запоминающиеся рекламные материалы.

Дипфейки могут помочь воссоздать работу умерших актеров или возвратить к жизни культовых медийных личностей для целей индустрии развлечений, исторических реконструкций и образовательных программ.

Технология может быть применена для улучшения синтеза речи, что может быть полезно для людей с ограничениями в общении или создания различных языковых вариантов для перевода или аудиоинформации.

Несмотря на эти аргументы, важно помнить, что использование дипфейков должно быть ограничено этическими соображениями и учитывать потенциальные негативные последствия.

Как и в случае с любой другой технологией, впрочем. Вопрос об этике использования дипфейков является крайне сложным и вызывает разнообразные споры в профессиональном сообществе. Существует ряд серьезных этических и социальных проблем, связанных с использованием дипфейков.

Команда «Против»

Дипфейки могут использоваться для создания ложных или обманных материалов, которые могут повлечь серьезные последствия, такие как разжигание ненависти, распространение дезинформации, обман людей или дискредитация личности. Существует уже немало печальных кейсов, вот один из них.

С помощью дипфейков можно создавать неправдоподобные сцены, которые кажутся реальными, что может нарушить частную жизнь людей и привести к распространению личной информации без согласия. Стоит упомянуть про истоки дипфейков — распространение фейковых порноизображений знаменитостей и обычных людей, что может привести к крайне неприятным последствиям для их жертв. Существуют отдельные сайты, где собраны видео этой тематики.

Использование образов людей без их согласия является еще одним острым конфликтом интересов. 

Это касается тех видео, где используются образы людей которых уже нет с нами и согласие на съемку дают их наследники. Эта тема заслуживает отдельного обсуждения с участием заинтересованных лиц.

В целом, этичность использования дипфейков зависит от контекста и намерений. Если использование носит законные и художественные цели, с согласия участников и сознательным информированием публики о том, что это фейковый контент, то это может быть более этичным. Однако создание и распространение дезинформации, подделки и обмана через дипфейки является явно неэтичным и должно преследоваться по закону.

Но как разобраться в том, что делает дипфейки этическими или неэтичными, как принимать ответственные решения при их использовании? Возможно, одними из ответов на этот вопрос является позиция религиозных конфессий.

Дипфейк и церковь

Ответ на вопрос о том, что думает церковь о дипфейках, может различаться в зависимости от конкретной церковной организации, ее доктрин и местоположения. Церковные взгляды на технологические и этические вопросы могут быть разнообразными и отражать множество точек зрения.

Представитель РПЦ иерей Федор Лукьянов в ходе круглого стола, посвященного обсуждению правового урегулирования нейросетей и других технологий заявил: «Необходимо установить запрет на применение в программах и технологиях ИИ человеческих голосов, лиц, то есть образа и подобия человека и его качеств как живого существа». В Патриаршей комиссии по вопросам семьи, защиты материнства и детства РПЦ заявили о необходимости установить запрет на антропоморфизацию программ (перенесение человеческого образа и его свойств на неодушевленные предметы) и закрепить на законодательном уровне дисклеймер для нейросетей, указывающий на то, что человек общается с искусственным интеллектом. Отцом Федором было продемонстрировано, что РПЦ следит за актуальными тенденциями и готова своевременно реагировать на новые вызовы, что важно для верующих.

При этом нельзя утверждать что позиция по церкви по поводу ИИ отрицательна во всех пунктах, есть множество и позитивных аспектов, которые отмечают церковные эксперты. У католической церкви существует «Римский призыв по этике ИИ» — документ, впервые официально обозначающий на высшем уровне позицию Св. Престола по ИИ, но тема дипфейка там отдельно не выделяется. Нарратив документа направлен на формирование чувства ответственности у организаций, правительств, учреждений и частного сектора за создание будущего, в котором цифровые инновации и технический прогресс «служат человеческому гению и творчеству, а не их постепенной замене». Данный документ в числе первых был подписан ООН и корпорациями IBM и Microsoft.

Возвращаясь к теме дипфейка, есть основания предполагать что отношение религий к нему в целом будет негативным, так как дипфейку свойственны признаки, осуждаемые большинством конфессий.

Обман и ложь

Церковь может рассматривать дипфейки как средство обмана, которое нарушает принципы истинности и честности.

Нарушение личной жизни и нравственности

Создание и распространение дипфейков, особенно с непристойным или неправдоподобным содержанием, может рассматриваться церковью как нарушение нравственных норм и личной жизни.

Распространение дезинформации

Дипфейки могут быть использованы для целей дезинформации, и церковь может опасаться того, что это может нанести вред обществу и людям.

Дипфейк и образы людей, которых нет

Одной из очевидных особенностей использования технологии является соблазн «оживить» людей которых уже нет с нами. Выше уже упоминался Сальвадор Дали, Элвис Пресли, Владислав Галкин. В ближайшее время таких видео будет становиться в десятки раз больше, и вопрос уместности такого использования беспокоит многих экспертов, как внутри рекламной индустрии, так и за ее пределами. Довольно очевидно, что использование образа скончавшегося человека без согласия его родственников или нарушение его последней воли является неприемлемым. Общественная дискуссия на этот счет будет нарастать вслед за увеличением количества таких проектов.

Почему такое использование может быть уместно:

1. Создание дипфейков скончавшихся исторических личностей может помочь сохранить и передать культурное наследие и историю новым поколениям. Это может позволить оживить исторические события и личности, сделать их более доступными и интересными для образовательных программ и исследований.
2. Использование дипфейков скончавшихся знаменитостей в различных развлекательных форматах может привлечь интерес аудитории и стать источником нового творчества.
3. В некоторых случаях дипфейки скончавшихся артистов могут использоваться, чтобы завершить проекты, которые были начаты при их жизни. Это может помочь сохранить инвестиции, которые были вложены в производство, и сберечь труд и вклад умерших творческих личностей. Например, был создан дипфейк с участием покойного актера Пола Уокера в фильме «Форсаж 7», чтобы завершить съемки после его неожиданной смерти.
4. Воссозданный образ может быть использован с целью почтить и сохранить память о вкладе ушедшего артиста в искусство, культуру или историю. Мой личный опыт общения с наследниками артистов говорит о том, что этот аргумент является для них ключевым.

В итоге, ответ на вопрос об этичности создания дипфейков людей, которых уже нет с нами зависит от контекста использования и соблюдения норм уважения, согласия и законности. Если произведение выполняется с уважением к памяти и по согласию соответствующих сторон в лице его наследников, а также не представляет угрозы распространения дезинформации или обмана, то это может и должно считаться этичным. Важно быть осмотрительным и бережно относиться к технологии и памяти поклонников артиста, и тогда можно рассчитывать на создание множества выдающихся произведений искусства.

Больше интересного в моём канале Полезный Парфун, подписывайтесь!