Проблемы из-за Deepfakes

Проблемы из-за Deepfakes

Какие проблемы могут возникнуть сейчас, когда deepfake видео, тексты и аудиофрагменты можно создавать и распространять относительно легко и быстро? Ниже приводится краткий, но не исчерпывающий список.

Проблемы из-за Deepfakes

1. Беспорядки и поляризация

Предположим, что появляется дипфейк-видео известного голландского политика, который, похоже, был подкуплен. Или такое видео, в котором сотрудник ФБР говорит, что хотел бы арестовать кого-то из семьи Трампа по подозрению в связях с Россией, и что он сам создает доказательства для этого. Или фальшивые российские видеоролики, в которых запечатлены инсценированные беспорядки между американскими политиками, антиамериканская демонстрация в Саудовской Аравии или американские солдаты, сжигающие Коран. Есть много примеров, когда постановочные видео или звукозаписи гарантированно приводят к геополитическим волнениям или социальной поляризации в обществе.

Сеять раскол в другой, враждебной стране может быть серьезной стратегией со стороны одной страны. Поляризация создает все меньше и меньше солидарности и, следовательно, ослабевает, потому что принятие решений становится менее эффективным. В конце концов, основа демократического государства - это общее восприятие реальности и соответствующее согласие относительно фактов. В противном случае могут возникнуть национальные проблемы, которые потом будет очень трудно решить.

Режимы также могут использовать технологию deepfake для своей собственной пропаганды, чтобы очернить политических оппонентов и представить своих собственных политиков и лидеров в позитивном ключе. Например, фальшивые видеоролики показывают, как эти лидеры оказывались в ужасных ситуациях и вели себя как настоящие герои. Говоря на международном уровне, Иран, Китай, Северная Корея, США и Россия, в частности, похоже, очень активны в разработке этой технологии глубокого подделки видео.

2. Шантаж

Не исключено, что политикам, журналистам, иностранным военнослужащим, директорам крупных компаний, разоблачителям и финансовым офицерам в будущем придется столкнуться с шантажом с помощью дипфейк-видео. Однажды они могут найти в своем почтовом ящике следующее письмо:

«Привет, это ссылка на онлайн-видео с вами в главной роли. Вам, вероятно, не нравится, когда ваши сексуальные выходки открываются внешнему миру. Что подумали бы ваша семья и друзья? Вероятно, это плохо скажется на вашей репутации. Я считаю, что это хорошо, что вы (вставьте здесь желание преступника), поэтому я предполагаю, что вы соответствуете нашим пожеланиям ».

Даже если дипфейк-видео посредственного качества, главный герой явно не хочет, чтобы оно распространялось. Простое предположение о неэтичном, преступном и девиантном сексуальном поведении может нанести значительный ущерб репутации и позор. Чтобы впоследствии снять с себя всю вину, потребуется огромное количество времени и энергии, потому что внушения настойчивы и могут преследовать кого-то годами. Ведь посторонние думают, что там, где дым, должен быть и огонь. Благодаря технологии deepfake злоумышленники получают в свое распоряжение очень мощный инструмент шантажа.

3. Ущерб репутации

Одним из наиболее очевидных последствий использования технологии deepfake является ущерб репутации. Таким образом, группы экологических активистов могут выставить в плохом свете директоров биотехнологических компаний. Коммерческие компании могут победить конкурента с помощью технологии. В ночь перед IPO может появиться видео с участием финансового директора, на котором он якобы признает, что на балансе гораздо меньше ликвидных активов, чем указано в официальных документах. Накануне выборов может появиться видео, в котором политик использует сексистские, расистские или агрессивные выражения. Если будет какое-либо возмещение, будет слишком поздно возмещать ущерб, нанесенный выборам.

Безусловно, людям, для которых очень важна репутация, в ближайшее время придется столкнуться с опасностями и решениями, связанными с этой технологией. Между прочим, в начале развития технологии дипфейков на форуме Reddit проявилась очень жестокая форма подрыва репутации: дипфейк порно. С помощью этого приложения женские лица были наклеены на лицо порноактрисы. Reddit вмешался и удалил этот раздел «порнография без согласия», но это не означает, что приложение больше не существует. Поскольку использование такой технологии deepfake продолжает распространяться, жертвами становятся все больше и больше женщин. Уже существуют веб-сайты, которые манипулируют женщинами-знаменитостями в порнографической обстановке. В недавней голландской истории бывшая читательница новостей NOS Дионн Стакс стала жертвой фальсифицированного порнографического видео.

Другой пример касается индийского журналиста Раны Айюб. После кампании за жертву изнасилования она появилась в качестве главной актрисы в порнографическом дипфейк-фейковом видео. Об этом рассказывали десятки тысяч раз, и это оказало большое влияние как на ее профессиональную деятельность, так и на ее личность. Видео было направлено на то, чтобы нанести ущерб ее репутации из-за ее личных убеждений.

риски технологии deepfake примерно. По мере того, как эта технология становится проще в использовании, широкая публика будет все больше и больше привыкать к манипулированию изображениями, текстами и голосами. С одной стороны, это хорошо: когда вы получаете звукозапись от знакомого с просьбой о переводе денег, приятно осознавать, что этот голос может быть фальшивым. Однако привыкание к технологии дипфейков может иметь и обратную сторону. Обратной стороной может быть то, что из-за волны фальшивых видео, фальшивых статей и фальшивых звукозаписей мы невольно передаем актив злоумышленникам. Предполагаемые преступники могут просто отклонить доказательства, собранные журналистами, гражданами или следственными органами, как дипфейк-видео. Феномен, заключающийся в том, что любую инкриминирующую информацию можно оформить как искусственно созданную фальшивую видео- или звуковую запись, известен как «дивиденды лжецов».

Второй недостаток возможной волны поддельных видеороликов, поддельных статей и поддельных звукозаписей заключается в том, что мы, как общество, становимся безразличными к новостям. Что существует как можно больше лжи, что публика пожимает плечами любой видео- или аудиозаписи, которая что-то раскрывает, даже если она основана на реальных событиях.

Как только наступает апатия по отношению ко всему контенту, журналистика теряет свою важную роль как заноза для бизнеса и правительства. Самое мощное журналистское оружие, выставленное на свет дневным светом, теряет свою силу. Это может серьезно угрожать демократии и коллективному моральному компасу.

Хотя технология deepfake может многое сделать, она все еще находится в зачаточном состоянии. Это дает нам воздух. Мы можем привыкнуть к мысли, что не вся информация достоверна. Что нами манипулируют типы контента. Началась гонка между реальным и фальшивым. Нам придется научиться жить с этим. Deepfake - это новая реальность.