Что такое дипфейк?

Что такое дипфейк? Можем ли мы по-прежнему доверять своим глазам и ушам в Интернете?

Что такое дипфейк?

Дипфейки - это изображения, звуки и тексты, созданные с помощью программного обеспечения с искусственным интеллектом. Затем интеллектуальное программное обеспечение используется для создания или обработки изображений, аудио и текстов. Это также известно как «дипфейки». Самые известные дипфейки - это когда лицо одного человека заменяется лицом другого. В этой статье вы можете прочитать все о дипфейках. Как это делается, какие примеры и каковы риски дипфейков.

Кстати, манипуляции с изображениями не ограничиваются нашим цифровым веком. В мировой истории есть много примеров, когда впоследствии выяснялось, что изображениями манипулировали. Например, американский президент Линкольн сделал гравюру. На этом его голова покоилась на теле Джона К. Кэлхауна; Вице-президент США в первой половине XIX века. Как сообщается, это должно было сделать ауру президента Линкольна более «президентской».

В 1990 году Adobe выпустила программу Photoshop. С тех пор «фотошоп» стало глаголом. В настоящее время практически у каждого есть смартфон со встроенной хорошей фотокамерой. Включает в себя все доступные фотофильтры. Это увеличивает вероятность того, что вы наткнетесь на фото в сети, а не на оригинал.

Отредактированные реалистичные видеоролики до недавнего времени были прерогативой голливудских студий, но сегодня они доступны каждому. Это то, что делает дипфейк такой выдающейся разработкой. В последние месяцы вы все больше и больше читаете о технологии deepfake в новостях. Какое определение для deepfakes?

Что такое дипфейки?

Дипфейки - это тексты, изображения, видео и аудио, отредактированные с помощью программного обеспечения с искусственным интеллектом. Термин Deepfake объединяет английские слова deep и fake. Deep относится к сетям глубокого обучения с искусственным интеллектом. Подделка означает подделку. Контент Deepfake может вызвать много веселья. Например, когда комик Билл Хейдер изображает Арнольда Шварценеггера. Или когда Ким Кардашьян говорит в видео, что манипулирует своими подписчиками в коммерческих целях.

«Термин deepfake относится к поддельной информации, которая может быть создана с помощью современного программного обеспечения AI (искусственного интеллекта). Эти системы искусственного интеллекта создают новый цифровой контент, такой как лица, изображения, видео, тексты, человеческие голоса и другие аудиозаписи. Новый цифровой контент, который нам кажется знакомым, но на самом деле является совершенно новым. Это подделка." Ярно Дуурсма

Но технология deepfake также представляет угрозу. Приложение можно использовать разными способами для манипулирования мнениями, шантажа людей или нанесения ущерба репутации. Мы вступаем в онлайн-эру, когда мы больше не можем доверять своим глазам и ушам. Я написал статью об этом в Volkskrant. (И интервью Volkskrant в декабре 2020 г.)

Почему мы так много слышим об этих дипфейк-видео? Как такое возможно, что это развитие происходит так быстро? Почему количество дипфейков так сильно увеличивается? Ответ относительно прост. Все сигналы зеленые, чтобы чрезмерно ускорить это развитие. Видео относительно легко создавать (например, теперь с приложениями для смартфонов), легко распространять (через социальные сети и WhatsApp), и у них достаточно аудитории, чтобы делиться сумасшедшими, громкими и сочными видео.

Технология Deepfake! Манипуляции с изображениями

Технология Deepfake выводит концепцию фальшивой информации на новый уровень. Информация доступна в цифровом виде в изобилии, и программное обеспечение для дипфейков становится проще в использовании (теперь и через приложения для смартфонов). Видео, аудио и тексты легко манипулировать. То, что раньше производили только в Голливуде, теперь доступно каждому. Вот почему мы должны быстро научиться распознавать, что такое дипфейк. Особенно сейчас, когда мы молниеносно делимся (фейковой) информацией по всему миру.

Как делаются дипфейки? Генеративные состязательные сети

Как делаются дипфейки? Часто с использованием общих состязательных сетей.

В последние десятилетия качественное развитие искусственного интеллекта идет молниеносно. Популярной техникой дипфейка являются генеративные состязательные сети, или GAN. GAN часто состоит из двух сетей. Первая нейронная сеть, генератор, создает новый цифровой контент. Другая система, дискриминатор, определяет, является ли эта новая информация реальной. Они вместе соревнуются. Здесь две системы поднимают друг друга на большую высоту. Информация, которую в конечном итоге одобряет дискриминатор, иногда неотличима от подлинной. Грань между реальным и фальшивым становится все тоньше. Генератор продолжает создавать контент, пока дискриминатор не скажет: «Верно». Тогда его уже нельзя будет отличить от настоящего.

Из всех форм программных продуктов для генеративных дипфейков наибольшее внимание уделяется изображениям дипфейков. Программное обеспечение для генеративного искусственного интеллекта может, например, менять лица в видео (смена лиц) или превращать аккуратную фотографию в фотографию обнаженной натуры (Deepnude). По мере развития технологий отличать подделку от настоящей становится все труднее. Скрываются далеко идущие злоупотребления.

2. Голос

Подделкой может быть не только дипфейк. Также учитывайте звук, например музыку и речь. Недавно было совершено корпоративное финансовое мошенничество с использованием клонированного голоса директора. Это означает, что вы успешно разместили заказ на транзакцию на сумму около 220 000 евро.

Клонирование голоса, имитирующее чей-то голос, становится все более и более вероятным.

в 2020 году мы уже видели новый программный продукт от Google, которому потребовалось всего 5 секунд для клонирования голоса. У Startup Lovo теперь также есть хорошее программное обеспечение для клонирования голоса. Клонирование голоса невозможно остановить.

Я также сделал свой голосовой клон и связал его с моим видео аватара. Проверьте видео здесь.

Приложения для клонирования голоса: например, рекламу Spotify можно быстро персонализировать, если в рекламном голосе также используется ваше имя. Читатели могут читать новости 24 часа в сутки, если их кормить новыми текстами. Вы можете клонировать голос своих близких, чтобы разговаривать с ними через умную колонку даже после смерти. Стало легче выпустить аудиокнигу в дополнение к своей обычной книге.

Плохой сценарий: когда это работает безупречно, вы можете попросить кого-нибудь сказать что-нибудь в аудиоклипе. Клевета, репутационный ущерб, шантаж, кража личных данных.

Через несколько лет в качестве приложения на вашем смартфоне?

3. Текст

Генеративные системы ИИ также могут обрабатывать текст. Цифровой текст широко доступен. От архивов интернет-газет до полных библиотек, полных электронных книг. Так обучаются системы. Системе не нужно понимать текст, чтобы изучать и генерировать новые тексты. Такая глубокая фальшивая лирика. Генерируется программным обеспечением. В 2021 году тексты еще не идеального качества. Конечно, не более длинные фрагменты текста. Но технологии улучшаются.

Пример - GPT-3.

GPT-3 - это система искусственного интеллекта, обученная самостоятельно генерировать достоверные тексты. Фактически, система может очень хорошо делать одну вещь: предсказывать следующее слово в определенном предложении. В результате GPT-3 может создавать полные тексты, которые иногда напоминают человеческие тексты. Между прочим, компьютерная система не знает «значения» слов, но особенно хороша в предсказании слов. Так что на самом деле это суперсовременная функция «автозаполнения», которую вы можете распознать как простую версию своего телефона, когда печатаете. Хотя OpenAI не предлагал открытый исходный код модели, он создал API для экспериментов с возможностями модели.

В газетной статье The Guardian система ИИ написала следующий текст:

«Исследования показывают, что мы перестаем существовать без человеческого взаимодействия. Окруженные Wi-Fi, мы теряемся в полях информации, не способных уловить реальный мир. Наблюдая за новым поколением кибернетиков, они видят в нашем нынешнем веке виртуальности потенциал для преобразования современного «киборга». Глобальная кибернетика уже делает это так ».