Нейровидео нас разводят: как не повестись на (дип)фейк?

После работы Галя на диванчике листает ленту. Видит ролик: известный ведущий новостей говорит, что Галин банк завтра заблокирует все переводы. В описании — ссылка «проверить карту». Видео выглядит как обычный фрагмент новостей: студия, обычный голос, обычная же картинка. Галя почти нажимает на ссылку, но сначала открывает приложение банка. Там никаких предупреждений нет.

Банк не в курсе? Или новости врут? Или ролик какой-то скамный? А как вообще его проверить, если он выглядит нормально?  

Раньше Галя могла посмотреть на лишние пальцы на руках, указательный вместо большого, на лицо, по которому иногда проходит рябь, ломаные движения и коленки не в ту сторону. И было очевидно, что это генерация.

А сейчас Галю не спасла бы даже профессиональная насмотренность. Александр Доброкотов, который сам делает нейровидео для брендов, попался на ролик, где Квентин Тарантино хвалит фильм ученика осетинского режиссёра.

Проблема 1: нейровидео стало сложнее вычислить

На старте массовой генерации картинки выглядели как отдельный жанр интернет-бреда: странные, смешные, сразу узнаваемые. В них была своя эстетика. 

С видео произошло похожее: модели быстро доросли до уровня, когда качественное нейровидео  легко принять за обычную съёмку — камера движется, человек моргает, правдоподобно падает свет, с физикой тоже всё окей.

А ещё модели изучили анатомию и научились переносить движение на аватар. Например, у Kling есть функция motion control, которая умеет брать куски роликов, где человек что-то делает, и накладывать эти движения на условного аватара. И выглядит это очень правдоподобно.

Лайфхак для Гали: чтобы вычислить фейк, можно попробовать посмотреть на задний план: мелкие детали чаще «плывут» и глючат. Например, в сгенерированном видеорепортаже может нормально выглядеть ведущий, но плыть текст на нижней плашке, вывеска за окном или люди на заднем плане.

Проблема 2: шлак стало легче штамповать

Но проблема не только в том, что нейровидео сложнее распознать. Его стало проще производить, поэтому оно чаще попадает в обычную ленту.

Плохие видео были и до нейронок. До них уже были детские ролики без логики: Эльза с Человеком-пауком танцевали под музыку, вокруг мелькали пони и поп-культурные персонажи, происходящее не имело смысла, но собирало миллиарды просмотров.

Нейросети ускорили производство подобного контента. Раньше требовалось время: придумать сцену, собрать картинку, смонтировать. Генерация сокращает этот путь до «придумал — сделал — выложил», поэтому мусорного  контента становится лишь больше.

Алгоритмическая лента сама подбрасывает такие ролики: фейковая авария, странный пранк, «камера наблюдения», где лиса обнимается с бобром. Пока думскроллишь — ощутимо тупеешь.

Но одно дело — застрять на полчаса в ленте, другое — получить фейковое видео с аккаунта близкого человека от его имени. Это могут быть даже кружочки, и они всегда срочные: попал в аварию, взял долг, срочно надо на операцию или что-то подобное. Галя бы начала волноваться, переживать и хуже анализировать ситуацию — а мошенникам только это и надо.

Коротко: как проверить, сгенерировано ли видео 

Обязательно проверяйте достоверности видео, если после него от вас ждут срочного действия: перейти по ссылке, ввести данные, купить, переслать, перевести деньги.

• Проверьте источник: кто выложил ролик, как давно существует аккаунт, есть ли нормальная история публикаций.
• Смотрите на фон и мелкие детали: именно они чаще выдают генерацию.
• Не принимайте решение мгновенно: откройте официальный сайт/приложение и проверьте информацию там.
• Настройте ленту: меньше мусорных аккаунтов — меньше фейков в выдаче.
• Заранее договоритесь с близкими о кодовом слове или вопросе, ответ на который нельзя найти в соцсетях.

---

Что можно сделать ещё, Александр рассказывает в новом выпуске «Репортажа на диване» — программе комика Михаила Кострецова и Яндекс Практикума об искусственном интеллекте, который уже стал частью повседневности.