Технология обнаружения дипфейков с помощью ИИ на YouTube

Развитие искусственного интеллекта в последние годы существенно изменило возможности создания цифрового контента. Наряду с новыми творческими перспективами появились и новые риски, особенно связанные с так называемыми дипфейками или deepfake технологиями. С помощью искусственного интеллекта можно создавать очень убедительные видео, в которых люди якобы говорят или делают то, чего на самом деле никогда не происходило. Такие манипулированные видео могут вводить общество в заблуждение, влиять на политические процессы и вредить репутации людей.

Чтобы снизить эти риски, YouTube в последние годы активно развивает технологии, способные распознавать созданные или измененные с помощью искусственного интеллекта видео. Одной из таких инициатив является технология обнаружения AI-дипфейков, которая анализирует загруженный на платформу контент и выявляет случаи, когда в видео без разрешения использовалось цифровое изображение человека. Эта технология помогает выявлять ситуации, в которых искусственный интеллект использовался для создания поддельных изображений людей или имитации их действий.

Изначально эта система была внедрена для авторов контента, участвующих в партнерской программе YouTube, но платформа постепенно расширяет ее использование. В рамках новейших инициатив YouTube планирует предоставить доступ к этой технологии также политикам, государственным служащим и журналистам - лицам, которые особенно часто становятся мишенями дезинформации. Участники пилотного проекта смогут идентифицировать созданные с помощью искусственного интеллекта видео, в которых использован их образ, и при необходимости потребовать удаления такого контента с платформы.

Принцип работы технологии и связь с системой Content ID

Технология обнаружения AI-дипфейков на YouTube основана на принципах, схожих с уже используемой платформой системой Content ID, предназначенной для защиты авторских прав. Content ID анализирует загруженные видео и сравнивает их с материалами, предоставленными правообладателями, чтобы определить, содержит ли контент защищенные аудио- или видеофрагменты. Если совпадение обнаружено, правообладатель может выбрать, заблокировать видео, монетизировать его или просто отслеживать его использование.

Подобным образом технология обнаружения AI-дипфейков фокусируется на распознавании визуального сходства людей. Система использует алгоритмы искусственного интеллекта, которые анализируют кадры видео и идентифицируют лица, которые могли быть созданы или изменены с помощью инструментов ИИ. Затем эти лица сравниваются с реальными людьми, которые зарегистрировались в системе и предоставили свои идентификационные данные.

Если алгоритм находит возможное совпадение между человеком в видео и зарегистрированным пользователем, система уведомляет об этом соответствующее лицо. Это позволяет им просмотреть контент и оценить, действительно ли в видео используется их цифровое изображение без разрешения. Такой подход существенно облегчает идентификацию дипфейк-видео, поскольку вручную просматривать огромный объем контента на YouTube было бы практически невозможно.

Важно отметить, что технология не предназначена для автоматического удаления контента. Она в основном работает как механизм идентификации и уведомления, который помогает людям обнаружить возможное злоупотребление их образом. После этого конкретный случай оценивается в соответствии с политикой YouTube, принимая во внимание контекст, цель контента и то, нарушает ли видео правила платформы.

Такая система позволяет YouTube более эффективно реагировать на вызовы, создаваемые технологией дипфейков, сохраняя при этом гибкость в оценке контента. Она обеспечивает механизм, который помогает защитить личность людей в цифровой среде, не ограничивая творческие или сатирические виды контента, которые могут быть частью законного и важного для общества самовыражения.

Пилотный проект для политиков, государственных служащих и журналистов

Чтобы более эффективно решать риски, связанные с технологией дипфейков, YouTube запустил пилотный проект, в котором участвуют политики, государственные служащие и журналисты. Эти профессиональные группы были выбраны потому, что их представители часто находятся в центре внимания общественности и могут стать мишенью для манипулированных видео, которые распространяют ложную информацию или пытаются повлиять на общественное мнение.

Участники пилотного проекта получают доступ к специальному инструменту, который позволяет идентифицировать видео, в которых с помощью искусственного интеллекта мог быть использован их образ или сходство. Система анализирует опубликованный на платформе контент и ищет возможные совпадения с визуальными данными зарегистрированных лиц. Если обнаружен потенциальный дипфейк-видео, соответствующее лицо получает уведомление об этом совпадении.

После этого участники пилотного проекта могут просмотреть найденный контент и оценить, использовалось ли их цифровое сходство без разрешения. Если сделан вывод, что видео нарушает политику YouTube или создает вводящее в заблуждение представление о человеке, можно подать запрос на удаление такого контента. Этот процесс позволяет быстрее идентифицировать и решать ситуации, в которых искусственный интеллект используется для создания ложных или манипулированных изображений.

Представители YouTube отмечают, что цель пилотного проекта - постепенно совершенствовать технологию и разрабатывать эффективные механизмы для оценки таких случаев. Компания пока не раскрывает, какие именно политики или должностные лица участвуют в первом этапе тестирования, но в долгосрочной перспективе планируется сделать эту технологию доступной для более широкой группы пользователей.

Риски созданных ИИ дипфейков и распространение дезинформации

Созданные искусственным интеллектом дипфейки или deepfake видео создают все большие вызовы в цифровом информационном пространстве. Эта технология позволяет с высокой точностью имитировать мимику, голос и движения людей, создавая впечатление, что конкретный человек действительно сказал или сделал то, что видно на видео. Поскольку современные инструменты ИИ становятся все более доступными и простыми в использовании, создание манипулированного контента также становится проще.

Одним из наиболее существенных рисков является распространение дезинформации. Дипфейк-видео можно использовать для создания ложных заявлений от имени политиков, государственных служащих или известных в обществе лиц. Такой контент может быстро распространяться в социальных сетях и на видеоплатформах, создавая ложное представление о событиях или действиях конкретных лиц. Даже если позже будет доказано, что видео является подделкой, первоначальное впечатление в обществе может сохраниться.

Особенно опасными дипфейк-видео могут быть в политической среде. Например, манипулированное видео, в котором политик якобы высказывает радикальные или раскалывающие общество мнения, может повлиять на восприятие избирателей и общественную дискуссию. Такие видео могут появляться перед выборами или в другие политически важные моменты, когда общество особенно чувствительно к информации.

Помимо политического контекста, технология дипфейков может навредить журналистам и другим известным в обществе лицам. Если распространяется видео, в котором человек якобы выражает ложную информацию или совершает компрометирующие действия, это может серьезно повлиять на его репутацию и профессиональное доверие. Даже если подделка разоблачена, репутационный ущерб зачастую уже нанесен.

Именно по этим причинам технологические компании, включая YouTube, уделяют все больше внимания идентификации и ограничению дипфейк-контента. Эффективные системы распознавания могут помочь своевременно заметить манипулированные видео и предотвратить их широкое распространение. Однако этот процесс сложен, так как необходимо учитывать и законные виды контента, например, сатиру, пародию или творческие проекты, в которых искусственный интеллект используется без вводящего в заблуждение умысла.

Баланс между свободой слова и угрозами, созданными ИИ

Одним из самых сложных вопросов, с которыми сталкиваются цифровые платформы при внедрении технологий обнаружения дипфейков, является поиск баланса между регулированием контента и сохранением свободы слова. С одной стороны, существует реальный риск того, что созданный с помощью искусственного интеллекта манипулированный контент может ввести общество в заблуждение или навредить репутации конкретных людей. С другой стороны, слишком строгий контроль контента может ограничить творческое самовыражение, политическую критику и сатиру.

YouTube подчеркивает, что новая система обнаружения дипфейков не предназначена для автоматического удаления контента. Даже если система идентифицирует видео, в котором, возможно, использовано цифровое сходство человека, окончательное решение об удалении контента принимается после тщательной оценки. Платформа анализирует контекст видео, его цель и то, соответствует ли оно правилам сообщества YouTube и политике конфиденциальности.

Важную роль в этом процессе играет и тип контента. Например, пародия, сатира или политическая критика во многих странах считаются защищенной формой выражения. Поэтому видео, в которых известные в обществе лица изображены в юмористическом или критическом контексте, не всегда считаются нарушением, даже если в них использованы созданные искусственным интеллектом манипуляции.

Такой подход позволяет платформе избежать чрезмерной цензуры, одновременно предоставляя инструменты, которые помогают людям защитить свою личность в цифровой среде. Представители YouTube подчеркивают, что главная цель - сохранить целостность общественной дискуссии, особенно в случаях, когда речь идет о политике, СМИ и других важных для общества сферах.

Оценка контента: пародия, политическая критика и политика конфиденциальности

Когда система обнаружения дипфейков YouTube идентифицирует видео, в котором, возможно, использовано цифровое сходство человека, это автоматически не означает, что контент будет удален. Каждый случай оценивается индивидуально, основываясь на политике конфиденциальности платформы, правилах сообщества и контексте контента. Такой подход позволяет избежать ситуаций, в которых необоснованно ограничивалось бы законное и важное для общества самовыражение.

Одним из важнейших критериев оценки является то, создан ли контент с вводящим в заблуждение умыслом. Если видео создано для того, чтобы намеренно ввести зрителей в заблуждение или заставить поверить, что конкретный человек действительно сделал определенные заявления, платформа может счесть это нарушением. В таких случаях, особенно если используется сходство человека без разрешения, YouTube может принять решение об удалении видео.

Однако существуют и ситуации, в которых созданный искусственным интеллектом контент используется в творческом или критическом контексте. Например, пародии и сатирические видео часто используют образы известных в обществе лиц, чтобы в юмористической форме прокомментировать актуальные события или политические процессы. Этот вид контента во многих странах считается законной формой выражения, и YouTube старается учитывать этот аспект в своем процессе модерации контента.

Аналогичным образом политическая критика считается важным элементом демократического общества. Видео, в которых с помощью искусственного интеллекта иллюстрируется политическая идея или комментируется общественная дискуссия, не всегда считаются вредным или вводящим в заблуждение контентом. Поэтому платформа анализирует не только технологическую манипуляцию, но и то, в каком контексте она используется.

Политика конфиденциальности играет существенную роль в этом процессе. Если видео использует сходство человека таким образом, что это может нанести вред репутации или ввести зрителей в заблуждение относительно реальных действий человека, это может быть расценено как нарушение конфиденциальности. В таких случаях человек имеет право потребовать пересмотра контента и, при необходимости, его удаления.