Миннесота запрещает дипфейк-порнографию, созданную ИИ

Развитие искусственного интеллекта в последние годы существенно расширило возможности создания цифрового контента, но одновременно породило новые формы злоупотреблений. Одной из наиболее быстрорастущих проблем является так называемая технология nudification - инструменты, позволяющие генерировать реалистичные, но полностью поддельные обнаженные фотографии на основе обычных снимков людей. Такие изображения часто создаются без согласия человека, и их бывает трудно отличить от настоящих, что делает их особенно опасными с точки зрения репутации и конфиденциальности.

В отличие от прежних форм манипуляций, эти инструменты не требуют технических знаний и широко доступны в интернете, в том числе несовершеннолетним. Это означает, что любой пользователь может за считанные секунды создать компрометирующее изображение другого человека.

Эксперты подчеркивают, что такая технология значительно снижает барьер для создания незаконного и вредоносного контента. Она используется для запугивания, преследований и цифрового насилия, особенно в отношении женщин и молодежи. Контент такого рода может привести к серьезным психологическим последствиям, поскольку жертвы зачастую не имеют контроля над своим цифровым образом и его распространением.

По мере роста числа подобных случаев и давления со стороны общества все больше правительств начинают искать способы ограничить использование этой технологии. Инициатива в Миннесоте - один из новейших примеров того, как законодатели пытаются реагировать на риски, создаваемые искусственным интеллектом в цифровой среде.

Новый законопроект в Миннесоте (House File 1606)

Законодатели Миннесоты разработали и приняли законопроект House File 1606, который напрямую направлен против так называемых технологий nudification - инструментов искусственного интеллекта, способных создавать сексуально откровенные изображения на основе фотографий реальных людей. Этот законопроект предусматривает существенное изменение подхода, поскольку он фокусируется не только на распространителях контента, но прежде всего на платформах и поставщиках услуг, которые предоставляют такие возможности.

Согласно законопроекту, веб-сайтам, мобильным приложениям и программным сервисам запрещается предлагать или поддерживать функции, позволяющие пользователям генерировать реалистичные поддельные обнаженные фото. Это касается и случаев, когда изображения создаются автоматически от имени пользователя, без его прямого участия в процессе. Кроме того, запрет включает рекламу или продвижение таких инструментов, что расширяет сферу регулирования за пределы использования самой технологии.

Закон особенно направлен против автоматизированных систем, которые не требуют от пользователя существенных технических или творческих навыков. Законодатели подчеркивают, что именно такие инструменты представляют наибольший риск, так как делают создание вредоносного контента доступным широкому кругу пользователей, включая молодежь.

Это регулирование знаменует собой следующий шаг в текущей политике Миннесоты в отношении технологий дипфейков. Ранее штат уже ввел законы, криминализирующие распространение несанкционированных дипфейк-материалов сексуального характера, но новый законопроект расширяет этот подход, пытаясь предотвратить проблему в самом ее начале - на этапе доступности технологий.

Принятие законопроекта и политический процесс

Законопроект House File 1606 в Миннесоте прошел через законодательный процесс при очень широкой политической поддержке. Его разработала представитель штата Джесс Хэнсон (Jess Hanson), и изначально он был представлен как реакция на быстро растущую проблему цифрового насилия, связанного с искусственным интеллектом.

В Палате представителей Миннесоты законопроект был принят подавляющим большинством голосов - 132 «за» и только 1 «против», что указывает на почти единогласную поддержку обеими партиями. Такой результат относительно редко встречается в вопросах, касающихся регулирования технологий, и свидетельствует о высоком политическом консенсусе в отношении необходимости ограничения подобных инструментов ИИ.

После принятия в Палате представителей законопроект был передан на рассмотрение в Сенат, где он продолжил движение к получению статуса закона. Голосование в Сенате и последующая передача губернатору на подпись - это последние шаги, необходимые для того, чтобы инициатива стала действующим законом.

Этот процесс также отражает более широкую тенденцию на уровне штатов США, где законодатели все активнее участвуют в регулировании искусственного интеллекта, особенно в случаях, когда регулирование на федеральном уровне развивается медленнее или не способно достаточно быстро реагировать на новые риски. Случай с HF1606 считается одной из первых попыток напрямую ограничить конкретную категорию технологий ИИ, а не только распространение созданного ею контента.

Что именно запрещает новое регулирование

House File 1606 устанавливает четкие ограничения в отношении инструментов искусственного интеллекта, способных создавать реалистичные поддельные обнаженные фото. Закон запрещает веб-сайтам, мобильным приложениям и программным сервисам предлагать функционал, позволяющий пользователям генерировать изображения такого рода с участием идентифицируемых лиц без их согласия. Запрет касается не только создания самих изображений, но и предоставления доступа к таким инструментам.

Регулирование предусматривает, что операторы платформ не должны позволять пользователям использовать такие технологии, а также не должны запускать их от имени пользователей. Это означает, что ответственность перекладывается на компании, контролирующие инфраструктуру - они должны обеспечить, чтобы в системы не интегрировались и не поддерживались инструменты, способные создавать несанкционированные изображения сексуального характера.

Кроме того, закон также запрещает рекламу или продвижение таких услуг. Это включает как прямую рекламу, так и косвенный маркетинг, который может способствовать использованию этих инструментов. Такой более широкий охват запрета предназначен для ограничения не только доступности технологии, но и ее распространения в цифровой среде.

Важно, что регулирование фокусируется на таких инструментах, для использования которых не требуются специальные технические навыки. Именно распространение таких простых в использовании приложений ИИ является основной причиной, по которой законодатели выбрали столь строгий подход, пытаясь снизить риск того, что подобные технологии будут использоваться в широких масштабах в злонамеренных целях.

Ответственность компаний и платформ

Новое регулирование особо подчеркивает ответственность компаний и платформ, которая до сих пор часто была неясной или ограниченной. House File 1606 предусматривает, что именно поставщики услуг - владельцы сайтов, разработчики приложений и администраторы программного обеспечения - несут ответственность за то, чтобы в их системах не были доступны инструменты, позволяющие «нюдифицировать» изображения.

Это означает, что компании обязаны активно предотвращать доступность таких функций, а не просто реагировать после нарушения. Если платформа позволяет пользователям получать доступ или использовать технологию такого рода, она может быть привлечена к ответственности независимо от того, был ли конкретный контент создан самим пользователем.

Закон также расширяет ответственность на компании, которые рекламируют эти инструменты или способствуют их использованию. Это важно, поскольку расследования показали, что такие приложения часто активно рекламируются в социальных сетях и на других платформах, тем самым увеличивая их доступность для широкой аудитории, включая молодежь.

Важным аспектом является также то, что регулирование фокусируется на поставщиках технологий как на ключевой точке контроля. Законодатели считают, что, ограничивая доступ к самим инструментам, можно эффективнее снизить возникновение вредоносного контента, а не просто бороться с последствиями после его распространения.

Такой подход знаменует собой существенное изменение направления в регулировании цифровой среды, поскольку ответственность переносится с индивидуальных пользователей на администраторов инфраструктуры, которые имеют больший контроль над доступностью технологий и условиями их использования.

Штрафы и финансовые санкции

House File 1606 предусматривает строгие финансовые санкции для компаний и лиц, нарушающих установленные ограничения в отношении инструментов ИИ, генерирующих поддельные обнаженные фото. Закон дает генеральному прокурору штата Миннесота право обращаться против нарушителей и применять гражданско-правовые штрафы в размере до 500 000 долларов США за каждый случай нарушения. Это означает, что повторные или массовые нарушения могут создать очень существенное финансовое бремя для компаний.

Помимо штрафов, налагаемых государством, закон также предусматривает возможность для пострадавших требовать компенсацию в судебном порядке. Суд может присудить не только фактические убытки, но и до трехкратного размера возмещения, а также дополнительные штрафные санкции (punitive damages) и покрытие юридических расходов. Такой подход разработан для того, чтобы удержать компании от игнорирования рисков и стимулировать активное соблюдение регулирования.

Средства, полученные от санкций, наложенных государством, направляются в общий бюджет Миннесоты, часть из которого выделяется на программы поддержки пострадавших. Это включает помощь людям, пострадавшим от сексуального насилия, домашнего насилия или эксплуатации детей, таким образом, закон не только наказывает нарушителей, но и предусматривает механизмы для оказания поддержки.