Городской прокурор Сан-Франциско намерен закрыть сайты и приложения, позволяющие "раздевать" женщин с помощью ИИ

Городской прокурор Сан-Франциско Дэвид Чиу взялся за непростую задачу — остановить деятельность 16 популярных веб-сайтов и приложений, использующих ИИ для создания фальшивых обнажённых фотографий. Цель Чиу — защитить женщин и девушек от нарастающей волны онлайн-домогательств и эксплуатации.

«Эти сервисы намеренно созданы для генерации поддельных обнаженных изображений без согласия людей», — заявил Чиу на пресс-конференции. По его словам, технология позволяет добавлять реальные лица на сгенерированные ИИ обнажённые тела, создавая убедительные подделки. «Наш иск — первый в своём роде. Он направлен на защиту не только жителей Калифорнии, но и огромного числа женщин и девушек по всему миру — от известных знаменитостей до обычных школьниц».

Масштаб проблемы поражает: за первую половину 2024 года эти сайты посетили более 200 миллионов раз. Неудивительно, что Чиу не ограничивается требованием закрыть существующие ресурсы. Он также добивается судебного запрета, который помешает операторам запускать новые подобные сайты.

Особое беспокойство вызывает то, что некоторые из этих платформ игнорируют доступные технологии для выявления изображений несовершеннолетних. Это создаёт дополнительные трудности для правоохранительных органов, и без того перегруженных сообщениями о поддельных детских сексуальных изображениях, созданных с помощью ИИ.

Чтобы пресечь эту деятельность, Чиу требует от регистраторов доменных имен, веб-хостингов, платёжных систем и других связанных компаний ограничить возможности операторов сайтов по запуску новых ресурсов. Такие меры необходимы, поскольку эти сайты легко найти в поисковых системах, несмотря на недавние попытки Google скрыть результаты поиска дипфейков с именами конкретных людей.

Бизнес-модель многих из этих сайтов довольно хитра: они предлагают ограниченное количество «раздетых» изображений бесплатно, а затем взимают плату за дополнительные услуги. При этом они принимают различные формы оплаты, включая криптовалюту, что усложняет их отслеживание и делает борьбу с ними ещё более сложной задачей.

Хотя некоторые сайты утверждают, что требуют согласия на создание поддельных изображений, расследование Чиу показало обратное. На практике любой пользователь может загрузить любое изображение без каких-либо проверок, что открывает широкие возможности для злоупотреблений.

Иск Чиу примечателен тем, что он пытается применить существующие законы для масштабного закрытия популярных сайтов. Прокурор опирается не только на законы, запрещающие дипфейк-порнографию и порнографию из мести, но и на федеральный закон, запрещающий любые визуальные изображения несовершеннолетних в откровенно сексуальных ситуациях, включая даже рисунки и мультфильмы.

Влияние этих технологий на жертв может быть разрушительным. «Это наносит непоправимый ущерб репутации и психическому здоровью, лишает чувства безопасности и в некоторых случаях доводит людей до мыслей о самоубийстве», — подчеркнул Чиу. Его слова подтверждает и ФБР, которое уже бьёт тревогу по поводу роста числа случаев вымогательства с использованием сгенерированной ИИ порнографии.

Этот судебный процесс поднимает важные вопросы о необходимости более жесткого регулирования технологий ИИ и защиты личных прав в цифровую эпоху. Он также заставляет задуматься о том, как найти баланс между технологическим прогрессом и этическими нормами — задача, с которой обществу предстоит справиться в ближайшем будущем. И хотя исход дела Чиу пока неясен, оно уже привлекло внимание к проблеме, которую слишком долго игнорировали.