Генеральные прокуроры требуют от xAI остановить генерацию порно фото AI в Grok

В пятницу группа из 35 генеральных прокуроров США опубликовала открытое письмо к компании xAI, требуя «немедленно предпринять все доступные дополнительные меры для защиты общественности и пользователей ваших платформ, особенно женщин и девушек, которые являются основной целью» неконсенсуальных интимных изображений. Помимо подписавших письмо, генеральные прокуроры Калифорнии и Флориды также заявили о принятии соответствующих мер.

Международный скандал вокруг Grok

Письмо появилось на фоне международной волны внимания регуляторов к тому, как пользователи Grok создают интимные дипфейки людей без их согласия, а также сексуализированные изображения детей.

Согласно недавнему отчету Center for Countering Digital Hate, за 11-дневный период, начиная с 29 декабря, аккаунт Grok в X сгенерировал около 3 миллионов фотореалистичных сексуализированных изображений, включая примерно 23 000 сексуализированных изображений детей. Помимо использования аккаунта Grok в X, люди генерировали гораздо более откровенные видео, используя модель Grok Imagine, доступную на сайте Grok. В отличие от X, сайт Grok, по-видимому, не требовал какой-либо проверки возраста перед тем, как разрешить людям просматривать контент.

X не ответил на запрос о комментариях. xAI ответила на вопросы следующим образом: "Legacy Media Lies" (в переводе: «Старые СМИ лгут»).

Что требуют генеральные прокуроры

Открытое письмо утверждает, что способность Grok создавать неконсенсуальные сексуальные изображения использовалась как «продающий пункт» самой xAI.

Хотя xAI заявляет, что остановила возможность аккаунта Grok в X «раздевать» людей, в письме говорится, что компания не удалила неконсенсуально созданный контент, «несмотря на то, что вскоре вы будете обязаны сделать это по федеральному закону». Письмо также призывает xAI:

• Удалить способность Grok изображать людей в откровенной одежде или в провокационных позах
• Заблокировать нарушающих пользователей и сообщить о них властям
• Предоставить пользователям возможность контролировать, может ли их контент редактироваться Grok

«Помимо расследований и судебных преследований в этой области, мы призвали платежные процессоры и поисковые системы смягчить создание неконсенсуальных интимных изображений и выступили за законодательство по предотвращению эксплуатации детей с помощью AI», – говорится в письме.

Расследования на уровне штатов

Несколько генеральных прокуроров заявили, что расследуют или ведут переговоры с X или xAI по поводу опасений, что Grok используется для создания материалов сексуального насилия над детьми (CSAM). По данным правозащитной группы Enough Abuse, 45 штатов запрещают созданный AI или отредактированный на компьютере CSAM.

Ричи Тейлор, директор по коммуникациям генерального прокурора Аризоны Крис Мэйс, сообщил, что Мэйс открыла расследование в отношении Grok 15 января. В пресс-релизе Мэйс назвала сообщения о создаваемых изображениях «глубоко тревожными».

«Технологические компании не получают бесплатный пропуск для создания мощных инструментов искусственного интеллекта, а затем отворачиваются, когда эти программы используются для создания материалов сексуального насилия над детьми», – заявила она.

Генеральный прокурор Калифорнии Роб Бонта направил письмо с требованием прекратить действия Илону Маску 16 января, требуя от xAI немедленно принять меры для прекращения создания и распространения CSAM или неконсенсуальных интимных изображений. Представитель Министерства юстиции Калифорнии сообщил, что xAI официально ответила на письмо генерального прокурора, и теперь «у нас есть основания полагать, что Grok в настоящее время не используется для создания каких-либо сексуальных изображений детей или изображений, нарушающих законы Калифорнии».

Представитель офиса генерального прокурора Флориды сообщил, что офис «в настоящее время ведет переговоры с X, чтобы гарантировать наличие защиты для детей и предотвратить использование его платформы для создания CSAM».

Законы о проверке возраста и их применение

Наплыв неконсенсуальных интимных дипфейков на X и Grok.com происходит в то время, когда половина страны уже приняла законы о проверке возраста, требующие от людей, просматривающих порнографию, предоставлять доказательства того, что они не являются несовершеннолетними.

Проблема определения порнографического контента

Почти каждый штат с законом о проверке возраста последовал примеру Луизианы, которая приняла свой закон в 2022 году, требуя, чтобы более трети контента на данном сайте считалось порнографическим или вредным для несовершеннолетних, прежде чем ограничения вступят в силу.

Но как определить, что представляет собой часть контента – или является ли что-то порнографическим?

Ник Куппер, республиканец, представитель штата Аризона, сообщил, что недавно подал законопроект, который потребует от сайтов, размещающих откровенный контент, включая изображения, созданные AI, проверять возраст и согласие исполнителей перед этим. Штат криминализировал CSAM, созданный AI, в прошлом году.

«Я не думаю, что должен быть порог. Должно быть так: есть ли у вас порнографический материал на вашем сайте? Хорошо. Я не говорю, что вы должны проверять возраст для всего вашего сайта, но для любого порнографического материала вы должны проверять возраст», – говорит Куппер.

Публикации в X, отмеченные как «контент для взрослых с возрастными ограничениями», могут просматриваться только пользователями, которые вошли в систему и старше 18 лет, хотя X обычно ожидает, что пользователи, загружающие ограниченный контент, сами отмечают его как откровенный.

Альтернативные решения

Pornhub, один из крупнейших порносайтов в мире, заблокировал себя в большинстве штатов с проверкой возраста, утверждая, что слишком много несоответствующих сайтов и что люди не хотят передавать свой ID и личную информацию стороннему сайту для проверки возраста.

Во вторник Соломон Фридман, вице-президент по соблюдению требований фирмы прямых инвестиций Ethical Partners Capital (ECP), которая владеет материнской компанией Pornhub, Aylo, заявил, что как методология, так и масштаб законодательства о проверке возраста «фатально ошибочны».

Он сказал, что Google Images, например, имеет «эскизы каждого порнографического изображения, кэшированного доступного онлайн». Фридман и Pornhub хотят, чтобы Google, Apple и Microsoft ввели проверку возраста на основе устройства, чтобы данные людей могли храниться в их телефонах или ноутбуках.

«Это также решение для взрослого контента на цитируемых непорносайтах и платформах. Его можно использовать для фильтрации либо откровенных твитов или постов в X, либо откровенного использования AI-чатботов».

Что это значит для бизнеса

Если вы планируете внедрить AI-решения в свой бизнес, важно учитывать не только технические возможности, но и этические аспекты. Генерация порно фото AI и другого неконсенсуального контента становится серьезной юридической проблемой.

В Фабио Де Лука мы разрабатываем AI-автоматизации с учетом всех требований безопасности и этических норм. Наши решения для бизнеса включают защитные механизмы и фильтры контента, гарантируя, что ваши AI-инструменты используются ответственно и в соответствии с законодательством.

Ситуация с Grok показывает, насколько критично для компаний, работающих с AI, внедрять надежные системы модерации и контроля контента с самого начала, а не реагировать постфактум на проблемы.