Две страны заблокировали приложение Grok из-за сгенерированных ИИ материалов с сексуальным насилием над детьми, ожидаем ответа Apple

Ben Lovejoy | Понедельник, 12 января, 2026, 05:04.

Ben Lovejoy | 12 янв 2026 — 5:04 утра PT

Two countries block Grok app over AI-generated CSAM as we await Apple's response | Frightened woman in the dark

Две страны заблокировали приложение Grok после того, как оно было широко использовано для создания дипфейков с несовершеннолетними и женщинами в обнаженном виде без их согласия. Третья страна проводит расследование.

Три американских сенатора обратились к Apple с просьбой временно удалить из американского App Store как X, так и Grok из-за «вызывающей отвращение генерации контента», и мы все еще ожидаем ответа компании…

Сгенерированные ИИ материалы с сексуальным насилием над детьми в Grok

Инструмент Grok AI доступен как в виде отдельного приложения, так и через приложение X. Он также доступен через вкладку Grok на веб-сайте X.

Было множество свидетельств того, что Grok генерировал дипфейки реальных людей в полуобнаженном виде без их согласия, беря одетое фото и затем цифровым образом удаляя одежду, заменяя ее на бикини или другую откровенную одежду. Еще более тревожно то, что некоторые из этих дипфейков были созданы с детьми.

Хотя материалы с обнаженным телом теоретически заблокированы Grok, некоторые пользователи используют формулировки запросов, которые обходят это ограничение.

В пятницу три сенатора США попросили Apple временно удалить оба приложения из App Store, отметив, что материалы без согласия включали материалы с сексуальным насилием над детьми (CSAM).

Сенаторы Рон Уайден, Эд Марки и Бен Рэй Лухан написали открытое письмо генеральным директорам Apple и Google с просьбой к обеим компаниям отозвать приложения X и Grok «до полного расследования» «массовой генерации неконсенсуальных сексуализированных изображений женщин и детей».

В письме отмечается, что бывший генеральный директор Илон Маск не предпринял никаких действий, и противопоставляется отсутствие действий со стороны Apple и Google их быстрому удалению приложения ICEBlock по просьбе Белого дома. Единственным ответом Маска было ограничение генерации изображений в X для платных подписчиков, что выглядит как самое циничное возможное действие, но та же функция доступна любому через вкладку Grok как на веб-сайте X, так и в приложении.

Две страны заблокировали приложение Grok

Associated Press сообщает, что Малайзия и Индонезия заблокировали приложение в своих странах.

Регуляторы в двух странах Юго-Восточной Азии заявили, что существующие меры контроля не предотвращали создание и распространение порнографического контента, в частности, с участием женщин и несовершеннолетних. Правительство Индонезии временно заблокировало доступ к Grok в субботу, за ним последовала Малайзия в воскресенье.

Британский медиарегулятор Ofcom также начал официальное расследование.

Были крайне тревожные сообщения о том, что аккаунт чат-бота Grok AI на X используется для создания и распространения изображений людей без одежды – что может расцениваться как злоупотребление интимными изображениями или порнография – и сексуализированных изображений детей, которые могут расцениваться как материалы с сексуальным насилием над детьми […] Ofcom решил начать официальное расследование, чтобы установить, не нарушил ли X свои юридические обязательства в соответствии с Законом о безопасности в Интернете.

Apple и Google еще не ответили

На момент написания статьи не было публичного ответа ни от Apple, ни от Google, и приложения остаются доступными в их соответствующих американских магазинах приложений. Мы обратились к Apple за комментарием и обновим информацию, как только получим ответ.

Фото: Melanie Wasser/Unsplash