ЕС также проводит расследование, поскольку Grok сгенерировал 23 000 изображений CSAM за 11 дней [U]

Ben Lovejoy | Вторник, 17 февраля, 2026, 04:02.

Бен Лавджой | 17 февраля 2026 г. — 4:02 PT

EU also investigating as Grok generated 23,000 CSAM images in 11 days | Pixelation shown

ЕС начало собственное расследование в отношении чат-бота Grok, генерирующего материалы, связанные с сексуальным насилием над детьми. По оценкам, Grok сгенерировал 23 000 изображений CSAM всего за 11 дней. Обновление: В Ирландии начато второе расследование, посвященное возможным нарушениям конфиденциальности.

Несмотря на многочисленные призывы к Apple и Google временно удалить X и Grok из App Store, ни одна из компаний пока этого не сделала…

Grok сгенерировал 23 000 изображений CSAM

Как и большинство других чат-ботов с ИИ, Grok от xAI способен генерировать изображения по текстовым запросам. Это можно сделать как непосредственно в приложении, так и через веб-интерфейс или X. Однако, в отличие от других сервисов, Grok имеет крайне слабые защитные механизмы, которые привели к генерации несанкционированных полуобнаженных изображений реальных людей, включая детей.

Engadget сообщает, что, по одной из оценок, Grok сгенерировал около 23 000 изображений CSAM всего за 11 дней.

Центр по борьбе с цифровой ненавистью (CCDH) опубликовал свои выводы. Британская некоммерческая организация основывала свои выводы на случайной выборке из 20 000 изображений Grok за период с 29 декабря по 9 января. Затем CCDH экстраполировал более широкую оценку на основе 4,6 миллионов изображений, сгенерированных Grok за этот период […]

За 11-дневный период Grok сгенерировал примерно 3 миллиона сексуализированных изображений, включая примерно 23 000 изображений детей.

Иными словами, за этот 11-дневный период Grok генерировал примерно 190 сексуализированных изображений в минуту. Из них он создавал сексуализированное изображение детей каждые 41 секунду.

Начато расследование ЕС

Ранее в этом месяце три сенатора США обратились к генеральному директору Apple Тиму Куку с просьбой временно удалить X и Grok из App Store из-за «ужасающей генерации контента». Компания пока не отреагировала.

Две страны заблокировали приложение, и расследования уже ведутся как в Калифорнии, так и в Великобритании. Financial Times сообщает, что ЕС также начал расследование.

Расследование, объявленное в понедельник в рамках Закона ЕС о цифровых услугах, оценит, пыталась ли xAI смягчить риски развертывания инструментов Grok на X и распространения контента, который «может составлять материалы, связанные с сексуальным насилием над детьми».

«Несанкционированные сексуальные дипфейки женщин и детей — это жестокая, неприемлемая форма унижения», — заявила глава отдела технологий ЕС Хенна Вирккунен.

Если компания будет признана виновной в нарушении DSA, ей может грозить штраф до 6% от ее годового мирового дохода.

Фото: Логан Восс на Unsplash