37 штатов США реагируют на проблему Grok с CSAM, Apple действительно должна действовать

Ben Lovejoy | Среда, 28 января, 2026, 04:28.

Бен Лавджой | 28 янв 2026 — 4:28 утра по тихоокеанскому времени

As 37 US states respond to Grok CSAM problem, Apple really needs to act | Conceptual image of child hiding

По меньшей мере 37 генеральных прокуроров штатов США реагируют на продолжающуюся проблему чат-бота Grok, который создает материалы, связанные с сексуальным насилием над детьми (CSAM).

Это произошло после того, как приложение было запрещено в двух странах, а расследования начаты как в Великобритании, так и в ЕС, но и Apple, и Google до сих пор игнорировали просьбы временно удалить Grok и X из своих магазинов приложений…

Проблема Grok с CSAM

Большинство чат-ботов с искусственным интеллектом сегодня способны генерировать изображения из текстовых запросов, и Grok от xAI не является исключением. Он может делать это непосредственно в приложении, в Интернете или через X.

Однако исключительным является чрезвычайно слабый контроль Grok. Это привело к тому, что он использовался для создания интимных изображений реальных людей, включая детей, без их согласия. По одной из оценок, за период всего в 11 дней было сгенерировано около 23 000 изображений CSAM.

Две страны заблокировали приложение, расследования ведутся как в Великобритании, так и в ЕС.

37 штатов США реагируют

Wired сообщает, что по меньшей мере 37 штатов и территорий США теперь призывают компанию решить эту проблему после открытого письма, подписанного большинством из них.

По меньшей мере 37 генеральных прокуроров штатов и территорий США принимают меры против xAI после того, как люди использовали ее чат-бот Grok для генерации потока сексуализированных изображений ранее в этом году […] В дополнение к [35] подписавшим письмо, генеральные прокуроры Калифорнии и Флориды сообщили WIRED, что они также приняли меры.

Письмо призывает xAI предпринять шесть шагов:

принять все необходимые меры для обеспечения того, чтобы Grok больше не мог создавать интимные изображения без согласия (включая изображения без согласия, которые не доходят до полного обнажения или графического сексуального контента, но изображают людей в бикини, нижнем белье, откровенной одежде или в вызывающих позах), а также материалы, связанные с сексуальным насилием над детьми;
удалить такой уже произведенный контент;
приостановить действие учетных записей пользователей, создавших эти материалы;
где применимо, сообщать о таких создателях и пользователях в соответствующие органы;
предоставить пользователям X контроль над тем, может ли их контент редактироваться Grok, включая, как минимум, возможность легко запретить учетной записи @Grok отвечать на их сообщения или редактировать их изображения по запросу другого пользователя; и
обеспечить, чтобы недавно объявленные вами меры безопасности не просто помещали создание NCII за платным доступом, а фактически снижали его производство на всей платформе X и Grok.

Apple и Google должны действовать

В начале этого месяца три сенатора США попросили генерального директора Apple Тима Кука временно удалить X и Grok из App Store из-за «отвратительного создания контента». Компания пока этого не сделала.

Теперь совершенно очевидно, что xAI не предпримет никаких значимых действий, пока ее не заставят. Самым эффективным способом оказания давления является временное удаление Grok и X из соответствующих магазинов приложений Apple и Google.