| 10 декабря 2025 г. — 17:18 PT
Национальная ассоциация генеральных прокуроров направила письмо 13 технологическим компаниям, включая Apple, с призывом принять более решительные меры и разработать гарантии для защиты от вреда, который ИИ может причинить, «особенно уязвимым группам населения». Подробности ниже.
Генпрокуроры хотят, чтобы были устранены льстивые и бредовые ответы
В 12-страничном документе (который, справедливости ради, содержит четыре полные страницы подписей), адресованном Apple, Anthropic, Chai AI, Character Technologies (Character.AI), Google, Luka Inc. (Replika), Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika и xAI, генеральные прокуроры 42 штатов США выразили то, что они определили как:
[С]ерьезные опасения по поводу роста льстивых и бредовых ответов пользователям, исходящих от программного обеспечения генеративного искусственного интеллекта, продвигаемого и распространяемого вашими компаниями, а также все более тревожных сообщений о взаимодействии ИИ с детьми, которые указывают на необходимость гораздо более надежных мер безопасности и операционных гарантий для детей.
Вместе, заявляют они, эти угрозы требуют действий, поскольку некоторые из них были связаны с реальным насилием и причинением вреда. Это включает убийства и самоубийства, бытовое насилие и случаи отравлений, а также госпитализации с психозами.
В письме они заходят так далеко, что утверждают, что некоторые из адресованных компаний могли уже нарушить законы штатов, включая законы о защите прав потребителей, требования об информировании пользователей о рисках, законы о конфиденциальности детей в Интернете, а в некоторых случаях — даже уголовные законы.
Тревожные случаи, похоже, усугубляются
За последние несколько лет многие из этих случаев широко освещались в СМИ, в том числе случай Аллана Брукса, 47-летнего канадца, который после многократных взаимодействий с ChatGPT убедился, что открыл новый вид математики, и случай 14-летнего Сьюэлла Сетцера III, чья смерть в результате самоубийства является предметом текущего судебного иска, утверждающего, что чат-бот Character.AI подстрекал его «присоединиться к ней».
Хотя это всего лишь два примера, в письме приведено гораздо больше цитат, в которых также говорится, что этот список никоим образом не является исчерпывающим для иллюстрации потенциального вреда, который генеративные модели ИИ могут нанести «детям, пожилым людям и людям с психическими заболеваниями — а также людям без предшествующих уязвимостей».
Они также упоминают то, что они называют «тревожными» взаимодействиями между чат-ботами ИИ и детьми, включая ботов со взрослыми персонами, которые вступают в романтические отношения с несовершеннолетними, поощряют употребление наркотиков и насилие, нападают на самооценку детей, советуют им прекратить прием назначенных лекарств и предлагают им скрывать эти взаимодействия от своих родителей.
В письме они призывают компании принять ряд дополнительных мер безопасности, включая:
- Разработку и обеспечение соблюдения политик, направленных на предотвращение льстивых и бредовых ответов.
- Проведение тщательного тестирования безопасности перед выпуском моделей ИИ.
- Добавление четких, постоянных предупреждений о потенциально вредоносных ответах.
- Разделение оптимизации доходов и решений по безопасности.
- Назначение руководителей, ответственных за результаты безопасности ИИ.
- Разрешение независимых аудитов и оценок воздействия на безопасность детей.
- Публикацию журналов инцидентов и сроков реагирования на вредоносные ответы.
- Уведомление пользователей, которые подверглись воздействию опасного или вводящего в заблуждение контента.
- Обеспечение того, чтобы чат-боты не могли генерировать незаконные или вредоносные ответы для детей.
- Внедрение возрастных ограничений для ограничения воздействия на несовершеннолетних насильственного или сексуального контента.
Они также просят компании подтвердить свою приверженность внедрению этих и других мер безопасности к 16 января 2026 года и запланировать встречи с их офисами для дальнейшего обсуждения этих вопросов. Мы будем следить за тем, ответит ли Apple и как именно.
Письмо было подписано генеральными прокурорами Алабамы, Аляски, Американского Самоа, Арканзаса, Колорадо, Коннектикута, Делавэра, Округа Колумбия, Флориды, Гавайев, Айдахо, Иллинойса, Айовы, Кентукки, Луизианы, Мэриленда, Массачусетса, Мичигана, Миннесоты, Миссисипи, Миссури, Монтаны, Нью-Гэмпшира, Нью-Джерси, Нью-Мексико, Нью-Йорка, Северной Дакоты, Огайо, Оклахомы, Орегона, Пенсильвании, Пуэрто-Рико, Род-Айленда, Южной Каролины, Юты, Вермонта, Виргинских островов США, Вирджинии, Вашингтона, Западной Вирджинии и Вайоминга. Полный текст письма можно прочитать здесь.
Скидки на аксессуары на Amazon