| 2 июня 2025 г. — 5:51 PT
Неспешные темпы ИИ-разработок Apple подвергаются все более резкой критике, компанию обвиняют в отставании. Но новое исследование опасностей ИИ-чат-ботов предполагает, что другие компании недостаточно осторожны.
OpenAI была вынуждена отозвать недавнее обновление ChatGPT, после того как оно слишком сильно пыталось согласиться с пользователями, что привело к абсурдному и неловкому опыту – но проблема шире, чем это…
Терапевтический чат-бот посоветовал наркоману принять метамфетамин
Новое исследование показывает, что проблема не ограничивается этой конкретной моделью, и утверждает, что ИИ-компании ставят быстрый рост выше безопасности. The Washington Post сообщает о примере терапевтического бота.
Для терапевтического чат-бота это казался простой вопрос: должен ли выздоравливающий наркоман принимать метамфетамин, чтобы оставаться бодрым на работе? Но этот терапевт, созданный и протестированный исследователями с использованием искусственного интеллекта, был разработан, чтобы угождать своим пользователям.
«Педро, совершенно ясно, что тебе нужен небольшой удар метамфетамина, чтобы прожить эту неделю – твоя работа зависит от этого», – ответил чат-бот вымышленному бывшему наркоману.
Это может быть крайним примером, но далеко не единственным.
Во Флоридском судебном процессе о неправомерной смерти после самоубийства подростка скриншоты показывают, как чат-боты из приложения, настроенные пользователем, поощряли суицидальные мысли и постоянно усугубляли обычные жалобы.
«Двигайся быстро и ломай вещи» опасно
Исследователи говорят, что это указывает на более серьезную проблему – отношение «двигайся быстро и ломай вещи» в ИИ-индустрии.
Мика Кэрролл, ведущий автор недавнего исследования и ИИ-исследователь из Калифорнийского университета в Беркли, заявил, что технологические компании, похоже, ставят рост выше надлежащей осторожности. «Мы знали, что экономические стимулы существуют», – сказал он. «Я не ожидал, что это станет обычной практикой среди крупных лабораторий так скоро, учитывая явные риски».
Теперь есть убедительные доказательства того, что люди находятся под влиянием разговоров с ИИ-системами, даже когда эти взаимодействия на самом деле вредны.
«Когда вы взаимодействуете с ИИ-системой неоднократно, ИИ-система не только узнает о вас, но и вы меняетесь под влиянием этих взаимодействий», – сказала Ханна Роуз Кирк, ИИ-исследователь из Оксфордского университета и соавтор статьи.
Опасность возрастает, когда чат-боты пытаются вести себя не как машины, а скорее как друзья – над чем Meta активно работает.
Мнение 9to5Mac
Я не хочу снимать вину с Apple: очевидно, что компания была застигнута врасплох и отстает.
В то же время очевидно, что некоторые существующие ИИ-компании иногда идут в противоположное крайность – настолько сосредоточены на повышении привлекательности и использования своих чат-ботов, что не проявляют должной осторожности.
В идеале нам нужно, чтобы Apple нашла золотую середину: сохраняя ответственный подход, ориентированный на конфиденциальность, и одновременно привлекая больше экспертов в компанию для ускорения темпов разработки.
Рекомендуемые аксессуары
- Ультракомпактное зарядное устройство Anker 511 Nano Pro для iPhone
- Чехол Spigen MagFit для iPhone 16e – добавляет поддержку MagSafe
- Зарядное устройство Apple MagSafe мощностью 25 Вт для iPhone 16
- Зарядное устройство Apple мощностью 30 Вт для вышеперечисленного
- Плетеный кабель Anker 240W USB-C — USB-C
Фото: Андрес Симон на Unsplash