ChatGPT посоветовал пользователю игнорировать смертельное заболевание, но люди продолжают использовать его как врача
Казалось бы, очевидно, что обращаться за медицинской консультацией к ИИ-чат-боту — ужасная идея. И всё же каждую неделю так поступают сотни миллионов людей.
В одном из случаев, едва не закончившихся смертью и теперь ставших предметом судебного иска, ChatGPT посоветовал пастору не обращать внимания на симптомы тромбоэмболии лёгочной артерии — состояния, смертность при котором составляет 30%. Более того, вполне вероятно, что его советы только ухудшили ситуацию…
ИИ-чат-боты могут быть полезны во многих ситуациях, но использовать их вместо консультации врача — не одна из них. Не рекомендуется даже обращаться к ним вместо поиска в Google: они не раз уверенно выдавали выдуманную информацию.
И всё же, согласно собственным данным OpenAI, буквально сотни миллионов людей каждую неделю задают ChatGPT вопросы о здоровье. Анализ поисковых запросов в Microsoft Copilot также показал, что вопросы о здоровье — одни из самых распространённых в мобильном приложении.
Если вам нужны доказательства возможных последствий обращения к чат-боту за медицинским советом, показательный пример — иск, поданный пастором из Флориды. The New York Times сообщает, что он подал в суд на OpenAI после того, как ChatGPT заявил ему, что беспокоиться из-за симптомов тромбоэмболии лёгочной артерии не нужно.
Согласно иску, ChatGPT заверил Скотта Уинтерса, что ранние признаки ухудшения его здоровья «не представляют опасности», и отговорил его обратиться за медицинской помощью, предложив вместо этого поверить, что «Бог не создавал ваше тело для бесконечных сбоев».
ChatGPT посоветовал ему просто отдохнуть. Он не только отговаривал от обращения за медицинской помощью, но и рекомендовал оставаться неподвижным в течение длительного времени — а это худшее, что можно сделать в таких обстоятельствах. Я говорю это как человек, перенёсший тромбоэмболию лёгочной артерии после 12-часового перелёта со сломанной ногой — в те времена исследователи уже знали об этих рисках, но пациентам о них ещё не сообщали.
Когда Уинтерса наконец поместили в отделение интенсивной терапии, врачи сказали, что его симптомы, вероятно, были вызваны рядом тромбоэмболий лёгочной артерии, которые усугубились из-за того, что он неделями сидел неподвижно, следуя рекомендациям ChatGPT.
Сообщается, что Уинтерс пользовался GPT-4o — более старой моделью ChatGPT, известной своими угодливыми ответами. Вероятно, это повлияло на советы полагаться на Бога, но какую бы модель ИИ вы ни использовали, пожалуйста, не позволяйте ей давать вам медицинские рекомендации.
- Товары Apple в разделе Amazon Renewed
- Официальный магазин Apple на Amazon
- AirPods Pro 3 со скидкой
- Беспроводной адаптер CarPlay
- Держатели и аксессуары для AirTag
- Корпус для Mac mini в стиле Mac Pro
- NordVPN — VPN-сервис с приоритетом конфиденциальности, без ведения журналов и с независимыми проверками
