Две большие проблемы с предполагаемым планом Apple «AI-доктор»

Ben Lovejoy | Вторник, 1 апреля, 2025, 13:47.

Avatar for Ben Lovejoy
 | 1 апр 2025 — 6:15 утра по тихоокеанскому времени
There are two big issues with Apple's reported 'AI doctor' plan | Friendly-looking white robot

Марк Гурман из Bloomberg пару дней назад сообщил о том, что он назвал «крупнейшим шагом Apple в здравоохранение с новым AI-доктором».

Хотя я полностью понимаю, почему Apple захочет это сделать, я считаю, что компания должна действовать чрезвычайно осторожно, чтобы избежать риска принести больше вреда, чем пользы…

Самый важный вклад Apple

Генеральный директор Apple Тим Кук заявил в 2019 году, что, по его мнению, инициативы в области здравоохранения будут самым важным делом, которое компания когда-либо делала.

В частности, в сфере здравоохранения и вашего благополучия, я считаю, что если посмотреть в будущее и оглянуться назад, задав вопрос: «Каким был величайший вклад Apple в человечество?», то это будет вклад в область здоровья.

Потому что наш бизнес всегда заключался в улучшении жизни людей [а теперь мы] даем людям возможность управлять своим здоровьем. И мы только в самом начале этого пути.

Он неоднократно подтверждал эту точку зрения, и я думаю, что он может быть прав.

Хотя лично я заменил свои Apple Watch на умное кольцо, форм-фактор не имеет значения; я вполне ожидаю Apple Ring в ближайшем будущем. Healthtech — это действительно массово важная и влиятельная область, и Apple вносит огромный вклад.

Функции, такие как обнаружение фибрилляции предсердий, обнаружение падений, экстренный вызов SOS и другие, уже спасли множество жизней. Я сказал несколько лет назад, что мы являемся свидетелями тихого начала огромной революции Apple Health.

Менее заметно, но еще более важно, что ResearchKit от Apple предоставляет медицинским исследователям широту и глубину данных, которые, несомненно, преобразят наше понимание бесчисленных медицинских состояний. Эти данные со временем спасут гораздо больше жизней, чем любое количество прямых оповещений о здоровье для отдельных пользователей Watch.

Приложения-тренеры по здоровью

Конечно, приложения-тренеры по здоровью уже существуют. Кольца активности Apple внесли огромный вклад в поощрение людей к большей физической активности, поддерживаемые более тихими, но все же важными функциями, такими как напоминания вставать и находить время для дыхательных упражнений.

Я очень ценю использование медицинских устройств, таких как умные часы и умные кольца, для сбора данных с целью предоставления персонализированных рекомендаций. Действительно, я предполагал, что Apple следует купить Oura не за аппаратное обеспечение — которое калифорнийская компания может легко воспроизвести, — а за отличное приложение.

Я привел пример персонализированной информации, которую приложение Oura предоставило мне относительно качества сна:

Оно заметило, что я лучше сплю, когда ложусь около 23:00, поэтому проактивно рекомендовало подумать об этом и побудило меня начать расслабляться примерно за час до этого. Оно также отметило, что я лучше сплю после умеренных физических нагрузок, а не сразу после больших или маленьких […]

Приложение полностью меня покорило. Очевидно, что была проделана *огромная* работа по решению того, что показывать по умолчанию, когда предлагать персонализированные оповещения и предложения, а когда — более общие рекомендации.

Приложение Health от Apple выглядит красиво и очень просто в использовании, но оно никогда не давало мне ощущения, что у меня есть личный тренер по здоровью и фитнесу в кармане; приложение Oura — да.

Oura находится в процессе внедрения AI-тренера по здоровью в приложение, и я с осторожным любопытством отношусь к этому.

Но «AI-доктор» — это другое

Что меня беспокоило в отчете Гурмана, так это ярлык «AI-доктор».

Конечно, эта фраза, скорее всего, была придумана самим Гурманом, чтобы описать его понимание цели этой функции — я не думаю, что Apple действительно будет использовать этот термин.

Но каким бы ярлык ни выбрал производитель iPhone, восприятие имеет значение. Если пользователи воспринимают советы как исходящие от персонального AI-тренера или коуча, это одно. Они понимают ограничения этой экспертизы, независимо от того, предложена ли она человеком или приложением.

Но если пользователи *воспринимают*, что новый AI предлагает им более общие медицинские советы, и он затрагивает области, более тесно связанные с семейными врачами, чем с фитнес-тренерами, это потенциально ставит Apple в очень опасную территорию. Люди могут полагаться на AI-советы, когда на самом деле им следует обратиться к медицинскому работнику.

Конечно, можно возразить, что приложение всегда будет действовать осторожно — при малейшем сомнении оно будет направлять пользователей к врачу. Но здесь есть две большие проблемы.

Во-первых, если AI-доктор будет постоянно рекомендовать людям обратиться к реальному врачу, его со временем перестанут слушать. Постоянное «крик о помощи» несет огромный риск того, что люди не обратятся за помощью в те редкие случаи, когда это действительно необходимо.

Во-вторых, это AI-система. Неизвестно, что она будет делать, а что нет. Ее руководящие принципы могут предписывать ей действовать с максимальной осторожностью, но, как я говорил бесчисленное количество раз, AI-системы не являются разумными. И они не всегда следуют своим руководящим принципам.

Так что да, я полностью убежден, что healthtech может внести огромный вклад в мир, и я уверен, что Apple будет играть в этом ключевую роль. Но я очень надеюсь, что это та область AI, где Apple будет чрезвычайно осторожна, чтобы не переобещать.

Рекомендуемые аксессуары

Фото: Alex Knight на Unsplash