Статистика предполагает, что медленное внедрение функций ИИ-агентов Apple может быть разумным

Одной из многих отложенных функций Apple Intelligence является App Intents, и мы начинаем видеть доказательства того, что чрезвычайно осторожный подход к внедрению может быть неплохим делом.

Прежде чем комментарии загорятся, я должен подчеркнуть, что я определенно не даю Apple индульгенцию за медленное внедрение новых возможностей Siri в целом. Существует множество функций, которые определенно должны были быть запущены *годы* назад. Действительно, я утверждал, что задержка теперь настолько неловка, что Apple, вероятно, должна позволить нам выбирать собственного чат-бота вместо Siri, и большинство из вас согласились со мной. Но когда дело доходит до ИИ-агентов, медленное продвижение может быть правильным подходом…

Сила ИИ-агентов

Прошло почти десять лет с тех пор, как я впервые описал, что я хотел бы, чтобы Siri могла делать. Я привел пример инструкции: «организовать обед с Сэмом на следующей неделе».

Siri знает, кто такой Сэм, так что с этим проблем нет. У нее есть доступ к моему календарю, поэтому она знает, когда у меня есть свободные слоты для обеда. Далее, ей нужно знать, когда у Сэма есть свободные слоты для обеда. Это требует, чтобы Сэм предоставила мне доступ к своему календарю на простом уровне занят/свободен. Мой iPhone проверяет календарь iCloud Сэма на наличие свободных слотов для обеда и сопоставляет их с моими. Он обнаруживает, что мы оба свободны в среду, и планирует обед.

И это могло бы делать еще больше. Мой iPhone мог бы легко запомнить мои любимые заведения и заведения Сэма и найти то, которое нам обоим нравится. Затем он мог бы зайти на сайт системы бронирования ресторана, чтобы сделать бронирование.

Перенесемся в настоящее время, и Google представил часть бронирования ресторанов из этого. Мы также видели, как этот тип возможностей ИИ-агентов был развернут на ряде других платформ, особенно в корпоративном секторе.

Между тем, собственные предложения Apple нигде не видны.

App Intents

Подход Apple заключается во внедрении такого типа возможностей через механизм, известный как App Intents. Отправной точкой является предоставление Siri возможности извлекать информацию из приложений, что компания продемонстрировала еще в 2022 году. Мы ожидаем, что придется ждать до следующей весны, прежде чем это будет запущено.

Но большая цель здесь — предоставить iPhone возможности ИИ-агентов, чтобы они могли выполнять более сложные задачи от нашего имени.

Но ИИ-агенты пока не очень надежны

Проблема, не только для Apple, но и для всей технологической индустрии, заключается в том, что ИИ-агенты в настоящее время не очень надежны. Google, в частности, доходит до того, что вводит всю информацию в форму бронирования ресторана, прежде чем потребовать от пользователя проверить ее и подтвердить бронирование.

AI Mode будет напрямую ссылаться на страницу бронирования, чтобы вы могли завершить резервирование.

Калум Чейз из TNW привел несколько довольно тревожных статистических данных:

  1. Более половины компаний (51%) внедрили ИИ-агентов
  2. 80% из них сообщили, что их ИИ-агенты принимали несанкционированные решения

Хуже того, по его словам, многие компании очень опрометчиво используют этих агентов без надлежащего контроля.

Предоставление им автономии с минимальными проверками похоже на передачу ключей компании пьяному выпускнику. Они полны энтузиазма, умны и податливы, но также непостоянны и нуждаются в присмотре.

И тем не менее, что крупные предприятия не осознают, так это то, что именно это они и делают. ИИ-агенты «бесшовно» подключаются к операциям с небольшим количеством демонстраций и оговорок.

В этой одной области медленное внедрение может быть умным

Даже более простое использование App Intents, а именно извлечение информации из приложения и представление ее пользователю, может быть чревато опасностями, если эта информация неточна, а пользователи полагаются на нее.

Выполнение задач от нашего имени становится экспоненциально более опасным. Поскольку индивидуальные пользователи, возможно, даже более склонны, чем компании, просто предполагать, что Apple Intelligence сделает то, что они попросили, возможно, то, что компания уделяет больше времени для дополнительного тестирования в этой одной области, не является плохой вещью.

Фото: Мохамед Нохасси на Unsplash