ИИ-помощник Siri не станет вашим другом, и вот почему это действительно важно

Университет Илон (Elon University) совместно с газетой The Washington Post провел тревожное исследование, посвященное тому, как американцы воспринимают ИИ-чат-боты в качестве виртуальных друзей или психотерапевтов.

Полученные результаты полностью оправдывают взвешенное решение Apple сделать так, чтобы Siri AI не поощряла подобные псевдоотношения…

Выводы об «искусственной дружбе»

Более четверти американцев воспринимают ИИ-чат-боты практически так же, как близкого друга или психотерапевта, согласно данным The Washington Post.

Многие общаются с ИИ-приложениями так же, как с близким другом или терапевтом […] Согласно новому опросу, 27% американцев обращаются к ИИ-чат-ботам, таким как ChatGPT от OpenAI или Gemini от Google, с личными, эмоциональными или социальными вопросами [включая] поиск развлечений, советов по поводу отношений, романтические беседы или общение в моменты одиночества.

Среди тех, кто заявил, что использует чат-боты для личных или эмоциональных запросов и обсуждений, почти 4 из 10 (в разной степени) согласились с тем, что иногда общаются с искусственным интеллектом, чтобы чувствовать себя менее одинокими. Почти треть отметили, что считают используемый ими чаще всего чат-бот своим другом.

Хотя часть такого использования может служить позитивным целям, вызывает беспокойство то, что превращение чат-ботов в эмоциональную замену дружбе и романтике снижает стимулы вкладывать время и усилия в создание подлинных человеческих связей. Это может привести к нисходящей спирали нарастающей социальной изоляции.

Siri AI не поощряет это

Руководители Apple Крейг Федериги и Грег Джосвиак заявили ранее в этом году, что Siri AI не будет вести себя подобным образом.

В: «То есть, просто чтобы уточнить, в обновленной Siri AI не создается никаких ИИ-девушек или ИИ-парней?»

О: Нет, нет, нет. Совсем наоборот. Поскольку, как вы возможно знаете, многие существующие чат-боты в значительной степени ориентированы на вовлечение. И они подобострастны, верно? Они как бы стремятся затянуть вас. Они могут побуждать вас раскрывать информацию о себе, а затем использовать ее как основу для установления связи.

Мы же видим это совершенно иначе. То есть, разрабатывая Siri, мы заложили в нее стремление сказать: послушай, я здесь совсем не для этого, верно? Я здесь, чтобы помочь тебе. Я могу помочь тебе справляться с делами. Я могу помочь тебе узнать об окружающем мире. Но если ты попытаешься воспринимать Siri как романтического партнера, Siri на это не подписывалась.

Мнение 9to5Mac

Результаты опроса показались мне крайне тревожными, особенно после прослушивания отличного подкаста Suspicious Minds: Al and the Apocalypse об иллюзиях, подпитываемых искусственным интеллектом. Позиция, которую занимает здесь Apple, — абсолютно правильная.

Фото: Franck V. на Unsplash (изменено ресурсом 9to5Mac)