| 17 авг 2023 — 4:46 PT
Snapchat, искусственный интеллект в виде чат-бота, вчера вызвал смесь беспокойства и веселья, когда, по-видимому, вышел из-под контроля. Множество пользователей сообщили, что он создал видео их стены и потолка, опубликовал прямой эфир, а затем перестал отвечать на вопросы о том, обрел ли он разум…
Snapchat запустил свой собственный чат-бот на базе ChatGPT в феврале. Компания тогда предупредила, что ему нельзя доверять — ни в предоставлении точной информации, ни в хранении их секретов.
Хотя My AI разработан так, чтобы избегать предвзятой, неточной, вредной или вводящей в заблуждение информации, ошибки могут случаться […] Как и все чат-боты на базе искусственного интеллекта, My AI подвержен галлюцинациям и может быть обманут, чтобы сказать практически что угодно. Пожалуйста, помните о его многочисленных недостатках и заранее приносим извинения!
Все разговоры с My AI будут сохранены и могут быть проанализированы для улучшения качества продукта. Пожалуйста, не делитесь секретами с My AI и не полагайтесь на него за советом.
Но вчера, как сообщает CNN, ситуация, похоже, вышла на новый уровень.
Во вторник вечером пользователи Snapchat были встревожены, когда искусственный интеллект платформы опубликовал прямой эфир в своем профиле […]
Публикация прямого эфира (короткого видео, на котором, по-видимому, была стена) для всех пользователей Snapchat была чем-то новым: это возможность, обычно доступная только его человеческим пользователям.
Поклонники приложения быстро поделились своими опасениями в социальных сетях. «Почему My AI выложил видео стены и потолка в своем доме как свою историю?» — написал один из пользователей. «Это очень странно и, честно говоря, тревожно». Другой пользователь написал после того, как инструмент проигнорировал его сообщения: «Даже роботу нет до меня дела».
Многие пользователи разместили примеры в социальной сети, ранее известной как Twitter.
Один забавный твит показывал, как пользователь Snapchat спрашивает, почему чат-бот опубликовал историю. ИИ ответил, что столкнулся с технической проблемой. Когда его спросили, обрел ли он разум, My AI перестал отвечать.
TechCrunch отмечает, что пользователи Twitter X развлекались этой идеей.
Snap признала проблему, но заявила, что разум не замешан.
Snap подтвердила, что проблема, которая была быстро устранена прошлой ночью, была всего лишь сбоем. (И, кстати, My AI не фотографировал вашу комнату.)
«My AI пережил временный сбой, который теперь устранен», — сообщил представитель TechCrunch.
Изображение: Алекс Найт/Unsplash