| 16 декабря 2024 г. — 4:49 PT
Apple Intelligence на прошлой неделе создала поддельные новости о Луиджи Манджоне благодаря функции сводки уведомлений. По какой-то причине система решила, что подозреваемый в убийстве генерального директора United Health Брайана Томпсона застрелился сам.
Сама по себе эта ошибка не удивительна: системы ИИ постоянно допускают подобные промахи. Более удивительно то, что Apple позволила этому случиться, хотя этого можно было легко избежать…
Ошибки ИИ могут быть забавными или опасными
Современные системы генеративного ИИ часто выдают впечатляющие результаты, но, конечно, они не являются по-настоящему разумными, и поэтому допускают довольно впечатляющие ошибки.
Многие из них забавны. Была система ИИ для автоматического обслуживания в Макдоналдс, которая продолжала добавлять наггетсы в заказы клиентов, пока не довела их до 260; Google сообщил о рекомендации геолога есть один камень в день и предложил использовать клей, чтобы сыр лучше прилипал к пицце; а Microsoft рекомендовал продовольственный банк в качестве туристического направления.
Но были и примеры опасных советов от ИИ. Существовала написанная ИИ книга по сбору грибов, которая рекомендовала пробовать грибы для определения ядовитых; картографические приложения, которые направляли людей в зоны лесных пожаров; и система Boeing, которая привела к крушению двух авиалайнеров, в результате чего погибло 346 человек.
Или они могут быть просто неловкими
Сводка новости BBC News от Apple Intelligence не была ни забавной, ни опасной, но оказалась неловкой.
Apple Intelligence, запущенная в Великобритании ранее на этой неделе, использует искусственный интеллект (ИИ) для суммирования и группировки уведомлений. На этой неделе сводка, созданная ИИ, ошибочно представила статью BBC News как статью, в которой утверждалось, что Луиджи Манджоне, человек, арестованный после убийства генерального директора медицинской страховой компании Брайана Томпсона в Нью-Йорке, застрелился сам. Этого не было.
Это не первый случай, когда мы такое видим – в предыдущей сводке уведомлений Apple Intelligence утверждалось, что премьер-министр Израиля Беньямин Нетаньяху был арестован, хотя на самом деле МУС выдал ордер на его арест.
Поддельные новости о Манджоне были избегаемы
Невозможно избежать всех этих ошибок; это просто свойство систем генеративного ИИ — допускать их.
Это тем более справедливо в случае сводки новостных заголовков от Apple. Заголовки по своей природе являются очень частичными резюме историй. Apple Intelligence пытается еще больше сжать сильно сжатую версию новостной истории; очень краткое резюме очень краткого резюме. Совсем не удивительно, что иногда это плохо заканчивается.
Хотя Apple не может предотвратить это в целом, она могла бы, по крайней мере, предотвратить это в отношении особо чувствительных историй. Она могла бы блокировать ключевые слова, такие как «убийство», «убил», «стрелок», «стрельба», «смерть» и так далее.
В данном конкретном случае ошибка была просто неловкой, но совсем не трудно представить, как ошибка по столь чувствительной теме может привести к тому, что многие люди будут очень разгневаны. Представьте себе сводку, которая, например, кажется, обвиняет жертв насильственного преступления или катастрофы.
Фото: Jorge Franganillo на Unsplash