| 10 мая 2023 г. — 5:12 PT
Соучредитель Apple Стив Возняк (также известный как Возняк) заявил, что прогресс ИИ остановить нельзя – несмотря на то, что он призывал к паузе в разработке – и что мы должны быть готовы к тому, что люди будут злоупотреблять им для создания более труднораспознаваемых мошенничеств…
Предыстория
Даже пионеры искусственного интеллекта не могут договориться о том, насколько он опасен, причем на этой неделе два крупных имени высказали противоположные мнения.
Джеффри Хинтон часто называют «одним из крестных отцов ИИ». Он является ключевой фигурой в разработке нейронных сетей, написал множество статей и получил множество наград за свою работу в этой области.
Он был настолько обеспокоен опасностями текущей работы в области ИИ, что покинул свою должность в Google, чтобы иметь возможность свободно говорить о рисках […]
Юрген Шмидхубер был назван «отцом ИИ» за свою работу в области обработки естественного языка в нейронных сетях – технологии, лежащей в основе Siri и Google Translate. Он также написал огромное количество статей и получил награды за свою работу.
Хотя он и Хинтон не во всем согласны, оба сходятся во мнении, что разработку ИИ остановить нельзя. Однако Шмидхубер сказал The Guardian, что, по его мнению, опасности преувеличены.
Стив Возняк был одним из тех, кто выступал за более осторожный подход, недавно подписав открытое письмо с призывом приостановить разработку ИИ за пределами GPT-4.
Однако он, похоже, согласен как с Хинтоном, так и со Шмидхубером в том, что прогресс ИИ остановить нельзя.
Возняк: ИИ остановить нельзя, мы должны готовиться к мошенничеству
Возняк сказал BBC, что «мы не можем остановить технологию», и выразил сомнение в том, что регулирование поможет.
Он сказал, что одна из главных опасностей генеративного ИИ заключается в том, что он может помочь сделать мошенничество более труднообнаружимым, и что всем нам нужно быть к этому готовыми.
Г-н Возняк говорит, что опасается, что технология будет использована «злоумышленниками» […] Он сказал: «ИИ настолько умен, что открыт для плохих игроков, тех, кто хочет обмануть вас насчет того, кто они» […]
Г-н Возняк не верит, что ИИ заменит людей, потому что ему не хватает эмоций, но он предупредил, что, по его мнению, это сделает злоумышленников еще более убедительными, потому что программы, такие как ChatGPT, могут создавать тексты, которые «звучат очень умно» […]
Он высказал скептицизм относительно того, что регуляторы все сделают правильно: «Я думаю, что силы, движимые деньгами, обычно побеждают, что несколько печально».
По его мнению, ключ в том, чтобы обучать людей мошенничеству и фишинговым атакам, поскольку их становится все труднее распознать.