Соучредитель Apple Стив Возняк поддерживает временный запрет на сверхинтеллект ИИ

Apple, соучредитель Стив Возняк, является одной из более чем тысячи известных личностей, призвавших к временному запрету на разработку сверхинтеллекта ИИ. Среди других подписантов — лауреаты Нобелевской премии, пионеры в области ИИ и другие светила технологий…

Заявление краткое и по существу. Вот оно целиком:

Инновационные инструменты ИИ могут принести беспрецедентное здоровье и процветание. Однако, наряду с инструментами, многие ведущие компании в области ИИ заявляют о цели создания сверхинтеллекта в ближайшее десятилетие, который сможет значительно превзойти всех людей практически во всех когнитивных задачах. Это вызвало опасения, начиная от экономической невостребованности и потери влияния человека, потерь свободы, гражданских свобод, достоинства и контроля, до рисков национальной безопасности и даже потенциального вымирания человечества. Краткое заявление ниже направлено на создание общего знания о растущем числе экспертов и известных личностей, которые выступают против спешки к созданию сверхинтеллекта.

Мы призываем к запрету на разработку сверхинтеллекта, который не будет снят до тех пор, пока:

  1. не будет достигнут широкий научный консенсус о том, что это будет сделано безопасно и контролируемо, и
  2. не будет получена сильная общественная поддержка.

Среди других известных подписантов:

  • Пионер в области ИИ Джеффри Хинтон, иногда известный как «крестный отец глубокого обучения»
  • Исследователь основ ИИ Йошуа Бенджио
  • Профессор компьютерных наук Калифорнийского университета в Беркли и эксперт по безопасности ИИ Стюарт Рассел
  • Лауреаты Нобелевской премии по физике Фрэнк Вильчек и Джон К. Мазер
  • Лауреаты Нобелевской премии Беатрис Фин и Дарон Аджемоглу
  • Бывший советник по национальной безопасности США Сьюзан Райс

Многие из тех же подписантов ранее заявляли, что искусственный общий интеллект (ИОИ) представляет такую же угрозу вымиранию человечества, как и пандемии и ядерная война.

Рекомендуемые аксессуары

Фото: Compare Fibre на Unsplash