| 8 февраля 2024 г. — 4:35 PT
Apple — одна из более чем 200 компаний и других организаций, присоединившихся к консорциуму Института безопасности ИИ США (AISIC) по просьбе Белого дома.
Amazon, Google, Meta, Microsoft и Nvidia входят в число других компаний, присоединившихся к консорциуму в ответ на исполнительный указ президента Байдена, направленный на обеспечение того, чтобы искусственный интеллект был «безопасным, защищенным и надежным»…
Исполнительный указ о безопасности ИИ
AISIC был основан в ответ на исполнительный указ Белого дома, изданный в октябре прошлого года. В нем был изложен целый ряд требований, направленных на защиту граждан США от потенциальных рисков систем ИИ. К ним относятся:
- Требование к разработчикам самых мощных систем ИИ делиться результатами тестов безопасности и другой критически важной информацией с правительством США.
- Разработка стандартов, инструментов и тестов для обеспечения безопасности, защищенности и надежности систем ИИ.
- Защита от рисков использования ИИ для создания опасных биологических материалов.
- Защита американцев от мошенничества и обмана с использованием ИИ путем установления стандартов и передовых практик для обнаружения контента, сгенерированного ИИ, и аутентификации официального контента.
- Создание передовой программы кибербезопасности для разработки инструментов ИИ для поиска и устранения уязвимостей в критически важном программном обеспечении.
Консорциум Института безопасности ИИ (AISIC)
Консорциум был создан для того, чтобы помочь бизнесу, академическим кругам и государственным учреждениям работать вместе для достижения этих целей, сообщает Reuters.
Администрация Байдена в четверг заявила, что ведущие компании в области искусственного интеллекта входят в число более чем 200 организаций, присоединившихся к новому консорциуму США для поддержки безопасной разработки и внедрения генеративного ИИ. Министр торговли Джина Раймондо объявила о создании Консорциума Института безопасности ИИ США (AISIC) […]
«Правительство США играет значительную роль в установлении стандартов и разработке инструментов, которые нам необходимы для снижения рисков и использования огромного потенциала искусственного интеллекта», — заявила Раймондо в своем заявлении […]
Консорциум представляет собой крупнейшую коллекцию команд по тестированию и оценке и сосредоточится на создании основ для «новой измерительной науки в области безопасности ИИ», — сообщило Министерство торговли.
Уже достигнуто одно соглашение, направленное на пресечение использования фальшивых изображений, сгенерированных ИИ. Крупные компании, стоящие за приложениями для генерации изображений, согласились включать цифровые водяные знаки в изображения, сгенерированные ИИ, чтобы их можно было легко идентифицировать как таковые.
Работа Apple в области ИИ шла довольно неторопливо, когда дело доходит до Siri, и, вероятно, это во многом связано с опасениями компании по поводу склонности генеративного ИИ к «галлюцинациям», то есть к созданию совершенно ложных заявлений.
Фото: Игорь Омиляев на Unsplash