| 22 февраля 2024 г. — 6:36 утра по тихоокеанскому времени
Растет осознание угроз, связанных с искусственным интеллектом (ИИ), поскольку компании все активнее внедряют эту технологию. В ответ на это Министерство юстиции США назначило своего первого сотрудника правоохранительных органов, специализирующегося на ИИ…
Минюст США назначил сотрудника по ИИ
Reuters сообщает о назначении на эту должность профессора Принстонского университета.
Джонатан Майер, профессор Принстонского университета, занимающийся исследованиями технологий и права, будет занимать пост главного научного и технологического советника и главного специалиста по ИИ, заявили в ведомстве.
«Министерство юстиции должно идти в ногу с быстро развивающимися научными и технологическими разработками, чтобы выполнить нашу миссию по поддержанию верховенства права, обеспечению безопасности нашей страны и защите гражданских прав», — заявил в своем заявлении генеральный прокурор Меррик Гарланд.
Риск использования ИИ для содействия в совершении преступлений, таких как мошенничество и даже разработка опасных биохимикатов, был недавно освещен Белым домом. Apple была одной из более чем 200 компаний и других организаций, откликнувшихся на исполнительный указ президента, направленный на решение этой проблемы.
Минюст заявляет, что Майер будет заниматься обеими сторонами ИИ: его использованием преступниками, а также использованием его США для противодействия угрозам со стороны террористов и враждебных государств.
Заместитель генерального прокурора Лиза Монако заявила, что технология может помочь Соединенным Штатам выявлять и пресекать террористические акты и враждебные действия со стороны противников США. Однако она также отметила, что ведомство обеспокоено потенциалом ИИ в усилении существующей предвзятости, вмешательстве в выборы и создании новых возможностей для киберпреступников.
«Каждая новая технология — это палка о двух концах, но ИИ, возможно, самый острый клинок из всех», — сказала Монако.
Призыв к действиям против дипфейков
Отдельно, Mashable сообщает, что сотни ученых, политиков и технологических лидеров подписали открытое письмо, выражающее обеспокоенность рисками так называемых дипфейков — сгенерированных ИИ поддельных видео, которые могут заставить любого сказать что угодно.
Помимо очевидных рисков мошенничества, существует обеспокоенность использованием дипфейков для влияния на выборы путем создания ложных компрометирующих заявлений или компрометирующих действий кандидатов. Кроме того, есть опасения, что даже полностью вымышленные материалы, сгенерированные ИИ, могут нормализовать насилие над реальными детьми.
Открытое письмо, которое может подписать любой желающий, призывает к принятию законодательства для решения этих проблем.
Новые законы должны:
- Полностью криминализировать дипфейк-порнографию с участием детей, даже если изображены только вымышленные дети;
- Установить уголовную ответственность для всех, кто сознательно создает или сознательно способствует распространению вредоносных дипфейков; и
- Обязать разработчиков программного обеспечения и дистрибьюторов предотвращать создание вредоносных дипфейков с помощью их аудио- и визуальных продуктов и нести ответственность, если их превентивные меры могут быть слишком легко обойдены.
Фото: Kanchanara на Unsplash