| 14 апреля 2022 года — 4:28 утра PT
Контент Instagram о расстройствах пищевого поведения продвигается детям в возрасте до 9 лет, согласно отчету группы по защите прав детей…
Алгоритмы рекомендуют контент, который поощряет экстремистские подходы к похудению, говорится в отчете Fairplay For Kids, озаглавленном Проектирование для расстройства: Про-РПП пузырь Instagram. В нем обвиняется материнская компания Instagram, Meta, в извлечении прибыли из этого вредоносного контента.
Алгоритмы профилируют детей и подростков, чтобы предлагать им изображения, мемы и видео, поощряющие ограничительные диеты и экстремальную потерю веса. И, в свою очередь, Instagram продвигает и рекомендует контент о расстройствах пищевого поведения для детей и подростков полумиллиону человек по всему миру. Продвижение и охват этого контента явно не отвечают наилучшим интересам детей и подростков.
«Пузырь» Meta, посвященный расстройствам пищевого поведения, не является ни единичным инцидентом, ни ужасной случайностью. Скорее, это пример того, как без надлежащего контроля и сдержек Meta систематически ставит прибыль выше безопасности и благополучия молодых людей. Решения Meta относительно размещения и рекомендации контента о расстройствах пищевого поведения могут приносить небольшую, но стабильную прибыль акционерам, но они имеют значительные реальные последствия для детей и молодых людей.
Документы, раскрытые в Facebook Files, показывают, что Meta знала об этой проблеме как минимум с 2019 года, но не приняла мер.
В отчете говорится, что масштаб проблемы огромен.
- «Пузырь», продвигающий расстройства пищевого поведения в Instagram, включает 90 000 уникальных аккаунтов и достигает 20 миллионов уникальных подписчиков на платформе. Это может быть каждый 75-й пользователь Instagram, который подписан на кого-либо в этом «пузыре».
- «Пузырь» молод. Исследование выявило, что дети в возрасте 9 и 10 лет подписываются на три или более аккаунтов, посвященных расстройствам пищевого поведения, при медианном возрасте 18 лет. Треть «про-РПП пузыря» Instagram составляют несовершеннолетние, и у них более полумиллиона подписчиков.
- Meta получает приблизительно 2 миллиона долларов дохода в год от этого «пузыря» и 227,9 миллиона долларов от всех, кто следует за этим «пузырем». Этот доход включает тот, который получен от несовершеннолетних пользователей – Meta напрямую зарабатывает 0,5 миллиона долларов в год на «про-РПП пузыре» несовершеннолетних и 62 миллиона долларов дохода от людей, которые подписаны на эти аккаунты несовершеннолетних, продвигающие расстройства пищевого поведения.
В отчете содержится призыв к законодателям штатов и федерального уровня принять меры, включая поддержку предложений, которые обяжут технологические платформы ставить интересы детей в приоритет.
Предложения, представленные на рассмотрение Ассамблеи Калифорнии (California Age Appropriate Design Code Act, AB 2773) и Конгресса (Kids Online Safety Act и Protecting the Information of our Vulnerable Children and Youth Act), могут помочь обеспечить проектирование и функционирование платформ таким образом, чтобы приоритет отдавался наилучшим интересам детей. Эти законопроекты не регулируют контент; они касаются дизайна и систем цифровых услуг. Эти меры давно назрели и явно необходимы для стимулирования действий против алгоритмов, продвигающих контент о расстройствах пищевого поведения. Подобное регулирование может ввести требования по оценке и снижению рисков, создаваемых алгоритмами, а также запретить использование данных детей для обучения вредоносных алгоритмов.
По материалам CNET