| 20 декабря 2022 г. — 5:55 утра по тихоокеанскому времени
Обновление: TikTok сообщает, что сегодня запускает новый инструмент для обеспечения большей прозрачности в отношении того, как видео добавляются в ленту пользователя. Для любого видео вы можете нажать на панель «Поделиться», а затем на значок вопросительного знака под названием «Почему это видео?». Пока предлагаются только очень общие причины, например: «Это видео популярно в США», но компания обещает предоставить более детальную информацию позже…
Как работает алгоритм TikTok, вероятно, самый охраняемый секрет компании. Но WSJ, похоже, смог его выяснить, используя кучу бот-аккаунтов – и результаты оказались одновременно захватывающими и тревожными.
Бывший инженер Google, работавший над алгоритмом YouTube, говорит, что он использует тот же подход, но в менее экстремальной форме.
Официально TikTok заявляет, что использует четыре сигнала: что вы смотрите, чем делитесь, что лайкаете и на кого подписываетесь. Но анализ показал, что один из четырех сигналов является самым важным…
WSJ создал 13-минутное видео, чтобы поделиться своими выводами.
Мы выяснили, что TikTok нужен всего один из этих сигналов, чтобы понять вас: как долго вы задерживаетесь на контенте.
Каждую секунду, когда вы колеблетесь или пересматриваете, приложение отслеживает вас. С помощью этого одного мощного сигнала TikTok узнает ваши самые сокровенные интересы и эмоции и погружает вас в «кроличьи норы» контента, из которых трудно выбраться.
Опыт TikTok начинается одинаково для всех. Откройте приложение, и вы сразу увидите бесконечную цепочку видео в вашей ленте «Для вас». TikTok начинает показывать аккаунту подборку очень популярных видео, проверенных модераторами приложения.
Из них он работает над тем, чтобы определить ваши интересы.
WSJ запрограммировал ботов, чтобы у них был возраст, местоположение и набор конкретных интересов. Эти интересы никогда не вводились в приложение, а просто использовались в качестве основы для выбора видео, которые смотрел бот. Бот проверял каждое видео в своей ленте на наличие хэштегов или изображений, идентифицированных ИИ, связанных с его интересами. Затем он останавливал прокрутку, чтобы посмотреть эти видео, и пересматривал некоторые из них.
Газета обнаружила, что выбор видео и количество просмотров сузились от популярных видео на любую тему до тех, которые были тесно связаны с определенными интересами.
Результаты проанализировал специалист по данным и эксперт по алгоритмам Гийом Шасло, бывший инженер Google, работавший над алгоритмом YouTube.
Сейчас он выступает за прозрачность алгоритмов. Он говорит, что TikTok отличается от других социальных сетей.
«Алгоритм в TikTok может стать намного мощнее, и он сможет гораздо быстрее изучать ваши уязвимости».
На самом деле, TikTok полностью изучил интересы многих наших аккаунтов менее чем за два часа. Некоторые он выяснил менее чем за 40 минут.
Один бот был запрограммирован с «интересами» грусть и депрессия.
Менее чем через три минуты использования TikTok, на 15-м видео, [бот] kentucky_96 останавливается на этом [грустном видео о потере близких]. Kentucky_96 просматривает 35-секундное видео дважды. Здесь TikTok получает первое представление о том, что, возможно, новый пользователь в последнее время чувствует себя подавленным.
Информация, содержащаяся в этом одном видео, дала приложению важные подсказки. Автор видео, аудиодорожка, описание видео, хэштеги. После первого грустного видео kentucky_96 TikTok показывает еще одно через 23 видео, или примерно через четыре минуты просмотра.
Это видео о расставании с хэштегом #sad. TikTok все еще пытается разобраться в новом пользователе, показывая больше видео с высоким количеством просмотров [но] на 57-м видео kentucky_96 продолжает смотреть видео о разбитом сердце и обиженных чувствах. А затем на 60-м видео смотрит видео об эмоциональной боли.
На основе просмотренных нами видео TikTok предполагает, что, возможно, этот пользователь хочет видеть больше о любви, расставаниях и свиданиях. Поэтому примерно после 80 видео и 15 минут просмотра приложение начинает показывать больше о взаимоотношениях. Но kentucky_96 не интересуется.
Пользователь вместо этого останавливается на видео о психическом здоровье, затем быстро пролистывает видео о пропущенном бывшем, советы о том, как двигаться дальше, и о том, как удержать интерес возлюбленного. Но kentucky_96 задерживается на видео с хэштегом #depression и видео о страданиях от тревоги.
После 224 видео в общем путешествии бота, или примерно 36 минут общего времени просмотра, формируется понимание TikTok о kentucky_96. Видео о депрессии и проблемах с психическим здоровьем преобладают над видео о взаимоотношениях и расставаниях. С этого момента лента kentucky_96 представляет собой поток депрессивного контента. 93% видео, показанных аккаунту, посвящены грусти или депрессии.
TikTok заявляет, что поведение бота не отражает поведения реальных пользователей, но даже боты с разнообразными запрограммированными интересами очень быстро увидели, как их лента контента резко сузилась.
Учитывая огромную популярность TikTok, особенно среди подростков, это вызывает очевидные опасения. Человек в депрессивном состоянии может быть еще больше подавлен, просматривая поток такого контента. Теоретик заговора может прийти к выводу, что такие взгляды являются мейнстримом. Такой алгоритм, вероятно, будет подталкивать сторонников экстремистских взглядов ко все более экстремальному контенту.
TikTok, похоже, отдает приоритет вовлеченности над психическим здоровьем, и Шасло говорит, что YouTube делает что-то похожее, но в менее экстремальной форме. Это, безусловно, совпадает с моим опытом, когда просмотр нескольких видео подряд на одну и ту же тему часто, похоже, убеждает YouTube, что это теперь единственный мой интерес в жизни – хотя он, по крайней мере, сбрасывается.
Каково ваше мнение? Является ли такой алгоритм логичным или тревожным? Поделитесь своими мыслями в комментариях.