| 20 мая 2021 г. — 7:17 утра по тихоокеанскому времени
Tinder начинает внедрять функцию, предназначенную для обнаружения подозрительных сообщений в Tinder до их отправки. Авторов неуместных сообщений будут спрашивать, действительно ли они хотят их отправить — и, как ни удивительно, этот мягкий подход действительно работает…
Компания сделала это заявление сегодня.
Tinder запускает функцию «Вы уверены?» (AYS?) — первую в своем роде в сфере знакомств, которая снижает уровень домогательств в приложении [которая] служит в реальном времени предупреждением, чтобы дважды подумать о своей первой фразе.
Она использует ИИ для обнаружения вредоносных высказываний и проактивно вмешивается, чтобы предупредить отправителя, что его сообщение может быть оскорбительным, прося его сделать паузу перед отправкой. ИИ был создан на основе того, о чем сообщали участники в прошлом, и будет продолжать развиваться и улучшаться со временем.
AYS? дополняет набор инструментов для снижения вреда, которые Tinder уже использует, включая «Вас это беспокоит?», которая обеспечивает проактивную поддержку участникам при обнаружении вредоносных высказываний в полученном ими сообщении. Все это способствовало увеличению количества совпадений и более длительным беседам в самый загруженный год для приложения.
Я не совсем уверен, зачем для этого нужен ИИ; можно было бы подумать, что простого сопоставления ключевых слов будет достаточно для обнаружения большинства оскорбительных и неуместных сообщений, тем более что их авторы, как правило, не славятся своей креативностью или литературным талантом. Но должен признать, мне нравится идея использования искусственного интеллекта для обнаружения сообщений, отправленных людьми, которым не хватает настоящего.
Можно было бы подумать, что любого, кто достаточно груб, чтобы отправить сообщение с ненавистью, не остановит простой запрос «Вы уверены?», но Tinder утверждает, что это так.
По предварительным данным, функции снижения вреда Tinder создают лучшую среду для всех. Участники, которые видели запрос AYS?, реже сообщали о неуместных сообщениях в течение следующего месяца, что указывает на то, что AYS? меняет долгосрочное поведение, а не только поведение в одном разговоре…
Предварительные результаты этих функций показывают нам, что правильно проведенное вмешательство может быть очень значимым в изменении поведения и создании сообщества, где каждый чувствует, что может быть самим собой.
Возможно, идиоты понимают, что если даже приложение поднимает бровь, значит, пора заняться чем-то более продуктивным.
Этот шаг был приветствован RAINN (Национальная сеть по борьбе с изнасилованием, насилием и инцестом).
«Передавая свои ожидания уважительного общения и позволяя пользователям на мгновение задуматься над сообщением, которое может обидеть, Tinder вовлекает свое сообщество в создание более безопасной платформы. А предоставляя пользователям простой способ сигнализировать о сообщениях с домогательствами, этот новый инструмент поможет Tinder идентифицировать — и принимать меры против — тех пользователей, которые не хотят действовать ответственно», — сказал Скотт Берковиц, президент RAINN. «Мы рады предварительным результатам этих новых инструментов и надеемся, что они будут распространены на всех пользователей Tinder».
Tinder уже некоторое время работает над тестированием ряда инструментов, призванных сделать приложение более привлекательным для женщин. Еще в 2018 году компания попробовала вариант для женщин, который гарантировал, что только они могут инициировать контакт, а в прошлом году внедрила верификацию Tinder и функцию кнопки паники.