| 14 ноя 2019 — 4:18 утра по тихоокеанскому времени
Сенатор США и кандидат в президенты Элизабет Уоррен заявила, что «сексистский» алгоритм Apple Card должен быть отозван, если заявленная предвзятость не может быть объяснена…
Предыстория
Споры начались, когда создатель Ruby on Rails Дэвид Ханссон написал в Твиттере, что Goldman Sachs предоставил ему кредитный лимит Apple Card в 20 раз выше, чем его жене, несмотря на то, что их активы были общими, и у нее на самом деле лучший кредитный рейтинг, чем у него.
Соучредитель Apple Стив Возняк сообщил о том же, отметив в своем случае, что его лимит в 10 раз выше, чем у его жены, опять же, несмотря на общие активы, которые должны делать их одинаково кредитоспособными.
Ханссон сказал, что, хотя проблема была решена после того, как его твит стал вирусным, это ставит под вопрос алгоритм, используемый для определения кредитных лимитов Apple Card.
Я не считаю, что был какой-то злонамеренный человек, желающий дискриминировать. Но это не имеет значения. Как вы узнаете, что нет проблемы с алгоритмом машинного обучения, когда никто не может объяснить, как было принято это решение?
Ответ Goldman Sachs на обвинения в сексизме Apple Card
Банк первоначально выпустил краткое заявление, в котором говорилось, что кредитная линия каждого человека оценивается индивидуально на основе ряда факторов, включая доход, кредитный рейтинг, долг и то, как управлялись долги. Учитывая все это, по их словам, разным членам семьи могут быть предложены разные лимиты.
Когда споры не утихли, Goldman выпустил новое заявление, в котором говорилось, что его система оценки не знает о поле или семейном положении заявителя, и предложил пересмотреть кредитный лимит любому, кто считает, что была допущена ошибка.
Элизабет Уоррен высказалась
Уоррен разделяет опасения Ханссона относительно того, что Goldman, по-видимому, не может объяснить, как работает алгоритм, или почему Apple Card выглядит сексистской при определении кредитных лимитов, сообщает Reuters.
Сенатор США Элизабет Уоррен поставила под сомнение ответ Goldman Sachs на обвинения в предвзятости в том, как банк оценивает заявителей на кредитную карту Apple Inc, предполагая, что алгоритм следует отозвать, если его нельзя объяснить, как сообщила в среду Bloomberg.
Она отвергла нынешнюю позицию банка, предлагающую людям обращаться в службу поддержки клиентов, если они недовольны своим кредитным лимитом.
Компания обязана предоставить информацию о том, как был разработан этот алгоритм, и о его точном влиянии, — заявила кандидат в президенты от Демократической партии, добавив, что «если они не смогут этого сделать, им следует его отозвать».
«Мы начинаем лучше понимать, что алгоритмы хороши настолько, насколько хороши данные, которые в них загружаются», — добавила Уоррен.
До сих пор эмитент Apple Card лишь повторял свое заявление о том, что процесс не является сексистским.
Goldman Sachs не принимал и никогда не будет принимать решения, основанные на таких факторах, как пол, раса, возраст, сексуальная ориентация или любые другие юридически запрещенные факторы при определении кредитоспособности.
Ранее Уоррен обвиняла Apple в попытке «душить конкуренцию» и призывала к разделению технологических гигантов. В случае с Apple, по ее словам, компания не должна иметь возможности управлять App Store и предлагать свои собственные приложения.