Facebook приносит свои извинения после того, как Amnesty International отметила «приматов» на видео с чернокожими мужчинами

Пользователи Facebook, которые недавно просмотрели видео из британской газеты, на котором показаны чернокожие мужчины, увидели автоматическую подсказку социальной сети с вопросом, хотят ли они «продолжать смотреть видео о приматах», в результате чего компания исследовала функцию на основе искусственного интеллекта и отключила Push-сообщения. .

В пятницу Facebook извинился за то, что он назвал «неприемлемой ошибкой», и сказал, что изучает функцию рекомендаций, «чтобы предотвратить повторение этого снова».

Видео, датированное 27 июня 2020 года, было опубликовано The Daily Mail и показало кадры, на которых чернокожие мужчины дрались с белыми гражданскими лицами и полицейскими. Это не имеет ничего общего с обезьянами или приматами.

Дарси Гроувс, бывший директор по дизайну контента Facebook, сказала, что друг недавно прислал ей снимок экрана с маршрутизатором. Затем я разместил его на форуме отзывов о продуктах для нынешних и бывших сотрудников Facebook. В ответ менеджер по продукту Facebook Watch, видеосервиса компании, назвал это «неприемлемым» и сказал, что компания «изучает первопричину».

Г-жа Гроувс сказала, что заявление было «ужасающим и ужасающим».

«Как мы уже говорили, хотя мы и внесли улучшения в наш ИИ, мы знаем, что он не идеален, и нам еще предстоит продвинуться вперед. Мы приносим извинения всем, кто, возможно, видел эти оскорбительные рекомендации», – заявила пресс-секретарь Facebook Дэнни Левер. заявление.

Google, Amazon и другие технологические компании в течение многих лет находились под пристальным вниманием к предвзятости в их системах искусственного интеллекта, особенно по вопросам расы. учеба У вас есть показано что технология распознавания лиц настроена против цветных людей и имеет больше проблем с их распознаванием, что приводит к инцидентам, когда чернокожие подвергаются дискриминации или Он был арестован из-за ошибки компьютера.

В одном примере в 2015 году Google Фото Фотографии чернокожих людей были ошибочно помечены как «гориллы», и Google сказал, что ему «очень жаль», и мы постараемся немедленно решить эту проблему. Спустя более двух лет проводной Я обнаружил, что решение Google заключалось в том, чтобы подвергнуть цензуре слово «горилла» из поисковых запросов, запретив при этом «шимпанзе», «шимпанзе» и «обезьяна».

Facebook имеет один из крупнейших в мире хранилищ загруженных пользователями изображений для обучения алгоритмам распознавания лиц и объектов. Компания, которая разрабатывает контент для пользователей на основе их прошлых привычек просмотра и просмотра, иногда спрашивает, хотят ли они и дальше видеть сообщения в соответствующих категориях. Было неясно, были ли распространены такие сообщения, как «приматы».

Facebook владеет собственным приложением для обмена фотографиями Instagram. Он боролся с другими проблемами, связанными с расой.. Например, после июльского чемпионата Европы по футболу трое членов национальной сборной Англии по футболу подверглись расистским оскорблениям в социальной сети за провал серии пенальти в матче чемпионата.

Расовые вопросы также вызвали внутренний конфликт в Facebook. В 2016 году Марк Цукерберг, генеральный директор, Спросите у персонала Прекратить удаление «Black Lives Matter» и замену его «All Lives Matter» в публичном месте в штаб-квартире компании в Менло-Парке, Калифорния. Сотни сотрудников тоже Они организовали виртуальную забастовку В прошлом году в знак протеста против обработки компанией сообщения президента Дональда Трампа об убийстве Джорджа Флойда в Миннеаполисе.

Позже компания наняла вице-президента по гражданским правам и освободила ее. Аудит гражданских прав. в Годовой отчет о разнообразии В июле Facebook сообщил, что 4,4 процента его сотрудников в США – чернокожие, по сравнению с 3,9 процента годом ранее.

Г-жа Гроувс, которая покинула Facebook летом после четырех лет, заявила в интервью, что серия оплошностей в компании указала на то, что решение расовых проблем не было приоритетом для ее руководителей.

«Facebook не может продолжать делать эти ошибки, а затем говорить:« Мне очень жаль », – сказала она.