Facebook принял людей на видео за приматов, компании пришлось извиниться - ФОТО

Система искусственного интеллекта (ИИ) соцсети Facebook приняла за приматов людей на видеоролике в публикации издания Daily Mail. Через некоторое время после того, как многочисленные пользователи заметили этот факт и распространили скриншоты с роликом и уведомлением от ИИ на других платформах, администрация Facebook принесла извинения за ошибку в работе системы и отключила ее для всех пользователей на время расследования.

27 августа в публикации британской газеты Daily Mail в социальной сети Facebook появилось видео, содержащее отрывки двух отдельных инцидентов, произошедших ранее в США. На нем было показано, как чернокожий мужчина спорил с другим человеком и с полицейскими перед задержанием.

ИИ соцсети выдали к ролику автоматическое текстовое уведомление, на котором пользователям предлагалось "продолжить смотреть еще видео о приматах". На это обратила внимание Дарси Гроувс, бывший менеджер по контентному дизайну Facebook. Именно она запросила своих бывших коллег оперативно принять меры и удалить некорректные выражения из публикации.

Некоторые пользователи Twitter пояснили, что технически ИИ не ошибся, так как люди относятся к отряду приматов. Другие предположили, что система не фиксировала цвет кожи, а оценивала поведение человека, так что это мог быть и белый.

Представитель Facebook заявил, что данная система не идеальна и постоянно дорабатывается. В компании пояснили, что не хотели никого обидеть "неприемлемыми" автоматическими рекомендациями. Разработчики системы назвали это "недопустимой ошибкой" и пообещали принять меры по исправлению работы алгоритма анализа видео и выдаче уведомлений, чтобы "предотвратить повторение этого снова".

Источник: habr.com