Соучредитель BLM рассказал техническим боссам, как бороться с расизмом в искусственном интеллекте

32
Швейцарская армия запрещает все чат-приложения, кроме местных Threema

По мере роста опасений по поводу расовых предубеждений в искусственном интеллекте соучредитель Black Lives Matter (BLM) Опал Томети призвала технический сектор принять быстрые меры против увековечения расизма в таких системах, как распознавание лиц.

Искусственный интеллект трансформирует мир и может применяться в различных секторах, от улучшения раннего выявления заболеваний до сортировки данных и решения сложных проблем, но это также вызывает опасения.

«Многие алгоритмы, многие данные являются расистскими», — заявил агентству Рейтер в кулуарах Лиссабонского веб-саммита американский активист Томети, соучредитель BLM в 2013 году.

«Нам нужны технологии, чтобы по-настоящему понять все, как он (расизм) проявляется в технологиях, которые они разрабатывают», — сказала она.

За последние несколько лет технологическая индустрия столкнулась с расплатой за этичность технологий искусственного интеллекта, и критики заявили, что такие системы могут поставить под угрозу конфиденциальность, нацеливаться на маргинальные группы и нормализовать навязчивое наблюдение.

Некоторые технологические компании признали, что некоторые системы распознавания лиц на основе искусственного интеллекта, популярные среди розничных продавцов и больниц в целях безопасности, могут иметь изъяны.

В среду Facebook объявил, что закрывает свою систему распознавания лиц из-за опасений по поводу ее использования. В прошлом году Microsoft заявила, что будет ждать федерального постановления, прежде чем продавать технологию распознавания лиц полиции.

Полиция США и Великобритании использует распознавание лиц для выявления подозреваемых. Но исследование, проведенное Национальным институтом стандартов и технологий США, показало, что эта технология не так точно распознает лица афро-американцев и азиатских людей по сравнению с лицами европеоидной расы.

В прошлом году первый известный неправомерный арест на основании неправильного распознавания лица произошел в Соединенных Штатах. Организация Объединенных Наций привела этот случай, связанный с тем, что этот инструмент в основном обучался на белых лицах, в качестве примера опасностей, связанных с отсутствием разнообразия в технологическом секторе.

Последнее обновление 11 месяцев назад — GameZoom

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest

0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии