Европейский парламент призывает запретить массовую слежку с использованием искусственного интеллекта

29
Правительства превращают банду программ-вымогателей REvil в офлайн

Парламент ЕС проголосовал за резолюцию, которая, по сути, призывает к запрету на континенте биометрических технологий массового наблюдения, таких как системы распознавания лиц, на базе искусственного интеллекта.

Большое «нет» массовой слежке

Депутаты Европарламента (члены Европейского парламента) обеспокоены дискриминацией, предвзятостью и несправедливостью, которые возникают из-за прогнозной полицейской деятельности на основе ИИ, и их опасения основаны на многочисленных реальных примерах. Для истории, 377 Евродепутаты проголосовали , 248 против и 62 отсутствовали.

Поставщики решений для распознавания лиц на основе ИИ признали, что предвзятость алгоритмов преследовала их системы в течение многих лет, и прилагали усилия для решения этой проблемы с помощью различных наборов данных и оптимизации машинного обучения. Однако дискриминационные ставки все еще слишком высоки, чтобы быть приемлемыми в любом важном контексте развертывания.

Сегодняшним решением Европейский парламент требует ввести постоянный запрет на автоматическое распознавание людей в общественных местах и ​​запретить прогнозирование работы полиции на основе поведенческих данных.

Единственным исключением из запрета являются дела подозреваемых в совершении уголовных преступлений, но даже в этом случае использование баз данных распознавания лиц должно быть исключено из доступных инструментов, используемых для оправдания или доказательства вины этого человека. Clearview AI специально упоминается как пример того, чего следует избегать.

Наконец, MEP требуют более высокого уровня прозрачности, например, использования открытого исходного кода для алгоритмов обнаружения, что позволяет общественности контролировать все аспекты этих систем.

Петар Витанов, главный депутат Европарламента по этому вопросу, заявил следующее:

Основные права безусловны. Впервые мы призываем к мораторию на развертывание систем распознавания лиц в правоохранительных целях, поскольку эта технология оказалась неэффективной и часто приводит к дискриминационным результатам.

Мы категорически против прогнозирующей полицейской деятельности, основанной на использовании ИИ, а также против любой обработки биометрических данных, ведущей к массовому слежению. Это огромная победа для всех граждан Европы.

Системы искусственного интеллекта все еще в разработке

Хотя это важное событие и сильный шаг к защите прав человека в Европе, дело с развертыванием ИИ не закрыто.

«Закон об искусственном интеллекте» все еще обсуждается и разрабатывается, поэтому решение парламента ЕС сейчас играет лишь каталитическую роль. Депутаты Европарламента сообщают, что будет приемлемым и где они хотели бы видеть дополнительные меры безопасности.

В опубликованном сегодня соответствующем отчете Европейская комиссия заявляет, что намерена увеличить частные и государственные инвестиции в технологии искусственного интеллекта до 20 миллиардов евро в год.

В то время как законодательство, лежащее в основе этого массового внедрения, должно будет гарантировать, что все потенциальные злоупотребления, дискриминация и нарушения прав человека будут рассмотрены, системы на базе искусственного интеллекта все еще находятся на пути к тому, чтобы стать вездесущими в Европе.

В США полицейские системы с помощью ИИ и массовые системы распознавания лиц все еще не проверяются центральным органом и не контролируются всеобъемлющим законодательством, и в то же время темпы внедрения как в государственном, так и в частном секторах сейчас стремительно растут.

ОСТАВЬТЕ ОТВЕТ

Please enter your comment!
Please enter your name here