Пылесосы Roomba собирали конфиденциальные изображения, такие как изображение женщины, сидящей на сиденье унитаза, и, как сообщается, ими делились люди, которым было поручено обучать роботизированную систему уборки. Вот что касается части. В августе 2022 года Amazon выделила 1,7 миллиарда долларов на покупку iRobot. Теперь история Amazon с конфиденциальностью сама по себе довольно отрывочна. Несколько расследований, проведенных чуть более года назад, показали, что Amazon довольно безответственно обращается с конфиденциальными данными клиентов.
Согласно документам, с которыми ознакомился MIT Technology Review, изображения, сделанные роботами-пылесосами Roomba, были распространены среди подрядчиков, которым было поручено маркировать их, в Discord и Facebook, среди других мест. iRobot утверждает, что просочившиеся изображения были сняты с помощью тестового оборудования, для которого добровольцы согласились предоставить аудиовизуальные данные. Эти обучающие данные, снятые бортовыми камерами робота-уборщика, были собраны iRobot, а затем отправлены в стартап Scale AI, который нанимает рабочих по контракту, чтобы маркировать их для понимания ИИ.
Остерегайтесь вашего дружелюбного робота-пылесоса
я робот
Процесс аннотирования данных для ИИ обычно передается низкооплачиваемым работникам в Азии и Африке через подрядчиков. Примечательно, что ничто из этого не было аппаратным обеспечением потребительского уровня, которое продается на коммерческой основе. iRobot заявляет, что, разрешив распространение конфиденциальных медиа, Scale AI нарушила свою политику конфиденциальности, и что две компании разрывают свои профессиональные связи после инцидента. Scale AI также признала, что ее сотрудники, маркирующие данные, нарушили кодекс поведения.
Компания, которая скоро станет Amazon, также утверждает, что эти «специальные роботы для разработки с аппаратными и программными модификациями» также поставляются с соглашениями для добровольцев, в которых им прямо говорится, что их данные отправляются в целях обучения. Кроме того, им посоветовали избегать чувствительных предметов и детей в местах, где роботы перемещаются, чтобы снимать фотографии, видео и аудиоклипы. Вызывает тревогу то, что 95 процентов данных iRobot собирает в реальных домах, при этом большинство добровольцев являются наемными работниками или наняты подрядчиками для оплачиваемых домов. Лишь небольшая часть этих обучающих данных ИИ собирается из искусственных домов, созданных в качестве моделей в тестовом наборе.
Просочившиеся изображения, 15 из которых были опубликованы MIT Technology Review, были собраны в 2020 году в домах, расположенных в США, Японии, Франции и Германии, а также в других странах. iRobot утверждает, что вся идентифицирующая информация о человеке удаляется из обучающих данных. Он автоматически удаляет весь журнал, если какие-либо изображения кажутся деликатными по своей природе, например, изображающие личные моменты или любое состояние наготы. Однако неясно, удаляются ли такие изображения автоматически, или их сначала видит модератор-человек, а затем решает предпринять необходимые действия.
Довольно тревожный вывод из саги iRobot заключается в том, что эти утечки произошли на этапе тестирования разрабатываемого робота-уборщика, когда добровольцам сообщают, во что они ввязываются. Для коммерчески доступных устройств, таких как Roomba, большинство людей даже не удосуживаются подробно прочитать условия сбора данных и могут в конечном итоге невольно передать массу личных данных корпорациям со слабыми мерами безопасности данных.
Последнее обновление 05.01.2023
