Искусственный интеллект Facebook находится под пристальным вниманием в Европе

Опубликовано: 2019-10-25

Главный контролирующий орган по защите личных данных в Европе запрашивает у Facebook информацию о том, как в приложении Messenger работает функция преобразования голоса в текст, и как она соответствует законодательству ЕС.

По информации компании Bloomberg, Facebook привлекает исполнителей для расшифровки аудиосообщений пользователей приложения. Тем не менее, в политике конфиденциальности не обозначено, что другие люди могут непосредственно прослушивать записи.

На странице справочного центра Facebook также упоминается, что «используется машинное обучение для преобразования голоса в текст». Но нигде не указано, что эта функция поддерживается за счет человеческого прослушивания.

Представитель Ирландской комиссии по защите данных прокомментировал: «Мы постоянно взаимодействуем с Google, Apple и Microsoft по вопросам обработки персональных данных в случае ручной расшифровки аудиозаписей. Теперь по этому вопросу мы запрашиваем подробную информацию от Facebook, соответствует ли такая обработка данных положениям Общего регламента ЕС по защите персональных данных.

Также внимание европейских регуляторов привлекли аналогичные разработки искусственного интеллекта от других технологических гигантов, включая Apple, Amazon, Google и Microsoft.

Шумиха вокруг голосовых помощников ИИ возникла неспроста. Разные источники озвучивают мнение, что технологии машинного обучения — это маркетинговое пустозвонство, за которым скрывается использование человеческого труда, чтобы технология соответствовала требованиям.

Подобные истории случались и раньше. Так, десять лет тому назад британский стартап Spinvox бахвалился своей передовой технологией распознавания голоса для преобразования голосовой почты в текстовые сообщения. Вот только всю работу выполняли колл-центры в Южной Африке и на Филиппинах, укомплектованные… настоящими людьми.

Возвращаемся к современным «новейшим» технологиям. Facebook заявил, что больше не привлекает человеческие ресурсы для расшифровки. Ручные проверки аудиофрагментов прекратились. Amazon также внес правки в настройки Alexa, позволяющие отключить эту функцию.

Очень важный вопрос: где в мессенджере Facebook информировал пользователей о том, что для расшифровки голосовых чатов или аудиосообщений пользователей могут привлекаться люди? И как компания раньше собирала согласие пользователей приложения на такой способ обработки данных? Ответа на эти вопросы нет. Только заявление представителя компании, что «вслед за Apple и Google мы приостановили рецензирование аудио с помощью человеческих ресурсов».

И добавили, что отсылаемые подрядчикам аудиофрагменты были зашифрованы и обезличены так, что их невозможно было идентифицировать. И записи собирались только в том случае, когда пользователи подключали функцию транскрибации в мессенджере. И эти данные использовались только для улучшения производительности функции расшифровки.  

Также представители компании развеяли опасения о прослушке, заявив, что микрофоны на устройствах никогда не прослушиваются без разрешения или сознательной активации пользователя.

Ключевой вопрос – как Facebook собирает разрешение на обработку данных?

Например, известны случаи, когда компания путем манипуляций подталкивала европейских пользователей к подключению технологии распознавания лиц. Несмотря на вмешательство регулирующих органов, требующих чтобы эта технология была отключена.

Многое зависит от того, как сформулирована политика обработки данных, в котором Facebook просит пользователей дать согласие на проверку их голосовых сообщений людьми (при условии, что компания полагается на согласие в качестве правовой основы для обработки этих данных).

Если включить это согласие в общее пользовательское соглашение, это вряд ли будет соответствовать законодательству ЕС о защите частной жизни. Такое согласие должно быть целевым, полностью доведенным до сведения и добровольным.

Если Facebook планирует соответствовать требованиям законодательства при обработке аудиосообщений пользователей мессенджера, компании следует учитывать требования к конфиденциальности.

Проблема также в том, что искусственный интеллект может собирать персональные данные остальных людей, которые не являются пользователями мессенджера. Например, если человек находится поблизости от чужого устройства. А ведь такие люди никаких согласий на прослушивание не давали.

Вспомним утечку фрагментов Google Assistant весьма деликатного характера в бельгийскую прессу. Журналисты смогли идентифицировать некоторых людей в записях.

Многие СМИ также указывали, что нанятые технологическими гигантами подрядчики регулярно подслушивают интимные подробности, полученные с помощью аудиозаписи, а потом передают эти личные данные в облако для обработки.

Читайте также: Расшифровка аудиозаписей


 
нужен
перевод?
заказать онлайн
+7 (495) 995 7253
info@swan-swan.ru