Недавно выяснилось, что компания Apple (точно так же, впрочем, как Amazon, Google, Microsoft и другие) доверяет прослушивание разговоров пользователей с голосовым помощникам посторонним людям. Это вызвало недовольство со стороны пользователей, поэтому она решила отказаться от услуг подрядчиков.

Работу потеряло несколько сотен жителей Европы, которые занимались прослушкой разговоров с Siri, помогая корректировать систему распознавания речи и увеличивать точность ответов ассистента. С начала августа эти подрядчики находились в оплачиваемом отпуске. В блоге Apple рассказывается, что отныне эта работа будет выполняться внутри компании (автоматическими системами или её сотрудниками). Это позволит избежать утечки конфиденциальной информации.

Известно, что посторонним людям попадали не только целенаправленные запросы к Siri, но также записи, сделанные случайно и содержащие в том числе конфиденциальную информацию. Apple тогда сообщила, что подрядчики анализируют крайне небольшую часть запросов и команд для повышения качества работы голосового помощника. Записи длятся не более нескольких секунд и обезличены, то есть не позволяют идентифицировать конкретных пользователей.

В блоге Apple объясняется, для чего компании необходимо прослушивать разговоры с Siri:

Чтобы точнее выполнять ваши индивидуальные запросы, Siri собирает и хранит определённую информацию о вашем устройстве. Например, когда Siri встречает редкое имя, для подтверждения его точности может использоваться список имён из ваших контактов.

Siri также использует данные о ваших взаимодействиях, в том числе аудиозаписи ваших запросов и их автоматические расшифровки. Иногда Apple использует эти данные в процессе машинного обучения, которое улучшает работу Siri.

До того как мы приостановили калибровку, она затрагивала небольшую часть (менее 0,2 процента) аудиозаписей запросов к Siri и их автоматических расшифровок. Калибровка помогала измерить точность ответов Siri и повысить их качество. Например, действительно ли пользователь хотел вызвать Siri? Насколько точно был распознан запрос? Соответствовал ли ответ Siri произнесённому запросу?

Изучив методы работы Siri, мы выяснили, что они не в полной мере соответствуют нашим высоким стандартам, и приносим за это извинения. Как уже было объявлено, мы остановили программу калибровки Siri. Эта программа возобновится ближайшей осенью вместе с выпуском обновлений ПО, но в неё будут внесены следующие изменения.

Во-первых, по умолчанию мы больше не будем хранить аудиозаписи взаимодействий с Siri. Для улучшения Siri мы будем использовать автоматические расшифровки.

Во-вторых, пользователи смогут отказаться от помощи в улучшении Siri путём отправки своих голосовых запросов. Мы надеемся, что многие пользователи решат продолжить свою помощь в улучшении Siri, зная о том, что Apple с уважением относится к их данным и применяет надёжные технологии защиты. Пользователи, согласившиеся оказать помощь, смогут отказаться от неё в любой момент.

В-третьих, если пользователь согласится участвовать в программе, аудиозаписи его взаимодействий с Siri будут доступны только сотрудникам Apple. Наша команда будет при первой возможности удалять любые записи, которые были ошибочно восприняты как вызовы Siri.

iGuides в Telegram — t.me/iguides_ru
iGuides в Яндекс.Дзен — zen.yandex.ru/iguides.ru