Как Facebook распознает лица?

Автор

1. Ставрос Шиалес Старший преподаватель кибербезопасности Портсмутского университета

Заявление о раскрытии информации

Ставрос Шиалес не работает, не консультирует, не владеет акциями и не получает финансирование от какой-либо компании или организации, которые могли бы извлечь выгоду из этой статьи, и не раскрыл никаких соответствующих связей, кроме своей академической должности.

Партнеры

Университет Портсмута предоставляет финансирование в качестве члена The Conversation UK.

Facebook объявил, что прекратит использовать свою систему распознавания лиц — программное обеспечение искусственного интеллекта, которое распознает людей на фотографиях и видео и генерирует предложения о том, кого на них «пометить».

Системы распознавания лиц, такие как Facebook, идентифицируют людей, сопоставляя лица с цифровыми представлениями лиц, хранящимися в базе данных.Facebook хранит более миллиарда таких изображений, но теперь заявляет, что удалит их.

Это объявление было сделано всего через неделю после того, как материнская компания Facebook провела ребрендинг с Facebook на Meta. Изменение названия отражает сосредоточенность компании на «метавселенной», видении Интернета, в котором используются такие технологии, как виртуальная реальность, для интеграции реального и цифрового миров.

Смена названия, вероятно, также была связана с желанием очистить имидж Facebook. В последние годы гигант социальных сетей был втянут в ряд противоречий, пожалуй, наиболее заметным из которых стал скандал с Cambridge Analytica.

Это привело к тому, что приложение использовало платформу Facebook для сбора личных данных, принадлежащих миллионам пользователей Facebook, которые затем были переданы Cambridge Analytica, ныне несуществующей британской консалтинговой фирме. В 2018 году Управление комиссара по информации Великобритании, наблюдающее за защитой данных, оштрафовало Facebook на 500 000 фунтов стерлингов за участие в скандале.

Совсем недавно мы слышали, как бывший менеджер по продуктам Facebook Фрэнсис Хауген заявила, что платформа наносит вред детям, разжигает разногласия и подрывает демократию в погоне за быстрым ростом и «астрономической прибылью».

Мы могли бы задаться вопросом, является ли движение по распознаванию лиц попыткой представить новый, ответственный образ, ориентированный на уважение и защиту конфиденциальности пользователей.

Наши данные как золото

Присоединиться и использовать Facebook можно бесплатно, поэтому он полагается на другой ценный продукт для покрытия своих расходов — данные людей.

В рамках исследования моей команды мы получили разрешение от группы пользователей Facebook, и поисковые роботы (боты, которые систематически просматривают Интернет) собирают их сообщения и изображения — или сообщения и изображения, на которых они представлены. Используя алгоритмы машинного обучения на этих данных, мы смогли составить профиль их привычек и с высокой точностью предсказать, например, где они будут на следующий день.

В связанном исследовании мы рассмотрели посты на стене Facebook и, опять же, используя машинное обучение, смогли построить психологический профиль пользователей на основе их постов. То есть мы могли установить, когда они были грустны, счастливы и так далее.

Если я смогу собрать данные из Facebook с помощью относительно простой программы и сделать точные выводы, представьте, что Facebook может сделать со своим огромным объемом данных — в том числе из наших шаблонов лиц — и искусственным интеллектом.

Из-за опасений по поводу конфиденциальности этой технологии в 2019 году Facebook включил функцию распознавания лиц. В прошлом году Facebook согласился выплатить компенсацию в размере 650 миллионов долларов США (примерно 480 миллионов фунтов стерлингов) после судебного иска, в котором утверждалось, что его система распознавания лиц нарушила Закон штата Иллинойс о конфиденциальности биометрической информации.

В то время как многие могут истолковать объявление Meta как положительное событие, я вижу в нем удобное отвлечение внимания или, возможно, контрмеру против свидетельств осведомителей, представляющих компанию, которая ставит прибыль выше безопасности пользователей.

Также стоит отметить, что Facebook изо всех сил пытается удержать молодых пользователей, поэтому они, вероятно, ищут способы привлечь эту важную группу на платформу.

Это не прошло полностью

В объявлении Meta указано, что технология распознавания лиц будет ограничена «узким набором вариантов использования» в будущем. Это может включать проверку личности пользователя, чтобы, например, он мог получить доступ к заблокированной учетной записи.

Таким образом, Meta, как сообщается, сохраняет DeepFace, алгоритм, лежащий в основе ее технологии распознавания лиц. Представитель Meta Джейсон Гросс сказал, что компания не исключает использования технологии распознавания лиц в будущих продуктах. Примечательно, что Grosse также, как сообщается, заявила, что обязательство прекратить распознавание лиц не распространяется на ее продукты метавселенной.

Гроссе рассказал изданию Recode:

Мы считаем, что у этой технологии есть потенциал для обеспечения положительных вариантов использования в будущем, которые сохранят конфиденциальность, контроль и прозрачность, и это подход, который мы продолжим изучать, поскольку мы обдумываем, как наши будущие вычислительные платформы и устройства могут наилучшим образом удовлетворять потребности людей [ …] Что касается любых возможных будущих применений подобных технологий, мы продолжим публично сообщать о предполагаемом использовании, о том, как люди могут контролировать эти системы и свои личные данные, а также о том, как мы соблюдаем нашу концепцию ответственных инноваций.

Важно понимать, что когда человек попадает в среду виртуальной реальности в метавселенной, он генерирует ряд биометрических данных, выходящих далеко за рамки сканирования лица. Например, в зависимости от системы может быть возможно обнаруживать и собирать данные о движениях глаз, движениях тела, артериальном давлении, частоте сердечных сокращений и сведениях об окружающей среде пользователей.

В конечном счете искусственный интеллект, сопровождающий метавселенную, будет гораздо более сложным и, вероятно, принесет с собой новый набор проблем с конфиденциальностью данных.

• Искусственный интеллект (ИИ)
• Фейсбук
• Распознавание лиц
• Виртуальная реальность
• Конфиденциальность данных
• Информаторы
• Личные данные
• Кембридж Аналитика
• Шифрование данных
• Метавселенная
• Мета