Как мы узнаем, что кто-то достаточно взрослый, чтобы использовать наши приложения?

Согласно нашим условиям, мы требуем, чтобы люди были не моложе 13 лет, чтобы зарегистрироваться в Facebook или Instagram. В некоторых странах минимальный возраст выше. Когда люди открывают наши приложения, чтобы зарегистрировать учетную запись, мы спрашиваем у них день рождения. Это называется возрастной экран.Тем, кто не достиг совершеннолетия, не разрешается регистрироваться, и мы ограничиваем людей, которые неоднократно пытаются ввести разные дни рождения на экране возраста. Но проверить чей-то возраст не так просто, как может показаться. В то время как возрастные экраны распространены в нашей отрасли, молодые люди могут — и часто делают — обойти их, искажая свой возраст. Итак, как мы решаем эту проблему?

Понимание возраста людей в Интернете является сложной задачей в нашей отрасли, и у нас уже есть различные методы поиска и удаления учетных записей, используемых людьми, которые неверно представляют свой возраст. Например, любой может сообщить нам об учетной записи несовершеннолетнего. Наши рецензенты также обучены помечать зарегистрированные учетные записи, которые, по всей видимости, используются несовершеннолетними. Если эти люди не могут доказать, что они соответствуют нашим минимальным возрастным требованиям, мы удаляем их учетные записи.

Многие утверждают, что сбор удостоверений личности является ответом на эту отраслевую проблему, но у этого подхода есть существенные ограничения: у многих молодых людей нет удостоверений личности, сбор удостоверений личности не является справедливым или равноправным решением и не является надежным. Доступ к правительственным удостоверениям личности зависит от того, в какой части мира вы живете, как и информация, содержащаяся в удостоверении личности, например день рождения. У некоторых есть доступ к удостоверениям личности, но они не получают их, если не решат путешествовать, а некоторые просто не могут себе этого позволить. Действительно, отсутствие доступа к удостоверениям личности непропорционально сказывается на малообеспеченных сообществах по всему миру, особенно на молодых женщинах. Даже если у них было удостоверение личности, некоторым молодым людям может быть неудобно им делиться. Например, возможно, это молодой член сообщества ЛГБТК+, и они беспокоятся о том, что их личность будет привязана к псевдонимной учетной записи.

Хотя это не новые проблемы, требующие решения, мы продолжим инвестировать в поиск правильных решений. Нам нужно удерживать людей, которые слишком молоды, от Facebook и Instagram, и мы хотим убедиться, что те, кто находятся достаточно взрослые, получают соответствующий для своего возраста опыт.Сегодня мы делимся тем, как мы решаем эту проблему с разных сторон. Вот несколько примеров.

Использование ИИ для определения возраста

Искусственный интеллект — краеугольный камень нашего подхода. Мы разработали технологию, которая позволяет нам оценивать возраст людей, например, если кому-то меньше или больше 18 лет. Мы обучаем технологию, используя несколько сигналов. Мы смотрим на такие вещи, как люди, поздравляющие вас с днем ​​​​рождения, и возраст, указанный в этих сообщениях, например: «С 21-м днем ​​рождения!» или «Счастливой Кинсеаньеры». Мы также смотрим на возраст, который вы сообщили нам на Facebook, и применяем его к другим нашим приложениям, в которых вы связали свои учетные записи, и наоборот — поэтому, если вы поделитесь с нами своей датой рождения на Facebook, мы будем использовать то же самое для вашей связанной учетной записи. в Инстаграм. Эта технология не идеальна, и мы постоянно работаем над ее улучшением, но именно поэтому важно, чтобы мы использовали ее вместе со многими другими сигналами для определения возраста людей.

Эта технология также лежит в основе важных изменений, которые мы вносим для обеспечения безопасности молодых людей. Мы используем его, чтобы взрослые не могли отправлять сообщения молодым людям, которые не подписаны на них в Instagram. И сегодня мы объявили, что больше не будем показывать сообщения из учетных записей молодых людей или сами учетные записи взрослым, которые продемонстрировали потенциально подозрительное поведение. Мы планируем применять эту технологию во всех наших приложениях, чтобы создавать более подходящие для возраста возможности и меры безопасности для молодых людей. Мы также создаем аналогичную технологию для поиска и удаления учетных записей, принадлежащих людям младше 13 лет.

Мы сосредоточены на использовании существующих данных для информирования нашей технологии искусственного интеллекта. Там, где мы чувствуем, что нам нужно больше информации, мы разрабатываем меню вариантов, чтобы кто-то мог подтвердить свой возраст. Это незавершенная работа, и со временем у нас будет чем поделиться.

Работа с отраслевыми партнерами

Мы также обсуждаем с более широкой технологической отраслью, как мы можем работать вместе, чтобы обмениваться информацией способами, сохраняющими конфиденциальность, которые помогают приложениям определять, являются ли люди старше определенного возраста. Одной из областей, которая, по нашему мнению, имеет реальные перспективы, является работа с поставщиками операционных систем (ОС), интернет-браузерами и другими поставщиками, чтобы они могли обмениваться информацией, чтобы помочь приложениям определить, является ли кто-то подходящим возрастом.

Это имеет двойное преимущество: помогает разработчикам не допускать несовершеннолетних к своим приложениям и устраняет необходимость проходить различные и потенциально громоздкие процессы проверки возраста в нескольких приложениях и службах. Хотя в конечном итоге отдельные приложения и веб-сайты должны применять свою возрастную политику и соблюдать свои юридические обязательства, сотрудничество с поставщиками ОС, интернет-браузерами и другими было бы полезным дополнением к этим усилиям.

Создание опыта для людей младше 13 лет

Мы также ищем способы уменьшить стимулы для лиц младше 13 лет лгать о своем возрасте. Реальность такова, что они уже в сети, и не имея надежного способа помешать людям неверно указывать свой возраст, мы хотим создать опыт, разработанный специально для них, управляемый родителями и опекунами. Это включает в себя новый интерфейс Instagram для подростков. Мы считаем, что поощрять их использовать опыт, соответствующий их возрасту и управляемый родителями, — это правильный путь. Потребуется целая деревня, чтобы сделать этот опыт достаточно убедительным, чтобы эта возрастная группа хочет использовать его, но мы полны решимости сделать это правильно.

Работа с экспертами

Мы считаем, что этот всеобъемлющий план является правильным для Facebook и Instagram, но у читателей возникает естественный вопрос: как мы собираемся делать все таким образом, чтобы уважать конфиденциальность людей и уделять первостепенное внимание безопасности на каждом шагу? Нам повезло привлечь сюда многих отраслевых экспертов, организаций и исследовательских групп.

Во-первых, чтобы помочь нам разработать новые продукты и функции для молодежи, в 2017 году мы собрали группу экспертов в области онлайн-безопасности, развития детей и детских СМИ, чтобы поделиться своим опытом, исследованиями и рекомендациями. Эта группа, известная как «Молодежные консультанты», помогает формировать нашу работу, предоставляя отзывы о разработке новых продуктов и политик для молодежи. Мы регулярно встречаемся с группой, в которую входят Институт семейной онлайн-безопасности, Лаборатория цифрового здоровья, MediaSmarts, Project Rockit и Исследовательский центр киберзапугивания.

Недавно мы расширили эту группу, добавив новых экспертов в области конфиденциальности, развития молодежи, психологии, воспитания детей и молодежных СМИ, и будем продолжать расширяться, чтобы включить в нее широкий спектр глобальных точек зрения. В число наших новых членов входят: Ютта Кролл из Stiftung Digitale Chancen, Патти Гонсалвес из Sangath – It’s Okay To Talk, Вики Шотболт из ParentZone UK, доктор Альфи М. Бреланд-Ноубл из AAKOMA Project, Рэйчел Роджерс из Северо-восточного университета, Дженис Уитлок из Корнелла. University и Амелия Вэнс на форуме Future of Privacy Forum.

Далее, мы продолжаем приветствовать продуктивное сотрудничество с законодателями и выборными должностными лицами, которые направляют нас. Проверка возраста является центральным элементом множества новых и предлагаемых нормативных рамок по защите данных, онлайн-вреду и безопасности детей. В частности, Кодекс дизайна, соответствующий возрасту ICO, Конвенция ООН о правах ребенка, Основы защиты детей Ирландии и Директива ЕС об аудиовизуальных медиа-услугах, среди прочего, лежат в основе нашей работы по созданию стандартов конфиденциальности и безопасности для создание молодежных продуктов в Facebook. Мы планируем опубликовать эти стандарты в ближайшие месяцы.

Наконец, мы продолжим участвовать в диалогах о проверке возраста, разработке лучших отраслевых практик и формировании новых технических стандартов.Например, недавно мы присоединились к Консультативному совету консорциума euCONSENT, чтобы помочь разработать общеевропейскую инфраструктуру для онлайн-проверки возраста и согласия родителей.

Это сложная территория с конкурирующими интересами и соображениями. Мы стремимся работать с экспертами и более широкой отраслью, чтобы предоставить молодым людям привлекательный и безопасный опыт использования наших услуг.