Apple будет искать детское порно в загружаемых пользователями iPhone и iPad фотографиях

Корпорация Apple намерена внедрить в программное обеспечение своих устройств в США технологию обнаружения в них изображений с детским порно. Об этом говорится в сообщении самой Apple.

"iOS и iPadOS будут использовать новые криптографические приложения, чтобы ограничить распространение материалов о сексуальном насилии над детьми в интернете, при этом обеспечивая конфиденциальность пользователей. Обнаружение таких материалов поможет Apple предоставить правоохранительным органам ценную информацию о его коллекциях в iCloud Photos", — заявили в компании.

В Apple уточняют, что собираются сообщать о случаях обнаружения такого контента в американский Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC).

При этом вместо сканирования изображений в облаке система будет сопоставлять их с хэш-суммами (цифровыми отпечатками) изображений сексуального характера с участием детей из базы данных NCMEC и других организаций, занимающихся безопасностью детей.

Процесс сопоставления этого изображения с известными хэшами детского порно будет производиться перед тем, как изображение будет сохранено в iCloud Photos.

"Этот процесс сопоставления основан на криптографической технологии, называемой пересечением частных наборов, которая определяет, есть ли совпадение, не раскрывая результат. Устройство создает ваучер криптографической безопасности, который кодирует результат соответствия вместе с дополнительными зашифрованными данными об изображении. Этот ваучер загружается в iCloud Photos вместе с изображением", — рассказали в Apple.

Содержимое ваучера безопасности не сможет быть интерпретировано Apple, если только учетная запись iCloud Photos не будет содержать детское порно в количестве, превышающем некое пороговое значение.

В случае такого превышения Apple вручную будет просматривать каждый отчет, чтобы подтвердить совпадение, отключать учетную запись пользователя и отправлять отчет в NCMEC. Если пользователь сочтет, что его учетная запись была ошибочно помечена, он сможет подать апелляцию на восстановление своего аккаунта.

Кроме того, в приложение "Сообщения" будут добавлены новые инструменты для предупреждения детей и их родителей о получении или отправке фотографий откровенно сексуального характера. При получении такого контента фотография будет размытой, а ребенок будет предупрежден. В качестве дополнительной меры предосторожности детям собираются сообщать, что их родители получат сообщение, если они просмотрят такое изображение.

Аналогичные меры защиты внедрят на случай, если ребенок попытается отправить фотографии откровенно сексуального характера: ребенок будет предупрежден перед их отправкой, а родители могут получить сообщение, если ребенок решит отправить его.

"Сообщения" используют машинное обучение на устройстве для анализа прикрепленных изображений и определения того, является ли фотография сексуально откровенной. Функция разработана таким образом, что Apple не получает доступа к сообщениям", — отмечают в корпорации.

Помимо этого, будет обновлено поисковое приложение и голосовой помощник Siri: они теперь будут вмешиваться, когда пользователи захотят запросить что-либо, связанное с детскими материалами сексуального характера, и объяснять, что интерес к этой теме вреден и проблематичен.

Функции обещают внедрить уже в 2021 году в обновлениях iOS 15, iPadOS 15, watchOS 8 и macOS Monterey.

Отметим, что в ноябре Верховная Рада приняла в первом чтении, а в феврале и окончательно закон, ужесточающий наказание за детское порно в интернете. 12 марта его подписал президент Владимир Зеленский.

Чтобы знать еще больше — подписывайся на Delo.ua в Telegram!