Google научит смартфоны предупреждать о голых пикчах в сообщениях 👀

Google добавит в Android функцию, которая будет предупреждать о NSFW-контенте в чатах. Всё обрабатывается локально — компания не получит доступ к вашим фото. Приватность на первом месте! 🔒📱

Технический обзор новой функции безопасности

Google анонсировал развертывание системы предупреждений о контенте для взрослых в приложении Messages. Технология использует локальную обработку на устройстве для автоматического размытия изображений, потенциально содержащих обнаженную натуру, перед их просмотром.

Архитектура решения

1. Локальная обработка данных

   • Анализ изображений выполняется исключительно на устройстве пользователя
   • Сохранение end-to-end шифрования сообщений
   • Отсутствие передачи идентифицируемых данных на серверы Google

2. Механизм «speed bump»

   • При получении подозрительного сообщения активируется промежуточный экран с опциями:
     • Просмотр предупреждения о потенциальных рисках
     • Возможность немедленной блокировки отправителя
     • Выбор продолжить просмотр или вернуться

Технические особенности реализации

• Алгоритмы компьютерного зрения:

  • Используют локальные ML-модели для анализа контента
  • Не сохраняют результаты анализа
  • Не передают метаданные в Google

• Политики активации:

  • Для взрослых: опциональное включение через настройки Android
  • Для пользователей младше 18 лет: активировано по умолчанию

Ограничения технологии

Google отмечает, что система не идеальна:

• Возможны ложные срабатывания
• Могут пропускаться некоторые изображения с обнаженной натурой
• Точность зависит от качества локальных ML-моделей

Сравнение с аналогами

Технические рекомендации

Для корпоративных администраторов:

• Рассмотрите возможность массового включения функции через MDM-решения
• Обучите сотрудников работе с системой предупреждений

Для разработчиков:

• Изучите API Content Safety для возможной интеграции в собственные приложения
• Учитывайте особенности локальной обработки контента при проектировании мессенджеров

Перспективы развития

Ожидается:

• Улучшение точности детекции за счет обновления локальных ML-моделей
• Расширение функционала для других типов чувствительного контента
• Интеграция с Family Link для родительского контроля