Пользователи Android пожаловались на приложение Android System SafetyCore, которое Google устанавливает на устройства без явного согласия и которое может классифицировать изображения на устройстве. По данным Cybernews, после удаления приложение в некоторых случаях устанавливается повторно. Google утверждает, что обработка контента происходит исключительно на смартфоне и данные не передаются на серверы компании.
SafetyCore используется в том числе для функции Sensitive Content Warnings в Google Messages. Она предупреждает пользователей о потенциально нежелательных изображениях и может автоматически размывать их. Google заявляет, что фотографии с обнаруженной наготой не отправляются на серверы компании, а классификация выполняется с помощью модели машинного обучения непосредственно на устройстве.
Вокруг SafetyCore ранее возникла критика из-за того, что приложение появлялось на смартфонах без предварительного уведомления, не имело заметного значка и не объясняло пользователям принцип работы. Некоторые пользователи до сих пор пытаются удалить его, а отдельные участники Reddit сообщали о повторной установке приложения.
Теперь Google разрабатывает API ContentSafetyManager, который позволит сторонним приложениям использовать функцию классификации контента на устройстве. API может принимать изображения и другие типы медиаданных и возвращать один из четырех результатов: разрешено, предупреждение, заблокировано или не классифицировано. При этом документация не утверждает, что API непосредственно использует SafetyCore, и не выделяет наготу в отдельную категорию.
Исследователь информационной безопасности Cybernews Раса Юргутите предупредила, что сторонние приложения потенциально могут злоупотреблять подобными возможностями. В сочетании с чрезмерными разрешениями вредоносная программа теоретически способна использовать классификацию для анализа большого количества пользовательского контента. Это, по оценке исследователя, может привести к нарушению приватности или профилированию пользователей.
Ранее эксперт заявил, что новые правила установки Android-приложений не решат проблему взлома смартфонов.