Google confirma que o Android SafetyCore permite classificação de conteúdo no dispositivo com tecnologia de IA

“O Android oferece diversas proteções no dispositivo para defender os usuários contra ameaças como malware, spam de mensagens e golpes telefônicos, além de garantir a privacidade do usuário e manter o controle sobre seus dados”, disse um porta-voz da empresa.

“SafetyCore é um novo serviço de sistema do Google para dispositivos Android 9+ que fornece a infraestrutura no dispositivo para executar a classificação de forma segura e privada, ajudando os usuários a identificar conteúdo indesejado. Os usuários têm controle sobre o SafetyCore, e ele classifica apenas conteúdos específicos quando um aplicativo solicita por meio de um recurso opcionalmente ativado.”

O SafetyCore (nome do pacote com.google.android.safetycore) foi apresentado pelo Google em outubro de 2024 como parte de um conjunto de medidas de segurança projetadas para combater golpes e outros conteúdos sensíveis no aplicativo Google Mensagens para Android.

O recurso, que exige ao menos 2 GB de RAM, está sendo disponibilizado para todos os dispositivos Android com versão 9 ou superior, incluindo aqueles que utilizam o Android Go, uma versão mais leve do sistema operacional voltada para smartphones básicos.

A varredura do lado do cliente (CSS) tem sido considerada uma alternativa para permitir a análise de dados no dispositivo, evitando o enfraquecimento da criptografia ou a adição de backdoors aos sistemas existentes. No entanto, essa abordagem gerou preocupações com a privacidade, pois poderia ser explorada para forçar provedores de serviços a monitorar conteúdos além do escopo inicialmente estabelecido.

De certa forma, os Avisos de Conteúdo Sensível do Google para o aplicativo Mensagens funcionam de maneira semelhante ao recurso de Segurança de Comunicação da Apple no iMessage, que utiliza aprendizado de máquina no dispositivo para analisar anexos de fotos e vídeos, identificando possíveis imagens de nudez.

Os responsáveis pelo sistema operacional GrapheneOS ressaltaram, em uma publicação na rede social X, que o SafetyCore não realiza varredura do lado do cliente. Segundo eles, o recurso foi projetado para fornecer modelos de aprendizado de máquina no dispositivo, que podem ser usados por outros aplicativos para classificar conteúdos como spam, golpes ou malware.

“Classificar conteúdos dessa forma não é o mesmo que tentar detectar material ilegal e denunciá-lo a um serviço”, explicou o GrapheneOS. “Isso comprometeria significativamente a privacidade dos usuários e ainda estaria sujeito a falsos positivos. Não é essa a finalidade do recurso, e ele não pode ser utilizado para esse propósito.”