Microsoft renova recurso controverso de recall baseado em IA em meio a preocupações com privacidade

A Microsoft anunciou na sexta-feira que desativará por padrão o seu recurso Recall, criticado por questões de inteligência artificial (IA), tornando-o opcional.

O Recall, que está atualmente em fase de pré-visualização e disponível exclusivamente para PCs Copilot+ a partir de 18 de junho de 2024, funciona como uma “linha do tempo visual explorável”. Ele captura imagens das telas dos usuários a cada cinco segundos, que são analisadas posteriormente para extrair informações relevantes.

No entanto, o recurso, projetado para atuar como uma espécie de memória fotográfica habilitada por IA, foi imediatamente alvo de críticas da comunidade de segurança e privacidade. Críticos argumentaram que a empresa não considerou adequadamente as salvaguardas necessárias para impedir que pessoas mal-intencionadas acessassem facilmente a vida digital das vítimas.

As informações registradas podem incluir capturas de tela de documentos, e-mails ou mensagens com detalhes confidenciais, que poderiam ter sido excluídos ou compartilhados temporariamente em formatos que desaparecem ou se autodestroem, comuns em plataformas de mensagens instantâneas.

Andy Greenberg, da WIRED, descreveu o Recall como “spyware pré-instalado e não solicitado, integrado em novos computadores Windows”. Já o Windows Central afirmou que a Microsoft foi “excessivamente secreta” sobre o desenvolvimento do Windows Recall, optando por não testá-lo publicamente.

Microsoft

Em resposta às críticas crescentes, a Microsoft declarou que os usuários têm controle total sobre a experiência do Recall e que a versão prévia do recurso foi lançada justamente para coletar feedback dos clientes.

Entre as mudanças significativas no Recall, estão atualizações de segurança e um novo processo de configuração que permite aos usuários optar por não salvar capturas de tela periodicamente.

As atualizações de segurança incluem a exigência de inscrição na verificação biométrica do Windows Hello para habilitar o Recall, com prova de presença necessária para visualizar a linha do tempo e realizar pesquisas.

Além disso, o banco de dados de índice de pesquisa, anteriormente armazenado em um banco de dados SQLite não criptografado, agora é criptografado. A Microsoft garantiu que os instantâneos do Recall serão descriptografados e acessíveis apenas mediante autenticação do usuário.

“Os PCs Copilot+ serão lançados com descriptografia ‘just in time’ protegida pelo Windows Hello Enhanced Sign-in Security (ESS), portanto, os instantâneos do Recall só serão descriptografados e acessíveis quando o usuário se autenticar”, afirmou Pavan Davuluri, vice-presidente corporativo da Microsoft para Windows + Dispositivos.

Essa medida oferece uma camada adicional de proteção aos dados do Recall, além de outros recursos de segurança do Windows, como o SmartScreen e o Defender, que utilizam técnicas avançadas de IA para evitar que malware acesse dados como os do Recall.

A Microsoft reiterou que os instantâneos do Recall são armazenados e processados localmente no dispositivo, não sendo compartilhados com outras empresas ou aplicativos. Os usuários podem pausar, filtrar e excluir os dados salvos a qualquer momento.

Para usuários em dispositivos de trabalho gerenciados em ambientes corporativos, os administradores de TI podem desabilitar o Recall, mas não habilitá-lo. A escolha de usar o recurso cabe exclusivamente aos usuários.

“Você verá o Recall fixado na barra de tarefas quando chegar à sua área de trabalho”, disse Davuluri. “Você terá um ícone de snapshot do Recall na bandeja do sistema, informando quando o Windows está salvando snapshots.”

“O fato é que falar abertamente funciona”, disse o pesquisador de segurança Kevin Beaumont, que foi um crítico ferrenho da implementação original do Recall. “Obviamente, haverá problemas nos detalhes – potencialmente grandes – mas há alguns elementos bons aqui. A Microsoft precisa se comprometer a não tentar enganar os usuários para habilitá-lo no futuro.”

“Acho que, no geral, ter a opção de ativar sistemas domésticos evitará problemas de segurança para muitas pessoas no futuro. Ele nunca deveria ter sido ativado por padrão.”

A mudança de direção da Microsoft ocorre em meio a uma série de desastres de segurança que a empresa enfrentou nos últimos anos, devido a ataques de atores estatais russos e chineses, levando a empresa a priorizar a segurança como parte de sua Iniciativa para o Futuro Seguro (SFI).

“Se você se depara com a troca entre segurança e outra prioridade, sua resposta é clara: faça segurança”, disse o CEO da Microsoft, Satya Nadella, em um memorando enviado a seus funcionários no mês passado. “Em alguns casos, isso significará priorizar a segurança acima de outras coisas que fazemos, como lançar novos recursos ou fornecer suporte contínuo para sistemas legados.”

Fontes: The Hacker News