Controle de segurança no iOS 16 coloca sobreviventes de abuso de volta no controle

Esta história faz parte WWDC 2022Cobertura completa da CNET de e sobre a conferência anual de desenvolvedores da Apple.

Entre os novos recursos há muito solicitados e populares que a Apple planeja trazer para o iPhone neste outono, como cancelar o envio de mensagens de texto e e-mails do iMessage bem como uma função para encontrar e remover fotos duplicadasnão é apenas uma conveniência; usá-lo pode significar vida ou morte.

Na segunda-feira, a Apple anunciou o Safety Check, um novo recurso nas configurações de um iPhone ou iPad, destinado a ajudar as vítimas de violência doméstica. A configuração, que chega neste outono com o iOS 16, foi projetada para ajudar alguém a cortar rapidamente os laços com um possível agressor. Para fazer isso, a Verificação de segurança ajuda uma pessoa a ver rapidamente com quem ela compartilha automaticamente informações confidenciais, como localização ou fotos. Mas, em caso de emergência, também permite que uma pessoa desative de forma simples e rápida o acesso e o compartilhamento de informações em todos os dispositivos que não sejam o que está em suas mãos.

Notavelmente, o aplicativo também inclui um botão proeminente no canto superior direito da tela chamado Quick Exit. Como o nome sugere, ele foi projetado para ajudar uma vítima em potencial a esconder rapidamente que está assistindo ao Check-in de Segurança, caso o agressor não permita privacidade. Se o invasor reabrir o aplicativo de configurações, onde a verificação de segurança é mantida, eles começarão na página de configurações gerais padrão, cobrindo efetivamente os rastros da vítima.

“Muitas pessoas compartilham senhas e acesso a seus dispositivos com um parceiro”, disse Katie Skinner, gerente de engenharia de privacidade da Apple, na segunda-feira no evento WWDC da empresa. “No entanto, em relacionamentos abusivos, pode ameaçar a segurança pessoal e dificultar a obtenção de ajuda para as vítimas”.

A verificação de segurança e a maneira cuidadosa como foi codificada fazem parte de um esforço maior das empresas de tecnologia para impedir que seus produtos sejam usados ​​como ferramentas de abuso. É também o mais recente sinal da vontade da Apple de embarcar na construção de tecnologia para abordar tópicos sensíveis. E embora a empresa diga que é séria em sua abordagem, foi criticada por algumas de suas decisões. No ano passado, a empresa anunciou esforços para detectar imagens de exploração infantil em alguns de seus telefones, tablets e computadores, uma medida que preocupa os críticos. poderia corroer o compromisso da Apple com a privacidade.

Ainda assim, os defensores das vítimas dizem que a Apple é uma das poucas grandes empresas a trabalhar publicamente nessas questões. Enquanto muitos gigantes da tecnologia, incluindo Microsoft, Facebook, Twitter e Google, construíram e implementaram sistemas projetado para detectar imagens abusivas e comportamento em seus respectivos sites, eles lutaram para criar ferramentas que interrompam o abuso à medida que ele ocorre.

Infelizmente, o abuso piorou. Uma pesquisa com profissionais que trabalham com violência doméstica realizada em novembro de 2020 descobriu que 99,3% tinham clientes que sofreram “assédio e abuso facilitados pela tecnologia”, segundo a Women’s Services Network, que trabalhou no relacionamento com a Curtin University, na Austrália. Além disso, as organizações aprenderam que os relatórios de GPS o rastreamento de vítimas aumentou mais de 244% desde a última pesquisa em 2015.

Em meio a tudo isso, empresas de tecnologia como a Apple estão trabalhando cada vez mais com organizações vítimas para entender como suas ferramentas podem ser mal utilizadas por um invasor e úteis para uma vítima em potencial. O resultado são recursos, como o botão de saída rápida do Safety Check, que os proponentes dizem ser um sinal de que a Apple está desenvolvendo esses recursos de uma maneira que eles chamam de “informados ao trauma”.

“A maioria das pessoas não consegue apreciar o senso de urgência” que muitas vítimas têm, disse Renee Williams, diretora executiva do Centro Nacional para Vítimas de Crime. “A Apple tem sido muito responsiva.”

problemas difíceis

Algumas das maiores vitórias da indústria de tecnologia vieram da identificação de agressores. Em 2009, a Microsoft ajudou a criar um software de reconhecimento de imagem chamado PhotoDNA, que agora é usado por redes sociais e sites em todo o mundo para identificar imagens de abuso infantil quando carregadas na Internet. Desde então, programas semelhantes foram desenvolvidos para ajudar a identificar vídeos de recrutamento terroristatransmissões ao vivo de tiroteios em massa e outras coisas que as grandes empresas de tecnologia tentam manter fora de suas plataformas.

À medida que a tecnologia se tornou mais difundida em nossas vidas, esses esforços assumiram maior importância. E, ao contrário de adicionar novas tecnologias de vídeo ou aumentar o desempenho do computador, esses problemas sociais nem sempre têm respostas claras.

Em 2021, a Apple deu um de seus primeiros passos públicos em direção à tecnologia centrada na vítima, anunciando novos recursos para seu serviço iMessage, projetado para analisar mensagens enviadas a usuários marcados como crianças para determinar se seus anexos continham nudez. Se o sistema suspeitasse de uma imagem, ele embaralharia o anexo e notificaria a pessoa que o recebeu para ter certeza de que queria vê-lo. O serviço da Apple também direcionaria as crianças para recursos que poderiam ajudá-las caso fossem vítimas do serviço.

Na época, a Apple disse que projetou a tecnologia de digitalização de mensagens com a privacidade em mente. Mas os ativistas temiam que o sistema da Apple também fosse projetado para alertar um pai identificado se seu filho optar por visualizar a imagem anexada suspeita de qualquer maneira. Isso, dizem alguns críticos, poderia incitar um pai potencialmente perigoso a ser abusado.

Os esforços extras da Apple para detectar possíveis imagens de abuso infantil que podem ser sincronizadas com seu serviço de fotos via iPhones, iPads e computadores Mac foram criticados por especialistas em segurança que temia que pudesse ser mal utilizado.

Ainda assim, os defensores das vítimas reconheceram que a Apple é uma das poucas empresas de dispositivos que trabalha em ferramentas para apoiar as vítimas de possíveis abusos. A Microsoft e o Google não responderam aos pedidos de comentários sobre se planejam introduzir recursos semelhantes ao Safety Check para ajudar as vítimas que podem estar usando o software Windows e Xbox para PCs e consoles de videogame, ou software para celulares Android para telefones e tablets.

Aprender, mas muito a fazer

A indústria de tecnologia trabalha com organizações de vítimas há mais de uma década, procurando maneiras de adotar mentalidades de segurança em seus produtos. Os proponentes dizem que nos últimos anos, em particular, muitos equipes de segurança cresceram dentro dos gigantes da tecnologia, compostos em alguns casos por pessoas do mundo sem fins lucrativos que trabalharam em questões enfrentadas pela indústria de tecnologia.

A Apple começou a consultar alguns defensores dos direitos das vítimas sobre o Safety Check no ano passado, pedindo feedback e ideias sobre a melhor forma de construir o sistema.

“Estamos começando a ver o reconhecimento de que há uma responsabilidade corporativa ou social para garantir que seus aplicativos não sejam usados ​​demais”, Karen Bentley, CEO da Wesnet. E ela disse que é particularmente difícil porque, à medida que a tecnologia evolui para se tornar mais fácil de usar, ela tem o potencial de ser uma ferramenta para abuso.

É por isso que ela diz que o Security Screening da Apple é “incrível” porque pode separar rápida e facilmente as informações e comunicações digitais de uma pessoa de seu invasor. “Se você sofrer violência doméstica, provavelmente experimentará um pouco dessa violência na tecnologia”, disse ela.

Embora o Safety Check tenha evoluído de uma ideia para um software de teste e esteja amplamente disponível com o pacote de atualizações de software do iOS 16 para iPhone e iPad no outono, a Apple disse que planeja trabalhar mais nesses problemas.

Infelizmente, o Safety Check não se estende a maneiras pelas quais os invasores podem rastrear pessoas usando dispositivos que não possuem, como se alguém passasse um dos rastreadores AirTag de US $ 29 da Apple no bolso do casaco ou no carro para rastreá-los. O Safety Check também não foi projetado para telefones configurados em contas de crianças, para menores de 13 anos, embora a funcionalidade ainda esteja em teste e possa mudar.

“Infelizmente, os agressores são persistentes e constantemente atualizam suas táticas”, disse Erica Olsen, diretora de projetos da Safety Net, um programa da Rede Nacional para Acabar com a Violência Doméstica que treina empresas, grupos comunitários e governos sobre como melhorar a segurança e a privacidade das vítimas. . “Sempre haverá mais a fazer neste espaço.”

A Apple disse que está expandindo o treinamento com seus funcionários que interagem com os clientes, incluindo vendedores em suas lojas, para aprender como funcionam recursos como o Safety Check e poder ensiná-lo quando apropriado. A empresa também criou diretrizes para sua equipe de suporte para ajudar a identificar e auxiliar potenciais vítimas.

Em um caso, por exemplo, as equipes do AppleCare estão aprendendo a ouvir quando um proprietário de iPhone liga com medo de não ter controle de seu próprio dispositivo ou de sua própria conta do iCloud. Em outro, o AppleCare pode orientar alguém sobre como remover seu ID Apple de um grupo familiar.

A Apple também atualizou seu guia de uso de segurança pessoal em janeiro para informar aos usuários como redefinir e recuperar o controle de uma conta do iCloud que pode ser comprometida ou usada como ferramenta de abuso.

Craig Federighi, chefe de engenharia de software da Apple, disse que a empresa continuará a expandir seus recursos de segurança pessoal como parte de seu compromisso mais amplo com os clientes. “Proteger você e sua privacidade está e sempre estará no centro do que fazemos”, disse ele.