A Apple apresentou nesta quinta-feira (5) uma série de novidades para que os pais possam proteger crianças de conteúdos inadequados na internet. Os dispositivos da empresa vão ganhar em breve um sistema capaz de detectar imagens explícitas e até mesmo conteúdos de pornografia infantil.
Conteúdo explícito no iMessage
A detecção de conteúdos inadequados será implementada no iMessage, o serviço de mensagens da Apple disponível no iPhone, iPad, Apple Watch e Mac. Caso uma criança receba fotos com conteúdos de nudez, o sistema automaticamente ocultará a foto e exigirá uma confirmação adicional para abrir o conteúdo.
Se a criança optar por abrir o arquivo mesmo assim, os pais serão automaticamente notificados sobre a decisão. Isso, é claro, requer que todos os membros da família tenham dispositivos Apple cadastrados no plano familiar do iCloud.
O aplicativo Mensagens da Apple exibirá também uma série de avisos educacionais sobre o quão prejudicial pode ser enviar e receber imagens explícitas na internet, principalmente para desconhecidos. A empresa recomendará que a criança converse com os pais e não envie qualquer tipo de conteúdo assim.
Segundo a empresa, o recurso não poderá ser ativado em dispositivos de adultos. Toda a análise das imagens será feita localmente e a Apple garante que continuará não tendo acesso às mensagens trocadas entre os usuários.
Pornografia infantil
Em uma tentativa mais agressiva no combate à pornografia infantil, os sistemas operacionais da Apple também serão capazes de identificar conteúdos de pornografia infantil. Assim como no iMessage, a detecção desse tipo de conteúdo também acontecerá através de processamento local no dispositivo do usuário.
O sistema irá analisar o “hash” de cada imagem salva no aplicativo Fotos da Apple. O “hash” é basicamente um algoritmo utilizado para identificar arquivos. A partir dessa análise, os algoritmos das fotos do usuário serão comparados com os algoritmos de um banco de dados da Apple que contém informações sobre imagens classificadas como pornografia infantil.
Se o dispositivo identificar que o algoritmo de uma das fotos salvas no dispositivo do usuário coincide com um dos algoritmos do banco de dados da empresa, será gerado uma espécie de voucher digital — que posteriormente será enviado para a Apple de forma criptografada. Para evitar falsos positivos, a empresa só quebrará a criptografia nos casos em que um único usuário gerar vários vouchers.
A partir disso, a Apple encaminhará todo o conteúdo para os órgãos competentes responsáveis por prosseguirem com as devidas investigações.
Disponibilidade
Tanto a detecção de conteúdos indevidos no iMessage quanto o reconhecimento de pornografia infantil serão lançados no final deste ano como parte do iOS 15 e macOS Monterey. Inicialmente, os recursos só vão funcionar nos Estados Unidos.
A Apple reforça que as mudanças no iMessage só afetam os dispositivos de crianças no plano familiar do iCloud. Já sobre o reconhecimento de pornografia infantil, a empresa esclarece que a análise será feita apenas nas fotos salvas no iCloud.
Mais informações estão disponíveis em inglês no site da Apple.
