Este é um post convidado de John Carr, o principal pensador do Reino Unido na remoção de imagens de abuso infantil da Internet. O blog original sobre investigações do New York Times apareceu no John's Desiderata local. Apresentamos outros blogs recentes de John aqui, SUA PARTICIPAÇÃO FAZ A DIFERENÇA e SUA PARTICIPAÇÃO FAZ A DIFERENÇA.

Em setembro, o New York Times produziu o primeiro de uma série de artigos no qual se concentraram na resposta da indústria da Internet ao crescimento explosivo na detecção de material on-line de abuso sexual infantil (csam).

Eles começaram com estatísticas fornecidas por NCMEC. Em 1998, eles receberam 3,000 relatórios de csam. O número de 2018 foi de 18.4 milhões de relatórios, referenciando 45 milhões de fotos e vídeos do csam.

Fomos informados em um artigo posterior em 2013, menos de 50,000 vídeos csam foram relatados. Em 2018, era de 22 milhões. O vídeo tem sido a principal área de crescimento. o Centro Canadense de Proteção à Criança e do Reino Unido Fundação de Vigilância na Internet testemunharam níveis semelhantes de crescimento.

Por mais chocantes que sejam esses números, provavelmente o que eles demonstram é simplesmente o aumento da implantação proativa e da eficácia das ferramentas usadas para detectar o csam por um número comparativamente pequeno de empresas de Internet.

No entanto, o que os artigos do New York Times mostraram principalmente foi a inadequação da resposta mais ampla da indústria da Internet e, de fato, a inadequação da resposta de alguns dos principais atores da indústria. Fomos conduzidos pelo caminho do jardim.

Se a segurança infantil fosse realmente incorporado na cultura de uma empresa, histórias do tipo publicadas pelo New York Times simplesmente não seriam possíveis. No entanto, eles vêm aparecendo há anos, se nunca antes, com tantos detalhes forenses.

A Coalizão de Tecnologia

Em 2006 o Coalizão de tecnologia foi estabelecido. Aqui está sua missão declarada

Nossa visão é erradicar a exploração sexual infantil online. Investimos na colaboração e no compartilhamento de experiências uns com os outros, porque reconhecemos que temos os mesmos objetivos e enfrentamos muitos dos mesmos desafios.

Esta é a rubrica padrão. Você escuta isto o tempo todo. De todo mundo. Não é verdade.

Crianças abusadoras correm desenfreadamente enquanto as empresas de tecnologia olham para o outro lado

Essa foi a manchete da segunda artigo na série do New York Times. Isso destrói completamente a fachada de um impulso industrial coletivo enérgico e proposital para se livrar do csam da Internet.

Aqui estão alguns trechos da peça:

As empresas têm as ferramentas técnicas para interromper a recirculação de imagens de abuso, comparando imagens recém-detectadas com bancos de dados do material. Mesmo assim, a indústria não tira o máximo proveito das ferramentas.

Especificamente, fomos informados

A maior rede social do mundo, o Facebook, analisa minuciosamente suas plataformas, respondendo por mais de 90 por cento das imagens sinalizadas por empresas de tecnologia no ano passado, mas a empresa não está usando todos os bancos de dados disponíveis para detectar o material… .. (Grifo nosso).

A Apple não verifica seu armazenamento em nuvem…. e criptografa seu aplicativo de mensagens, tornando a detecção virtualmente impossível. Dropbox, Google e produtos de consumo da Microsoft procuram imagens ilegais, mas apenas quando alguém as compartilha, não quando são carregadas.

… Outras empresas, incluindo…. O Yahoo (de propriedade da Verizon) busca fotos, mas não vídeos, embora o conteúdo de vídeo ilícito esteja explodindo há anos. 

De acordo com vezes

Não existe uma lista única de hashes de imagens e vídeos que todas as empresas relevantes podem usar.

Google e Facebook desenvolveram ferramentas para detectar vídeos csam diferentes e incompatíveis. Um plano para criar um processo de compartilhamento de vídeo “Impressões digitais” (hashes para acelerar a detecção) aparentemente não foi a lugar nenhum. 

Tem mais

As empresas de tecnologia são muito mais propensas a revisar fotos, vídeos e outros arquivos em suas plataformas para…. detecção de malware e aplicação de direitos autorais. Mas algumas empresas dizem que procurar conteúdo abusivo é diferente porque pode levantar questões significativas de privacidade.

A Amazon, reconhecidamente não membro da Coalizão de Tecnologia, mas a maior provedora de serviços em nuvem do mundo, faz a varredura à procura de nada.

Um porta-voz da Amazon…. disse que a “privacidade dos dados do cliente é crítica para ganhar a confiança de nossos clientes,” ... O Microsoft Azure também disse que não examinou o material, citando motivos semelhantes.

Em algum momento será interessante desconstruir o que “Confiança dos clientes” realmente significa.

E sabemos tudo isso porque ...

Como aprendemos tudo isso? Surgiu como resultado de declarações abertas por empresas de tecnologia? Obviamente não. Seguindo uma análise cuidadosa por uma equipe dedicada de acadêmicos? Não. A verdade foi exposta por um órgão de aplicação da lei, ONG ou agência governamental que finalmente decidiu que omertà não era do interesse público? Não.

Obtivemos essas percepções porque a administração do New York Times decidiu dar a dois jornalistas, Michael Keller e Gabriel Dance, o espaço e os recursos para desenvolver uma história evidentemente importante.

Encontrei esses caras pela primeira vez nos escritórios do New York Times na segunda-feira passada, mas falei com eles inicialmente em junho. Eles estavam investigando o csam desde fevereiro, voando (literalmente), falando com uma multidão de pessoas, juntando as peças de fontes oficiais e não oficiais.

Foi um esforço gigantesco que causou um impacto proporcional na primeira página do jornal. Parece estar surtindo o efeito desejado.

Uma carta de cinco senadores

Uma consequência imediata dos artigos do New York Times surgiu na semana passada quando cinco senadores dos EUA (dois democratas, três republicanos) escreveu um impressionante carta detalhada para 4 empresas de tecnologia. Eles incluem todos os membros da Coalizão de Tecnologia e muito mais. Os senadores querem respostas até XNUMX de dezembro.

Vamos ver como as empresas respondem. A carta contém todas as perguntas certas. Eles são exatamente o tipo que as empresas de tecnologia deveriam ser legalmente obrigadas a responder. Assim que as eleições no Reino Unido terminarem, esperemos que possamos agir rapidamente para estabelecer um regulador forte que possa perguntar a eles confiantes de que receberão respostas verdadeiras. Qualquer hesitação ou recusa das empresas norte-americanas em responder à carta dos senadores apenas aumentará o senso de urgência aqui.

O New York Times ajudou crianças em todo o mundo

As crianças em todo o mundo devem muito a Keller, a Dance e a seus chefes, mas é quase um escândalo que tenha sido necessário um jornal para explodi-lo. Onde está o órgão de interesse público que possui os recursos e a capacidade de rastrear e relatar de forma consistente ao longo do tempo sobre questões desse tipo? Isso não existe. Deveria.

Há anos venho argumentando que precisamos de um Observatório Global, entre outras coisas para fazer rotineiramente o que o New York Times fazia apenas como algo isolado. Em algum lugar, é necessário que haja uma agência independente com os recursos adequados que tenha os interesses das crianças em seu coração e as indústrias de alta tecnologia em vista. Mas tal corpo precisa ser sustentável ao longo do tempo. É uma coisa grande e cara, mas vou tentar de novo.