Este é un post de convidado de John Carr, o principal pensador británico sobre a eliminación de imaxes de abuso infantil de internet. O blog orixinal sobre investigacións do New York Times apareceu en John's Desiderata local. Presentamos outros blogs recentes de John aquí, aquí aquí.

En setembro o New York Times produciu o primeiro nunha serie de artigos no que se centraron na resposta da industria de internet ao crecemento explosivo na detección de material de abuso sexual infantil en liña (csam).

Comezaron con estatísticas subministradas por NCMEC En 1998 recibiron 3,000 informes de csam. O número de 2018 foi de 18.4 millóns de informes, facendo referencia a 45 millóns de fotos fixas e vídeos de csam.

Fomos informados nun artigo posterior en 2013 se denunciaran menos de 50,000 vídeos csam. En 2018 foi de ata 22 millóns. O vídeo foi a principal área de crecemento. O Centro canadense de protección infantil e o do Reino Unido Internet Watch Foundation asistiron a niveis similares de crecemento.

A pesar de eses números é impactante, probablemente o que demostran é simplemente o aumento do despregue proactivo e da eficacia das ferramentas utilizadas para detectar csam por un número relativamente pequeno de empresas de internet.

Non obstante, o que amosaron principalmente os artigos do New York Times foi a insuficiencia da resposta da industria de internet máis ampla e, de feito, a insuficiencia da resposta dalgúns dos actores máis importantes da industria. Leváronnos polo camiño do xardín.

Se a seguridade infantil era realmente incorporado na cultura dunha empresa, historias do tipo publicadas polo New York Times simplemente non serían posibles. Non obstante levan anos aparecendo, se nunca antes, con tal detalle forense.

A Coalición Tecnolóxica

En 2006 o Coalición tecnolóxica estableceuse Aquí está a súa misión declarada

A nosa visión é erradicar a explotación sexual infantil infantil en liña. Invertimos en colaborar e compartir coñecementos uns cos outros, porque recoñecemos que temos os mesmos obxectivos e enfrontamos moitos dos mesmos retos.

Esta é a rúbrica estándar. Oes todo o tempo. De todos. Non é certo.

Os maltratadores infantís funcionan rampantes mentres as compañías tecnolóxicas miran outro camiño

Ese foi o titular para o segundo artigo na serie New York Times. Despexa completamente a fachada dunha enerxía colectiva e enérxica de propósito para desfacerse do csam de internet.

Aquí tes algúns extractos da peza:

As compañías dispoñen das ferramentas técnicas para deter a recirculación de imaxes de abuso combinando imaxes recentemente detectadas con bases de datos do material. Non obstante, a industria non aproveita as ferramentas.

Concretamente dixéronnos

Facebook, a maior rede social do mundo, Facebook, busca dixitalmente as súas plataformas, representando máis do 90 por cento das imaxes marcadas polas compañías tecnolóxicas o ano pasado, pero a empresa non está a usar todas as bases de datos dispoñibles para detectar o material ... .. (énfase engadida).

Apple non escanea o seu almacenamento na nube ... e cifra a súa aplicación de mensaxería, facendo a detección practicamente imposible. Dropbox, os produtos de consumo de Google e Microsoft buscan imaxes ilegais, pero só cando alguén as comparte, non cando se cargan.

… Outras empresas, incluíndo…. Yahoo (propiedade de Verizon), busca fotos pero non vídeos, a pesar de que o contido de vídeo ilícito estivo estoupando desde hai anos. 

De acordo coa Veces

Non hai unha única lista de hashes de imaxes e vídeos que todas as empresas relevantes poden usar.

Google e Facebook desenvolveron ferramentas para detectar vídeos csam diferentes e incompatibles. Un plan para crear un proceso para compartir vídeo "Pegadas dixitais" (hash para acelerar a detección) aparentemente ten desaparecido en ningures. 

Hai máis

É moito máis probable que as empresas de tecnoloxía revisen fotos e vídeos e outros ficheiros nas súas plataformas durante ... detección de malware e aplicación de dereitos de autor. Pero algunhas empresas din que buscar contido abusivo é diferente porque pode xerar importantes problemas de privacidade.

Amazon, certamente, non é membro da Coalición Tecnolóxica, pero o maior provedor de servizos na nube do mundo non busca nada.

Un portavoz de Amazon ... dixo que a "privacidade dos datos dos clientes é fundamental para gañar a confianza dos nosos clientes", ...... Microsoft Azure tamén dixo que non buscou o material, alegando motivos similares.

Nalgún momento será interesante desconstruír o que “Confianza dos clientes” realmente significa.

E sabemos todo isto porque ...

Como soubemos de todo isto? ¿Xurdiu como resultado de declaracións abertas por parte de empresas tecnolóxicas? Obviamente non. Despois dunha análise minuciosa por parte dun equipo dedicado de académicos? Non. A verdade foi exposta por un órgano policial, unha ONG ou unha axencia gobernamental que finalmente decidiu que omertà non era de interese público? Non

Obtivemos estes coñecementos porque a dirección do New York Times decidiu dar a dous xornalistas, Michael Keller e Gabriel Dance, o espazo e os recursos para seguir unha historia evidentemente importante.

Coñecín a estes rapaces por primeira vez nas oficinas do New York Times o luns pasado, pero lles falei inicialmente en xuño. Estiveron investigando o csam desde febreiro, voando ao redor (literalmente), falando con multitude de persoas, separando cousas do rexistro e fóra das fontes do rexistro.

Foi un xigantesco esforzo que fixo un chapapote proporcional na primeira páxina do xornal. Parece que está a ter o efecto desexado.

Unha carta de cinco senadores

Unha das consecuencias inmediatas dos artigos do New York Times xurdiu a semana pasada cando cinco senadores estadounidenses (dous demócratas e tres republicanos) escribiu unha impresionante carta detallada a trinta e seis empresas tecnolóxicas. Inclúen a todos os membros da Coalición Tecnolóxica e moito máis. Os senadores queren respostas o 4th decembro.

Vexamos como responden as empresas. A carta contén todas as preguntas correctas. Son precisamente o tipo que as empresas de tecnoloxía deberían estar legalmente obrigadas a responder. Unha vez rematadas as eleccións do Reino Unido, esperemos que poidamos avanzar rapidamente para establecer un regulador forte que poida pedirlles confianza en que recibirán respostas veraces. Calquera dúbida ou negativa das empresas estadounidenses a responder á carta dos senadores só engadirá un sentido de urxencia aquí.

O New York Times axudou aos nenos de todo o mundo

Os nenos do mundo deben a Keller e Dance e aos seus xefes moito, pero é pouco escandaloso que tomase un xornal para abrilo. Onde está o organismo de interese público que dispón de recursos e capacidade de rastrexar e informar de xeito consistente ao longo do tempo sobre asuntos deste tipo? Non existe. Debería.

Hai séculos que discuto que necesitamos un Observatorio Global, entre outras cousas para facer rutineiramente o que o New York Times acaba de facer como único. Nalgún lugar ten que haber unha axencia independente con recursos adecuados que teña no corazón os intereses dos nenos e as industrias de alta tecnoloxía. Pero este corpo ten que ser sostible no tempo. Iso é unha cousa grande e custosa, pero vou intentar facelo.