acumulados em seus servidores para prever quais dentre seus usuarios poderiam cometer crimes. Eis como o sistema funciona: estudando determinadas indicacoes comportamentais - por exemplo, o usuario so escreve mensagens para menores de idade? A maioria de seus contatos sao mulheres? Ele usa palavras como "sexo" ou "encontro" em suas conversas? - os sistemas preditivos do Facebook podem identificar certos usuarios como suspeitos. Os funcionarios da empresa entao examinam cada caso e encaminham informacoes a policia caso necessario.A Reuters reportou recentemente sobre como os algoritmos preditivos ajudaram o Facebook a apanhar um homem de meia-idade que conversava sobre sexo com uma menina de 13 anos, com a qual estava marcando um encontro para o dia seguinte. A policia entrou em contato com a menina, apreendeu seu computador e apanhou o sujeito. Mas nem tudo sao algoritmos: o Facebook reconhece que esta usando arquivos de chats reais que precederam agressoes sexuais para ajudar nesse trabalho, da mesma forma que departamentos policiais usam dados nao estatisticos.E dificil questionar a aplicacao desses metodos a captura de predadores sexuais que tomam criancas por alvo. Mas perceba que o Facebook pode estar realizando toda especie de trabalho policial parecido: detectando potenciais traficantes de drogas, potenciais violadores de direitos atuais (a empresa ja proibe seus usuarios de usarem links para muitos sites de troca de arquivos) e, especialmente depois dos tumultos no Reino Unido no ano passado, prevendo quem sera a proxima geracao de arruaceiros.E claro que a policia ja estuda as redes sociais em busca de sinais de inquietacao. Mas, ao contrario do Facebook, nao ve o quadro todo --as comunicacoes privadas e as acoes silenciosas, como os links que estao sendo clicados e as paginas que estao sendo abertas. Mas o Facebook, como a Amazon quanto aos livros, certamente sabe tudo sobre isso-- e portanto seu poder preditivo e muito superior ao da policia.Alem disso, enquanto a policia precisa de mandados para investigar os dados privados de um usuario, o Facebook pode estudar os dados de seus usuarios sempre que assim desejar. Da perspectiva da policia, poderia ser vantajoso transferir todo o trabalho sujo ao Facebook, porque as investigacoes internas da empresa nao precisam passar pelos tribunais.Com dados suficientes e os algoritmos corretos, todos nos pareceremos suspeitos. O que acontece, portanto, quando o Facebook nos denunciar a policia --antes que tenhamos cometido qualquer crime? Sera que, como personagens em um romance de Kafka, teriamos dificuldade para compreender qual foi o nosso verdadeiro crime, e passariamos o resto da vida lutando para reabilitar nossas reputacoes? E se os algoritmos estiverem errados?As recompensas do policiamento preditivo podem ser reais, mas seus perigos tambem o sao. A policia precisa sujeitar seus algoritmos a escrutinio externo e enfrentar a questao das distorcoes implicitas que carreguem. Os sites de redes sociais precisam estabelecer padroes claros sobre as medidas de autopoliciamento preditivo que adotarao, e sobre as dimensoes de suas investigacoes sobre os usuarios.Embora o Facebook possa ser mais efetivo que a policia na previsao de crimes, nao deveria ser autorizado a exercer essas funcoes de policiamento sem que respeite as normas