Em 2013, no estado americano de Wisconsin, Eric Loomis foi acusado e condenado por participar de um tiroteio. Loomis foi sujeito a uma avaliação de algoritmos do risco de reincidência, por intermédio do software Compas, fabricado na empresa Northpointe, que hoje é de propriedade de Equivant.

O programa ponderou um alto traço de reincidência e, sobre esta apoio, se impôs uma pena de 6 anos de prisão, mais 5 de liberdade condicional. Loomis rejeitou a sentença, alegando que não tinha tido a chance de avaliar o funcionamento do algoritmo que, por ser um segredo comercial, não é público.

O tribunal, a corte de apelações e a Suprema Corte contrariou o processo. Ainda deste modo, eles confessaram que poderia ser complicado para os juízes tomar decisões a respeito da apoio de uma tecnologia cujo real funcionamento era inexplorado. O caso sentou-se um precedente sério na jurisprudência dos Estados unidos.

Compas é somente um dos muitos programas que utilizam a aprendizagem automática, afim de prever crimes, antes que aconteçam. Chamam Crime Predicting Software, e se ocupam de juntar e ver detalhes sobre crimes do passado, para prever os futuros.

O software preditivos é uma indústria em rapidamente crecimient ou. A este segundo grupo pertence PredPol, um software fabricado pela Universidade da Califórnia, Los Angeles e utilizado por mais de 60 departamentos de polícia dos EUA Na página web de PredPol explica que o programa é baseado em um histórico de crimes passados (entre dois e cinco anos de dados), enriquecido ao longo do tempo.

Com esta detalhes, o algoritmo tenta prever onde e no momento em que é mais viável que ocorra um certo tipo de crime. PredPol pode até já indicar os perfis de pessoas que mais correspondem ao retrato discutido estatístico do autor do crime. Uma mistura de geografia social, criminologia, estatística e informática, que não prevê os assassinatos, como no video Minority Report, porém sim permite examinar em tempo real a criminalidade potencial das cidades.

A área controlada por PredPol está dividida numa grade com células de 150 por 150 metros de distância. Para cada célula é possível comprar a expectativa de que um crime específico ocorra dentro de um período de tempo definido. Estas estimativas devem auxiliar às forças policiais locais pra otimizar a distribuição dos efectivos e precaver alguns tipos de crime.

De fato, de acordo com inmensuráveis estudos de criminologia, existem correlações entre a suporte do ambiente urbano e a distribuição dos crimes. São correlações que, em divisão, também respondem por simples senso comum: é lógico que certos tipos de infrações sejam mais frequentes, como por exemplo, em áreas pouco iluminadas ou densamente povoadas. No entanto, os críticos da vigilância preditiva argumentam que os detalhes em que se baseia quase nunca são objetivos.

• Dois Ver senhas salvas no Mac
• 11 Atletas em destaque
• Cogumelo vermelho
• Detectar que algo não dá certo bem pela linha de criação e interromper a atividade

Algumas áreas urbanas caracterizam-se por uma maior quantidade de menores delitos, simplesmente visto que têm sido sujeitas a um superior controle policial. Como em todas as aplicações do machine learning, um ‘preconceito’ inicial dos dados produz algoritmos ineficientes. A agregação Human Rights, ademais, sustenta que PredPol centra-se quase só nos bairros mais pobres, discernindo entre as comunidades afro-americana e hispânica.

Uma indecisão igual quanto à objetividade do algoritmo foi feita com relação aos programas utilizados pra suspeita de reincidência. Como por exemplo, segundo um estudo de 2016, o software Compas parece ter preconceitos contra as minorias, por ter marcado pras pessoas negras como possíveis criminosos reincidentes em o dobro de casos que as brancas. Em numerosos casos, falhando na sua suspeita.