Weapons of Math
Destruction de Cathy O’Neil
Um alerta forte, informado e bem-argumentado
para um dos maiores perigos da atualidade. A substituição da decisão humana por
modelos matemáticos, muitas vezes errados, que permitem aumentar a eficiência
das decisões mas que o fazem à custa da justiça social, aumentando a
descriminação e lançando na pobreza os que são excluídos.
Computadores poderosos capazes de processar quase
instantaneamente milhões de dados pessoais com algoritmos de fórmulas complexas
permitem classificar as pessoas e sobre elas tomar decisões que afetam
duradoiramente as suas vidas. Alguns destes algoritmos são verdadeiras armas de
destruição em massa.
Veja-se o exemplo dos programas que medem a
probabilidade de uma pessoa vir a cometer um crime e que são já utilizados pela
Polícia nos Estados Unidos, trazendo para a nossa realidade o que no filme
Minority Report nos pareceu ficção científica irrealista.
Com base no local de residência, no tipo transportes
públicos utilizado, na escola que frequentamos, no emprego que temos, nas lojas
que utilizamos, é possível classificar as pessoas com um grau de probabilidade
de vir a cometer um crime grave. E se ainda não podemos ser presos por isso tudo
parece indicar que no futuro assim seja.
Exemplo não menos dramático é o modelo
matemático, hoje muito usado por empresas de recrutamento, que elimina as
candidaturas de pessoas com determinadas características impedindo-lhe o acesso
ao emprego.
A raça é uma dessas característica, sendo “negro”
ou “não-branco” um autêntico sinal vermelho que impede a entrada em diversos
tipos de atividade de grupos inteiros de pessoas. É certo que, nos Estados
Unidos, é proibido discriminar pela raça, mas não o é pelo local de residência
e como se sabe existe uma forte segregação espacial nesse país pelos que os
algoritmos se limitam a verificar o código postal.
Estes modelos, muitas vezes não verificados e
com grandes erros de conceção, são hoje autênticas armas de distribuição das
vidas das pessoas, impedido o acesso ao emprego, ao crédito, à habitação,
apontando-as como potenciais criminosas à Polícia.
Cathy O’Neil doutorada em Matemática ela própria
envolvida no desenvolvimento de alguns destes modelos matemáticos, tem vindo
nos últimos anos a devotar a sua vida à denúncia do funcionamento não
regulamentado, não testado e não provado de algoritmos de grande alcance.