Algoritmos e desigualdade

Virginia Eubanks, professora de ciências políticas de Nova York, é autora de Automating Inequality (Automatizando a Desigualdade), um livro que explora a maneira como os computadores estão mudando a prestação de serviços sociais nos Estados Unidos. Seu foco é o setor de serviços públicos, e não o sistema de saúde privado, mas a mensagem é a mesma: com as instituições dependendo cada vez mais de algoritmos preditivos para tomar decisões, resultados peculiares – e frequentemente injustos – estão sendo produzidos.

Virginia Eubanks afirma que já acreditou na inovação digital. De fato, seu livro tem exemplos de onde ela está funcionando: em Los Angeles, moradores de rua que se beneficiaram dos algoritmos para obter acesso rápido a abrigos. Em alguns lugares, como Allegheny, houve casos em que “dados preditivos” detectaram crianças vulneráveis e as afastaram do perigo.

Mas, para cada exemplo positivo, há exemplos aflitivos de fracassos. Pessoas de uma mesma família de Allegheny foram perseguidas por engano porque um algoritmo as classificou como propensas a praticar abuso infantil. E em Indiana há histórias lastimáveis de famílias que tiveram assistência de saúde negada por causa de computadores com defeito.Alguns desses casos resultaram em mortes.

Alguns especialistas em tecnologia podem alegar que esses são casos extremos, mas um padrão similar é descrito pela matemática Cathy O’Neill em seu livro Weapons of Math Destruction. “Modelos matemáticos mal concebidos agora controlam os mínimos detalhes da economia, da propaganda às prisões”, escreve ela.

Existe alguma solução? Cathy O’Neill e Virginia Eubanks sugerem que uma opção seria exigir que os tecnólogos façam algo parecido com o julgamento de Hipócrates: “em primeiro lugar, fazer o bem”. Uma segunda ideia – mais custosa – seria forçar as instituições a usar algoritmos para contratar muitos assistentes sociais humanos para complementar as tomadas de decisões digitais. Uma terceira ideia seria assegurar que as pessoas que estão criando e rodando programas de computador sejam forçadas a pensar na cultura, em seu sentido mais amplo.

Isso pode parecer óbvio, mas até agora os nerds digitais das universidades pouco contato tiveram com os nerds das ciências sociais – e vice-versa. A computação há muito é percebida como uma zona livre de cultura e isso precisa mudar.

(Gillian Tett. www.valor.com.br. 23.02.2018. Adaptado)

Leia o texto para responder à questão abaixo.

Vamos partir de uma situação que grande parte de nós já vivenciou. Estamos saindo do cinema, depois de termos visto uma adaptação de um livro do qual gostamos muito. Na verdade, até que gostamos do filme também: o sentido foi mantido, a escolha do elenco foi adequada, e a trilha sonora reforçou a camada afetiva da narrativa. Por que então sentimos que algo está fora do lugar? Que está faltando alguma coisa?

O que sempre falta em um filme sou eu. Parto dessa ideia simples e poderosa, sugerida pelo teórico Wolfgang Iser em um de seus livros, para afirmar que nunca precisamos tanto ler ficção e poesia quanto hoje, porque nunca precisamos tanto de faíscas que ponham em movimento o mecanismo livre da nossa imaginação. Nenhuma forma de arte ou objeto cultural guarda a potência escondida por aquele monte de palavras impressas na página.

Essa potência vem, entre outros aspectos, do tanto que a literatura exige de nós, leitores. Não falo do esforço de compreender um texto, nem da atenção que as histórias e os poemas exigem de nós – embora sejam incontornáveis também. Penso no tanto que precisamos investir de nós, como sujeitos afetivos e como corpos sensíveis, para que as palavras se tornem um mundo no qual penetramos.

Somos bombardeados todo dia, o dia inteiro, por informações. Estamos saturados de dados e de interpretações. A literatura – para além do prazer intelectual, inegável – oferece algo diferente. Trata-se de uma energia que o teórico Hans Ulrich Gumbrecht chama de “presença” e que remete a um contato com o mundo que afeta o corpo do indivíduo para além e para aquém do pensamento racional.

Muitos eventos produzem presença, é claro: jogos e exercícios esportivos, shows de música, encontros com amigos, cerimônias religiosas e relações amorosas e sexuais são exemplos óbvios. Por que, então, defender uma prática eminentemente intelectual, como a experiência literária, com o objetivo de “produzir presença”, isto é, de despertar sensações corpóreas e afetos? A resposta está, como já evoquei mais acima, na potência guardada pela ficção e pela poesia para disparar a imaginação. Mas o que é, afinal, a imaginação, essa noção tão corriqueira e sobre a qual refletimos tão pouco?

Proponho pensar a imaginação como um espaço de liberdade ilimitada, no qual, a partir de estímulos do mundo exterior, somos confrontados (mas também despertados) a responder com memórias, sentimentos, crenças e conhecimentos para forjar, em última instância, aquilo que faz de cada um de nós diferente dos demais. A leitura de textos literários é uma forma privilegiada de disparar esse mecanismo imenso, porque demanda de nós todas essas reações de modo ininterrupto, exige que nosso corpo esteja ele próprio presente no espaço ficcional com que nos deparamos, sob pena de não existir espaço ficcional algum.

(Ligia G. Diniz. https://brasil.elpais.com. 22.02.2018. Adaptado)