O que discriminao algortmica? p6a6p

No basta entregar gigantescas bases de dados para serem manipuladas pela Inteligncia Artificial. preciso permanecer alertas e crticos

Por Godo R. Goemann Jr.

Google, Microsoft, Amazon, Meta (Facebook, Whats e outros) e agora a OpenAI (ChatGTP e Sora), alm de milhares de startups no mundo inteiro, produzem notveis aplicaes de Inteligncia Artificial (IA). Sade, educao, comrcio, logstica, engenharias, agricultura, artes, comunicao, segurana policial e ciberntica, proteo ao meio ambiente, pesquisas, e muitos outros campos so contemplados com IA. Alm disso ela realiza descobertas cientficas que os seres humanos no haviam imaginado, analisando milhes de documentos em campos como a fsica e a qumica. Com base neles, por meio de algoritmos e predies de natureza matemtica e estatstica, a IA faz descobertas que os olhos humanos no haviam enxergado.

Contudo, a IA est em sua pr-infncia e, por isso, chamada de Narrow AI, IA estreita, ou IA burra. A Dra. Kate Crawford lembra que ela tambm no artificial a IA depende de seres humanos para catalogar os dados extrados da internet e outras bases.

Nesse contexto, a expresso discriminao algortmica ganhou visibilidade. Muitos sistemas de IA tm apresentado resultados que demonstram preconceitos e vieses na anlise dos dados. Alguns exemplos dentre milhares que tem ocorrido nos ltimos 10 anos nos EUA e Europa:
Sistemas de Recursos Humanos utilizando IA no selecionaram mulheres porque perceberam em bases de dados que elas recebiam salrios menores que os dos homens, exercendo as mesmas funes. Por isso concluram que as mulheres so menos competentes que os homens, e no deveriam ser contratadas.

Sistemas policiais utilizando IA nos EUA tenderam a suspeitar mais de negros do que de brancos, porque as bases de dados indicavam mais negros do que brancos em presdios.

Sistemas bancrios de concesso de crdito negavam financiamentos a certas pessoas. Descobriu-se que, entre outros motivos, elas residiam em bairros populares.

Nos EUA, um Programa de gerenciamento de cuidados de enfermagem para pacientes de alto risco recomendou mais pacientes brancos do que negros. A causa foi que, em alguns casos, negros tinham rendimentos menores para pagar seguros de sade.

Em 2021, na Holanda, o governo renunciou aps um sistema de IA acusar injustamente milhares de famlias de fraude em suas declaraes sociais.

A IA influencia negativamente as Redes Sociais, na medida em que refora as escolhas das pessoas, trazendo sempre mais do mesmo, obstruindo a variabilidade.

Esses so apenas alguns exemplos. Muitas vezes as causas dos problemas so bases de dados naturalmente sujas, contendo vieses em sua origem, e reproduzindo realidades sociais injustas do mundo real. Assim, sabe-se que no basta entregar gigantescas bases de dados para serem manipuladas pela IA. Elas carregam preconceitos embutidos desde sua formao, e tambm erros tcnicos no desenvolvimento da codificao dos aplicativos de IA. Por fim, no h espao aqui para contemplar aplicaes de IA em guerras, robs autnomos, terrorismo, e uso por hackers.

Nosso papel como cristos consiste em permanecer alertas e crticos na avaliao destas nuances.

• Godo R. Goemann Jr., socilogo e profissional de TI, autor do livro Inteligncia Artificial e suas ambivalncias (Amazon, Ed. Alta Books). Do mesmo autor consulte o artigo O anti-iluminismo da Inteligncia Artificial.

---

REVISTA ULTIMATO | GRATIDO O QUE VOC TEM QUE N OTENHA RECEBIDO?

Reconhecer que necessrio dar graas pela igreja a que e a que ser (igreja triunfante) pode ser uma chave para nos aproximar da comunidade dos fiis, nestes dias em que a confiana nas igrejas e a frequncia nelas esto em baixa. Ter feito as pazes com Deus por meio de Jesus Cristo, ter a sua presena prxima, experimentar isso este o maior motivo de gratido.

disso que se trata a edio 406 da revista Ultimato. Para , clique aqui.

---

Saiba mais:
Filosofia da Tecnologia, Verkerk, Van Der Stoep. Hoogland, De Vries
F, Esperana e Tecnologia - Cincia e f crist em uma cultura tecnolgica, Egbert Schuurmann