Justiça e o erro do algoritmo
Por LDS Ativos Intelectuais – Reflexões sobre o humano no meio do algoritmo
Justiça, na propaganda do banco, vinha embrulhada em palavras bonitas: “igualdade de oportunidades”, “crédito para quem faz o Brasil acontecer”, “decisão em segundos com nossa inteligência artificial”. Maria acreditou. Afinal, o pequeno supermercado que ela gerenciava, com faturamento anual de um milhão e duzentos mil reais, não era mais um sonho frágil: era trabalho diário, nota fiscal em dia, folha de pagamento honrada na unha. Tudo o que ela queria era uma geladeira nova para o setor de frutas e legumes, porque a antiga já não segura o calor. Em dias de mais de trinta graus, as folhas murcham antes do almoço; os tomates, tão vermelhos pela manhã, viram molho involuntário até o fim da tarde.
No aplicativo, o processo parecia simples: ela digitou os dados da empresa, anexou fotos das prateleiras, informou o histórico de vendas, declarou o estoque. A IA “pensou” por alguns segundos, uma roda girando no centro da tela como se fosse deliberar com cuidado sobre o futuro do hortifrúti. A resposta veio limpa, educada, indiscutível: “Proposta recusada pelo sistema. Tente novamente em 90 dias.” Não havia uma frase sobre a importância do negócio para o bairro, nenhum reconhecimento do esforço de manter preços justos na periferia, nenhuma explicação concreta. Apenas o silêncio elegante do algoritmo, que age como se a justiça fosse uma variável estatística, não uma história de carne e osso.
Nos dias seguintes, Maria ficou sabendo, por um fornecedor, que uma loja de uma grande rede em outro bairro tinha conseguido o mesmo tipo de crédito em segundos — com juros mais baixos, limite maior e direito a bônus promocional. O sistema considerara “perfil ideal”: endereço mais valorizado, histórico bancário robusto, nome de marca reconhecida. A Recomendação da UNESCO fala que sistemas de IA devem promover justiça e não discriminação, corrigindo desigualdades em vez de aprofundá‑las, mas ali, no visor do celular, a matemática parecia escolher sempre o lado mais forte. Maria sentiu, pela primeira vez, que a tal “inteligência” não conversava com o chão pegajoso do seu mercado, com as mãos calejadas que repunham as caixas, com as crianças que vinham comprar uma maçã fiado.
Ela decidiu não aceitar o “não” como decreto metafísico. Imprimiu o extrato da recusa, juntou notas de pequenos produtores, fotografou as bandejas de fruta estragando por falta de refrigeração, e foi à agência física. Sentou na frente do gerente, um homem jovem que parecia falar mais a língua do sistema do que a dela. “Olha, Maria, quem decide é o algoritmo. Ele avalia risco por uma série de critérios objetivos”, explicou, sem olhar muito nos olhos. Ela insistiu: “Que critérios? Meu faturamento está aqui, meu histórico está aqui, eu não atrasei uma parcela sequer. Que justiça é essa que não vê o meu lado?”. O gerente deu uma olhada rápida no monitor, franziu a testa, baixou a voz: “Pra ser franco, o modelo penaliza muito pequenas empresas em certas regiões. O CEP pesa, o histórico de crédito do bairro pesa. O sistema entende como alto risco.”
Não houve reparação heroica, nem queda dramática do império algorítmico. Depois de muita conversa, o gerente propôs uma gambiarra institucional: reduzir o valor do financiamento, pedir um avalista com endereço em outra região, registrar parte da operação em um processo manual, “por fora” da triagem automática. Maria saiu de lá com um crédito menor do que precisava, uma geladeira menos potente do que sonhava, mas suficiente para segurar o calor mais um verão. Caminhando de volta para o mercado, pensou que, naquela história, a justiça não tinha sido exatamente feita — tinha sido improvisada.
Naquele fim de tarde, enquanto ligava a geladeira nova e organizava as frutas na prateleira, Maria sentiu duas coisas ao mesmo tempo: um alívio real, quase físico, ao ver as folhas de alface firmes sob o ar frio, e uma espécie de amargura silenciosa, porque sabia que não era assim que deveria funcionar. A IA do banco continuava lá, negando crédito a outras Marias e outros mercados que talvez não tivessem tempo, voz ou disposição para enfrentar o gerente. A justiça, pensou ela, não pode depender de quem insiste mais na porta da agência! No caderninho em que anotava ideias para melhorar o negócio, escreveu uma frase para não esquecer: “Se o algoritmo não aprende a ver a nossa história, a gente precisa aprender a contar essa história em voz mais alta.”
No aplicativo, o processo parecia simples: ela digitou os dados da empresa, anexou fotos das prateleiras, informou o histórico de vendas, declarou o estoque. A IA “pensou” por alguns segundos, uma roda girando no centro da tela como se fosse deliberar com cuidado sobre o futuro do hortifrúti. A resposta veio limpa, educada, indiscutível: “Proposta recusada pelo sistema. Tente novamente em 90 dias.” Não havia uma frase sobre a importância do negócio para o bairro, nenhum reconhecimento do esforço de manter preços justos na periferia, nenhuma explicação concreta. Apenas o silêncio elegante do algoritmo, que age como se a justiça fosse uma variável estatística, não uma história de carne e osso.
Nos dias seguintes, Maria ficou sabendo, por um fornecedor, que uma loja de uma grande rede em outro bairro tinha conseguido o mesmo tipo de crédito em segundos — com juros mais baixos, limite maior e direito a bônus promocional. O sistema considerara “perfil ideal”: endereço mais valorizado, histórico bancário robusto, nome de marca reconhecida. A Recomendação da UNESCO fala que sistemas de IA devem promover justiça e não discriminação, corrigindo desigualdades em vez de aprofundá‑las, mas ali, no visor do celular, a matemática parecia escolher sempre o lado mais forte. Maria sentiu, pela primeira vez, que a tal “inteligência” não conversava com o chão pegajoso do seu mercado, com as mãos calejadas que repunham as caixas, com as crianças que vinham comprar uma maçã fiado.
Ela decidiu não aceitar o “não” como decreto metafísico. Imprimiu o extrato da recusa, juntou notas de pequenos produtores, fotografou as bandejas de fruta estragando por falta de refrigeração, e foi à agência física. Sentou na frente do gerente, um homem jovem que parecia falar mais a língua do sistema do que a dela. “Olha, Maria, quem decide é o algoritmo. Ele avalia risco por uma série de critérios objetivos”, explicou, sem olhar muito nos olhos. Ela insistiu: “Que critérios? Meu faturamento está aqui, meu histórico está aqui, eu não atrasei uma parcela sequer. Que justiça é essa que não vê o meu lado?”. O gerente deu uma olhada rápida no monitor, franziu a testa, baixou a voz: “Pra ser franco, o modelo penaliza muito pequenas empresas em certas regiões. O CEP pesa, o histórico de crédito do bairro pesa. O sistema entende como alto risco.”
Não houve reparação heroica, nem queda dramática do império algorítmico. Depois de muita conversa, o gerente propôs uma gambiarra institucional: reduzir o valor do financiamento, pedir um avalista com endereço em outra região, registrar parte da operação em um processo manual, “por fora” da triagem automática. Maria saiu de lá com um crédito menor do que precisava, uma geladeira menos potente do que sonhava, mas suficiente para segurar o calor mais um verão. Caminhando de volta para o mercado, pensou que, naquela história, a justiça não tinha sido exatamente feita — tinha sido improvisada.
Naquele fim de tarde, enquanto ligava a geladeira nova e organizava as frutas na prateleira, Maria sentiu duas coisas ao mesmo tempo: um alívio real, quase físico, ao ver as folhas de alface firmes sob o ar frio, e uma espécie de amargura silenciosa, porque sabia que não era assim que deveria funcionar. A IA do banco continuava lá, negando crédito a outras Marias e outros mercados que talvez não tivessem tempo, voz ou disposição para enfrentar o gerente. A justiça, pensou ela, não pode depender de quem insiste mais na porta da agência! No caderninho em que anotava ideias para melhorar o negócio, escreveu uma frase para não esquecer: “Se o algoritmo não aprende a ver a nossa história, a gente precisa aprender a contar essa história em voz mais alta.”
👉 Criei, para ilustrar, uma imagem em um assistente de IA, veja o prompt logo após, vamos ver o resultado, sendo gerada pelo https://www.perplexity.ai/
.png)
Ilustração em estilo semi-realista para blog filosófico em português. Cena principal: Maria, mulher brasileira na faixa dos 40–50 anos, pele morena, cabelos presos em coque simples, usando blusa polo e calça jeans, sentada em uma cadeira de plástico na agência de um banco. Em frente a ela, uma mesa com um gerente jovem, de camisa social clara e gravata afrouxada, olhando para a tela de um computador de forma desconfortável, como quem tenta explicar uma decisão injusta. A expressão de Maria é uma mistura de cansaço, firmeza e esperança frustrada, segurando na mão alguns papéis amassados (notas fiscais, comprovantes) e um celular com a tela mostrando, de forma sugestiva e sem texto legível, a notificação de ‘crédito recusado’. Ao fundo, vê-se um painel institucional com slogans genéricos sobre “crédito para quem faz o Brasil acontecer” e imagens felizes de pequenos negócios, em contraste irônico com a situação. Pela porta de vidro da agência, do lado de fora, aparece em desfoque a fachada simples do pequeno supermercado de bairro de Maria, com caixas de frutas visíveis e uma geladeira antiga. Atmosfera agridoce, com luz de fim de tarde entrando pela vitrine, destacando o contraste entre o discurso moderno do banco e a realidade da personagem. Formato horizontal 16:9.
Para mais conhecimento acesse a postagem: https://hubdeativosintelectuais.blogspot.com/2025/12/fenomenologia-e-etica-para-o-caos-do.html
Granhe um brinde ao participar do nosso projeto baseado na plataforma Benfeitoria 👇
https://benfeitoria.com/projeto/a-biblia-da-humanidade-formato-artesanal-grande-impacto-237o
Gratidão por chegar até aqui! 💕
Comentários
Postar um comentário