Nota de Contexto
Este artigo foi desenvolvido como Atividade Avaliativa 1 da disciplina "Tecnologia Emergente e Protagonismo" da Universidade Veiga de Almeida. Representa análise crítica baseada em pesquisa bibliográfica rigorosa e perspectiva prática como desenvolvedor de software com 4 anos de experiência em sistemas críticos e IA. Todas as afirmações e dados são respaldados pelas referências listadas abaixo.
Algoritmos não são neutros
Como desenvolvedor de software com 4 anos de experiência em sistemas críticos, automação de processos e aplicação avançada de IA, gostaria de discutir Ética e Algoritmos. Precisamos primeiro entender o que é, de fato, um algoritmo, já que muitas pessoas usam o termo sem compreender o que acontece em segundo plano. Em termos simples, um algoritmo é apenas uma sequência de passos lógicos para resolver um problema ou atingir um objetivo. Por exemplo: se o problema é tomar um café, a solução algorítmica envolve levantar, andar até a cozinha, verificar se o café está pronto e, se estiver, servir; caso contrário, preparar uma nova garrafa.
Atualmente, vivenciamos uma nova revolução marcada pelo crescimento da IA, da Internet das Coisas (IoT), de softwares autônomos e de sistemas distribuídos em nuvem. Modelos avançados de IA, como as LLMs e sistemas de visão computacional, são algoritmos programados para processar entradas dos usuários, realizar cálculos estatísticos e comparar dados estruturados em espaços vetoriais onde conceitos e imagens são representados por coordenadas numéricas.
É exatamente aí que a ética se torna indispensável. Vivemos em uma sociedade historicamente marcada por preconceitos e relações de poder. Como os modelos de IA são treinados com dados gerados por essa mesma sociedade, eles tendem a reproduzir e automatizar esses viéses. Um exemplo claro ocorre em sistemas de reconhecimento facial voltados à segurança pública: no Brasil, a tecnologia começou a ser testada em 2019 e resultou na prisão de 184 pessoas, 90% das quais eram negras (CANAL FUTURA, 2023). Um caso notório envolveu uma mulher negra inocente no Rio de Janeiro, presa após o algoritmo identificá-la como foragida. Esses números não são coincidência: a base de dados foi criada sob uma lógica racista, refletindo padrões históricos de vigilância discriminatória.
As organizações que desenvolvem IA carregam responsabilidade central. Embora o uso de IA nas empresas tenha mais que dobrado desde 2017, menos de 25% contam com práticas maduras de governança (FIA, 2025). Indivíduos e sociedade civil precisam questionar criticamente essas tecnologias, exigir regulação e, no caso de profissionais da tecnologia, recusar participação em projetos que perpetuarão injustiças. A construção de uma IA ética é um ato político que requer que cada um reconheça seu papel como agente de mudança.
Referências
CANAL FUTURA. A inteligência artificial é racista? Fundação Roberto Marinho, 2023. Disponível em: https://futura.frm.org.br/conteudo/professores/artigo/inteligencia-artificial-e-racista. Acesso em: 25 ago. 2025.
FIA - FUNDAÇÃO INSTITUTO DE ADMINISTRAÇÃO. Inteligência artificial e ética: qual o panorama? 2025. Disponível em: https://fia.com.br/blog/etica-na-inteligencia-artificial/. Acesso em: 25 ago. 2025.
SILVA, T. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Editora Contexto, 2020.
