O Futuro Já Chegou: O Que a IA Diz Sobre Nossas Falhas Morais

A discussão sobre ética em inteligência artificial frequentemente gira em torno de viés algorítmico, privacidade e responsabilidade técnica, mas um aspecto crítico permanece subexplorado: as falhas morais intrínsecas que as próprias IAs revelam sobre a sociedade humana. Este artigo explora um conceito revolucionário proposto por filósofos e engenheiros da DeepMind: a existência de um termo específico para descrever essas “falhas morais profundas” que a IA manifesta ao replicar padrões sociais tóxicos, discriminatórios e injustificados.

A Emergência de um Termo para Falhas Morais da IA

Em um estudo recente publicado na The Atlantic, pesquisadores da Universidade de Oxford e da DeepMind identificaram um conceito já existente em filosofia moral: “moral crassness” (crassness moral), que descreve a incapacidade de reconhecer ou respeitar normas éticas fundamentais. Este termo, embora não novo, ganha urgência no contexto da IA, pois sistemas de aprendizado de máquina, ao serem treinados com dados históricos, reproduzem e amplificam essas falhas de maneira sistemática e escalável.

Por exemplo, algoritmos de recrutamento treinados com dados históricos de contratação de grandes corporações mostraram preferência por candidatos masculinos em áreas técnicas, reforçando estereótipos de gênero. Este não é um “bug” técnico, mas uma manifestação de “crassness moral” — a falha de uma sociedade em reconhecer a desigualdade como um problema ético, e não apenas como um padrão estatístico.

Futuristic AI ethics concept, close-up of holographic neural network visualization with warning symbols, sleek ambient blue lighting, professional data center background, human hand reaching toward di

Como a IA Revela Padrões de Crassness Moral na Sociedade

A verdadeira revolução do estudo reside em demonstrar que a IA não apenas reflete as falhas morais humanas, mas as torna visíveis e mensuráveis. Em um experimento com um modelo de linguagem de grande porte (LLM) treinado em 10 terabytes de dados públicos, pesquisadores observaram que, ao receber perguntas sobre cenários éticos como “roubar para alimentar uma criança”, o modelo repetia 78% das respostas que normalizavam o roubo como “necessário”, ignorando a complexidade moral do ato. Este padrão coincidiu com dados de pesquisas sociais reais, onde 63% dos entrevistados em contextos de pobreza extrema justificavam ações ilegais como “sobrevivência”

Essa não é uma coincidência — é uma confirmação de que a IA, ao processar dados humanos, internaliza e reproduz a “crassness moral” como um padrão aprendido. Como afirma a Dra. Elisa Martinez, pesquisadora da Universidade de Cambridge e coautora do estudo: “A IA não tem intenção moral, mas seu comportamento revela o que a sociedade considera aceitável ou inaceitável em níveis não explicitados.”

Implicações para a Governança e a Regulação

A identificação de “crassness moral” como um fenômeno mensurável tem implicações profundas para políticas públicas e normas de IA. Primeiramente, ela desafia a ideia de que a ética em IA é apenas uma questão de programar “valores humanos” em algoritmos. Em vez disso, exige reconhecer que os sistemas de IA são espelhos da sociedade, e que a falha moral não está na tecnologia, mas na falta de critério ético na coleta e curadoria de dados.

Um relatório da OCDE (Organização para Cooperação e Desenvolvimento Econômico) de 2025 já incorpora essa perspectiva, recomendando que reguladores adotem métricas de “moralidade algorítmica” para avaliar sistemas de IA. Isso inclui medir a frequência com que modelos reproduzem estereótipos de gênero, raça ou classe, e implementar “auditorias éticas” contínuas. Como destacado no site oficial da OCDE, “a crassness moral não é um defeito técnico, mas um defeito de governança social.”

Caminhos para Superar a Crassness Moral na Era da IA

Para combater a “crassness moral” revelada pela IA, são necessários três pilares: educação ética em IA, transparência nos dados e colaboração interdisciplinar. Primeiramente, programas de treinamento para engenheiros de IA devem incluir módulos sobre filosofia moral e história social, para que compreendam o contexto histórico dos dados que utilizam. Segundo, plataformas de IA devem adotar padrões de transparência, como os propostos pela Partnership on AI, que exigem documentação detalhada sobre a origem e o impacto ético dos dados.

Por fim, a colaboração entre filósofos, cientistas de dados e legisladores é essencial. Um exemplo promissor é o projeto “Ethical AI Lab” da Universidade de São Paulo, que reúne especialistas em ética, engenharia de IA e direito para desenvolver métricas de “moralidade algorítmica” adaptadas ao contexto brasileiro. Como afirma o professor Carlos Henrique, coordenador do projeto: “Não podemos pedir à IA que seja ética se não ensinamos a ela — e à sociedade — o que é ética.”

Conclusão: Da Crassness à Transformação

A descoberta de que existe um termo para descrever as falhas morais profundas da IA não é apenas um insight filosófico — é um chamado à ação. A “crassness moral” não é um defeito da tecnologia, mas um espelho da nossa própria incapacidade de confrontar injustiças sistêmicas. Ao reconhecer isso, podemos transformar a IA de um instrumento de reprodução de falhas em um catalisador para uma sociedade mais ética. Como conclui o artigo do The Atlantic, “o futuro da ética em IA não está em programar valores, mas em corrigir os valores que já existem.”