Artificial Intelligence and Gender Bias in Brazilian Court Decisions
DOI:
https://doi.org/10.30545/juridica.2026.ene-jun.5Keywords:
Generative artificial intelligence, gender bias, judicial decisions, NLP, substantive equalityAbstract
This article analyzes the use of generative artificial intelligence models to detect and correct gender bias in Brazilian judicial decisions, based on the CNJ's Protocol for Judgment with a Gender Perspective. Adopting a qualitative and exploratory approach, Natural Language Processing techniques were applied in a multiple-case study that evaluated three prompt configurations (ML, CL, and MCL). The results indicate that normative and semantic calibration of instructions is essential for the quality of the inferences. The hybrid MCL model proved to be the most effective in identifying stereotypes, victim-blaming, and omissions regarding vulnerability. The findings suggest that generative AI can perform formative and institutional auditing functions, provided it is calibrated according to clear normative parameters and subject to continuous human oversight. Its application requires the progressive expansion of the corpus and further empirical validation for its eventual consolidation in judicial practice.
References
Chen, D. L., Ash, E., & Ornaghi, A. (2020). Stereotypes in high-stakes decisions: Evidence from U.S. Circuit Courts SSRN Electronic Journal. https://ssrn.com/abstract=3749842
Benatti, R. M. (2023). Revealing gender biases in court decisions with Natural Language Processing. [Tesis de maestría, Universidade Estadual de Campinas]. Repositório da Unicamp. https://repositorio.unicamp.br/acervo/detalhe/1313341
Boden, M. A. (2020). Inteligência artificial: Uma brevíssima introdução (F. Santos, Trad.). Editora Unesp.
Conselho Nacional de Justiça. (2021). Protocolo para Julgamento com Perspectiva de Gênero. https://www.cnj.jus.br/wp-content/uploads/2021/10/protocolo-para-julgamento-com-perspectiva-de-genero-cnj-24-03-2022.pdf
Carmo, F. A. do, Serejo, F., Jacob Junior, A. F. L., Santana, E. E. C., & Lobato, F. M. F. (2023). Embeddings jurídico: Representações orientadas à linguagem jurídica brasileira. En Anais do 11º Workshop de Computação Aplicada em Governo Eletrônico (WCGE) (pp. 188–199). Sociedade Brasileira de Computação.
Coeckelbergh, M. (2023). Ética na inteligência artificial. Ubu Editora; Editora PUC-Rio.
Gabriel, M. (2022). Inteligência artificial: Do zero a superpoderes (2.ª ed.). Atlas.
OpenAI. (2024). Embeddings. OpenAI API Documentation. https://platform.openai.com/docs/guides/embeddings
Peixoto, F. H., & Bonat, D. (2023). GPTs e Direito: Impactos prováveis das IAs generativas nas atividades jurídicas brasileiras. Sequência: Estudos Jurídicos e Políticos, 44(93). https://doi.org/10.5007/2177-7055.2023.e94238
Pinto, A. G., Costa, B., Alves, P., & Ferreira, P. (2020). Biased language detection in court decisions. En International Conference on Intelligent Data Engineering and Automated Learning (IDEAL) (pp. 402–410). Springer.
Pinto, A. G., Costa, B., Alves, P., & Ferreira, P. (2021). Deteção de linguagem tendenciosa em decisões judiciais. Revista da Associação Portuguesa de Linguística, 8, 203–217. https://ojs.apl.pt/index.php/rapl/article/view/128
Salmoria, C. H. (2024). Algoritmo de detecção de viés de gênero em decisões judiciais: Um estudo de caso. En J. L. de Carvalho et al. (Orgs.), Limiares do direito privado, tecnologia e sociedade (pp. 277–296). Pembroke Collins.
Severi, F. C. (2023). Reescrevendo decisões judiciais em perspectivas feministas: a experiência brasileira. Faculdade de Direito de Ribeirão Preto. https://doi.org/10.11606/9786586465327
Sexton, C., & Tozzi, G. (2020.). Detecting evidence of gender discrimination in Fijian court documents. ICAAD. https://gregtozzi.com/media/fijian_gbd_report.pdf
UNESCO. (2021). Recomendación sobre la Ética de la Inteligencia Artificial. https://unesdoc.unesco.org/ark:/48223/pf0000381137
Yin, R. K. (2005). Estudo de caso: Planejamento e métodos (3.ª ed.). Bookman.
Crossref
Todo el contenido de esta revista, está bajo 
