Inteligencia Artificial y Sesgos de Género en Decisiones Judiciales Brasileñas
DOI:
https://doi.org/10.30545/juridica.2026.ene-jun.5Palabras clave:
Inteligencia artificial generativa, sesgos de género, resoluciones judiciales, PLN, igualdad sustantivaResumen
El presente artículo analiza el empleo de modelos de inteligencia artificial generativa para detectar y corregir sesgos de género en resoluciones judiciales brasileñas, tomando como marco el Protocolo para el Juicio con Perspectiva de Género del CNJ. Mediante un enfoque cualitativo y exploratorio, se aplicaron técnicas de Procesamiento de Lenguaje Natural en un estudio de caso múltiple que evaluó tres configuraciones de instrucciones o prompts (ML, CL y MCL). Los resultados evidencian que la calibración normativa y semántica de las instrucciones resulta fundamental para la precisión de las inferencias. El modelo híbrido MCL demostró ser el más eficaz en la identificación de estereotipos, la culpabilización de la víctima y la omisión de situaciones de vulnerabilidad. Se concluye que la inteligencia artificial generativa puede ejercer funciones formativas y de auditoría institucional, siempre que opere bajo parámetros normativos rigurosos y supervisión humana continua. Su implementación exige la expansión progresiva del corpus analizado y una mayor validación empírica para su eventual consolidación en la praxis judicial.
Referencias
Chen, D. L., Ash, E., & Ornaghi, A. (2020). Stereotypes in high-stakes decisions: Evidence from U.S. Circuit Courts SSRN Electronic Journal. https://ssrn.com/abstract=3749842
Benatti, R. M. (2023). Revealing gender biases in court decisions with Natural Language Processing. [Tesis de maestría, Universidade Estadual de Campinas]. Repositório da Unicamp. https://repositorio.unicamp.br/acervo/detalhe/1313341
Boden, M. A. (2020). Inteligência artificial: Uma brevíssima introdução (F. Santos, Trad.). Editora Unesp.
Conselho Nacional de Justiça. (2021). Protocolo para Julgamento com Perspectiva de Gênero. https://www.cnj.jus.br/wp-content/uploads/2021/10/protocolo-para-julgamento-com-perspectiva-de-genero-cnj-24-03-2022.pdf
Carmo, F. A. do, Serejo, F., Jacob Junior, A. F. L., Santana, E. E. C., & Lobato, F. M. F. (2023). Embeddings jurídico: Representações orientadas à linguagem jurídica brasileira. En Anais do 11º Workshop de Computação Aplicada em Governo Eletrônico (WCGE) (pp. 188–199). Sociedade Brasileira de Computação.
Coeckelbergh, M. (2023). Ética na inteligência artificial. Ubu Editora; Editora PUC-Rio.
Gabriel, M. (2022). Inteligência artificial: Do zero a superpoderes (2.ª ed.). Atlas.
OpenAI. (2024). Embeddings. OpenAI API Documentation. https://platform.openai.com/docs/guides/embeddings
Peixoto, F. H., & Bonat, D. (2023). GPTs e Direito: Impactos prováveis das IAs generativas nas atividades jurídicas brasileiras. Sequência: Estudos Jurídicos e Políticos, 44(93). https://doi.org/10.5007/2177-7055.2023.e94238
Pinto, A. G., Costa, B., Alves, P., & Ferreira, P. (2020). Biased language detection in court decisions. En International Conference on Intelligent Data Engineering and Automated Learning (IDEAL) (pp. 402–410). Springer.
Pinto, A. G., Costa, B., Alves, P., & Ferreira, P. (2021). Deteção de linguagem tendenciosa em decisões judiciais. Revista da Associação Portuguesa de Linguística, 8, 203–217. https://ojs.apl.pt/index.php/rapl/article/view/128
Salmoria, C. H. (2024). Algoritmo de detecção de viés de gênero em decisões judiciais: Um estudo de caso. En J. L. de Carvalho et al. (Orgs.), Limiares do direito privado, tecnologia e sociedade (pp. 277–296). Pembroke Collins.
Severi, F. C. (2023). Reescrevendo decisões judiciais em perspectivas feministas: a experiência brasileira. Faculdade de Direito de Ribeirão Preto. https://doi.org/10.11606/9786586465327
Sexton, C., & Tozzi, G. (2020.). Detecting evidence of gender discrimination in Fijian court documents. ICAAD. https://gregtozzi.com/media/fijian_gbd_report.pdf
UNESCO. (2021). Recomendación sobre la Ética de la Inteligencia Artificial. https://unesdoc.unesco.org/ark:/48223/pf0000381137
Yin, R. K. (2005). Estudo de caso: Planejamento e métodos (3.ª ed.). Bookman.



