Inteligência Artificial e Direitos Fundamentais no Brasil: Uma Análise sobre Vieses Algorítmicos, Transparência Decisória e o Projeto de Lei 2338/2023: Inteligência Artificial e Direitos Fundamentais no Brasil
Barra lateral de artigos
Conteúdo do artigo principal
Resumo
O presente artigo tem por objetivo geral analisar criticamente os impactos da implementação de sistemas de inteligência artificial na esfera dos direitos fundamentais no Brasil, com foco nos vieses algorítmicos, na transparência dos processos decisórios e na adequação do Projeto de Lei brasileiro nº 2338/2023. Foram elencados como objetivos específicos os seguintes: a)mapear alguns modelos de IA utilizados no Brasil e no mundo, e que têm potencial de interferir em direitos fundamentais, como a privacidade, igualdade, e o devido processo legal; b) examinar os casos de vieses algorítmicos identificados em sistemas de IA, ilustrando suas consequências sobre grupos vulneráveis; c) avaliar o projeto de regulamentação brasileiro – o Projeto de Lei 2338/2023, e sua possibilidade de garantir um ambiente seguro e ético para o uso dessas tecnologias no Brasil. O presente estudo se justifica diante do crescimento acelerado do uso de IA em diversas esferas da vida social, econômica e jurídica no Brasil. A ausência de regulamentação robusta e o risco de perpetuação de discriminações, através de sistemas algorítmicos, demandam uma análise aprofundada e crítica para garantir que os direitos fundamentais sejam protegidos. A metodologia utilizada tem natureza exploratória e descritiva, abordando casos práticos e, também, como procedimento técnico, utilizou-se de pesquisa bibliográfica.
Downloads
Detalhes do artigo
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Autores que publicam nesta revista concordam com os seguintes termos:
a) Os autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons Attribution License (https://creativecommons.org/licenses/by/4.0/deed.pt_BR) que permite o compartilhamento do trabalho com reconhecimento da sua autoria e publicação inicial nesta revista.
b) Esta revista proporciona acesso público a todo o seu conteúdo, uma vez que isso permite uma maior visibilidade e alcance dos artigos e resenhas publicados. Para maiores informações sobre esta abordagem, visite Public Knowledge Project, projeto que desenvolveu este sistema para melhorar a qualidade acadêmica e pública da pesquisa, distribuindo o OJS assim como outros softwares de apoio ao sistema de publicação de acesso público a fontes acadêmicas. Os nomes e endereços de e-mail neste site serão usados exclusivamente para os propósitos da revista, não estando disponíveis para outros fins.
This journal provides open any other party.
Esta obra está licenciada sob uma Licença Creative Commons.
https://creativecommons.org/licenses/by/4.0/deed.pt_BR.
Referências
AGÊNCIA SENADO. Senado aprova regulamentação da inteligência artificial; texto vai à Câmara, 10. dez.
Disponível em: < https://www12.senado.leg.br/noticias/materias/2024/12/10/senado-aprovaregulamentacao-da-inteligencia-artificial-texto-vai-a-camara > acesso em 10.fev.2025.
ALENCAR, Itana. Com mais de mil prisões na BA, sistema de reconhecimento facial é criticado por ‘racismo algorítmico’; inocente ficou preso por 26 dias. G1. Disponível em: < https://g1.globo.com/ba/bahia/noticia/2023/09/01/com-mais-de-mil-prisoes-na-ba-sistema-de-reconhecimento-facial-ecriticado-por-racismo-algoritmico-inocente-ficou-preso-por-26-dias.ghtml > acesso em 12.mai.2024
ALMEIDA, André C. M. M.; Chang, luiza. Inteligência artificial: uma perspectiva da regulação no Brasil e na China. JOTA. 17. Jan 2025. Disponível em: < https://www.jota.info/artigos/inteligencia-artificialuma-perspectiva-da-regulacao-no-brasil-e-na-china > acesso em 15.fev.2025.
BRASIL. Senado Federal. Projeto de Lei nº 2338, de 2023. Dispõe sobre o uso da inteligência artificial no Brasil. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 10 mar. 2025.
Buolamwini, Joy, and Timnit Gebru. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 2018, pp. 77-91.
BUOLAMWINI, Joy. AI, Ain’t I A Woman? Disponível em: < www.youtube.com/watch?v=QxuyfWoVV98 > acesso em 23.ago.2023.
CB INSIGHTS. 12 Startups Fighting Cancer With Artificial Intelligence. 2016. Disponível em: < https://www.cbinsights.com/research/ai-startups-fighting-cancer/ > Acesso em 14.Nov.2023.
CITIZEN ADVISE. Discriminatory pricing: Exploring the ‘ethnicity penalty’ in the insurance market. Disponível em: < https://www.citizensadvice.org.uk/about-us/our-work/policy/policy-researchtopics/consumer-policy-research/consumer-policy-research/discriminatory-pricing-exploring-theethnicity-penalty-in-the-insurance-market1/ > acesso em 04.dez.2023
CONSOLIDATE CREDIT. Revolver vs. Transactor: What Kind of Credit User are You? Disponível em: < https://www.consolidatedcredit.org/financial-news/revolver-vs-transactor/ > acesso em 15.mar.2025
DA ROSA, Alexandre; GUASQUE, Bruno. O avanço da disrupção nos tribunais brasileiros. In: NUNES, Daniel; LUCON, Paulo Henrique dos Santos; NAVARRO WOLKART, Eduardo (Orgs.). Inteligência artificial e direito processual: os impactos da virada tecnológica no Direito Processual. Belo Horizonte: JusPODIVM, 2021. p. 93–121
DAMASCENO, Victoria; FERNANDES, Samuel. Sob críticas por viés racial, reconhecimento facial chega a 20 estados. Folha, 2021. Disponível em: < https://www1.folha.uol.com.br/cotidiano/2021/07/sob-criticas-por-vies-racial-reconhecimento-facial-chega-a-20-estados.shtml > acesso em 20.0ut.2022
DASTIN, J. (2018, 10 de outubro). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. Disponívem em: < https://www.reuters.com/article/us-amazon-com-jobsautomation-insight-idUSKCN1MK08G > acesso em 15.fev.2025.
FAIR BY DESIGN. The hidden risks of being poor: the poverty premium in insurance. Disponível em: <https://fairbydesign.com/wp-content/uploads/2021/09/IFoA_Hidden_Risks_of_Being_Poor_Aug_21_v09.pdf > acesso em 04.dez.2023
FERRAJOLI, Luigi. Por uma Teoria dos Direitos e dos Bens Fundamentais. Tradução de Alexandre Salim, Alfredo Copetti Neto, Daniela Cademartori, Hermes Zaneti Júnior, Sérgio Cademartori. Porto Alegre: Livraria do Advogado, 2011. (sem título original no exemplar utilizado), p.49).
FGV CONHECIMENTO– Centro de Inovação, Administração e Pesquisa do Judiciário. In: Inteligência Artificial: Tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário Brasileiro. Disponível em: <https://ciapj.fgv.br/sites/ciapj.fgv.br/files/relatorio_ia_2fase.pdf > acesso em 15.dez.2023.
GESSER, Rafael. Machine Learning e a precificação de seguros. Disponível em: < https://oinsurance.com.br/machine-learning-precificacao-de-seguros/ > acesso em 21 Nov. 2023
INSTITUTO IGARAPÉ. Crime Radar. Disponível em: < https://igarape.org.br/tech/crimeradar/ > acesso em 29.out.2023.
LARSON, Jeff; MATTU, Surya; KIRCHNER, Lauren; ANGWIN, Julia. How we analyzed the COMPAS recidivism algorithm. ProPublica, [s.l.], 23 maio 2016. Disponível em: https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm. Acesso em: 15 fev. 2025.
LORIDI, Luciano et al. AI4People – An ethical framework for a good AI society. Minds and Machines, Dordrecht, v. 28, p. 689–707, 2018. Disponível em: https://link.springer.com/article/10.1007/s11023-018-9482-5. Acesso em: 13 maio 2025.
MALAR, João Pedro. Inteligência artificial usa posts nas redes sociais para fazer análise de crédito. 2023. Disponível em: < https://exame.com/future-of-money/inteligencia-artificial-postsredes-sociais-analise-credito/ > acesso em 21. nov. 2023
MARCÍLIO, Thiago. Quatro polêmicas sobre o projeto que regula a inteligência artificial. Consultor Jurídico, 29 fev. 2024. Disponível em: https://www.conjur.com.br/2024-fev-29/quatro-polemicassobre-o-projeto-que-regula-a-inteligencia-artificial/. Acesso em: 20 set. 2024.
MARDA, Vidushi; NARAYAN, Shivangi. Data in New Delhi’s predictive policing system. ACM Digital Library. Disponível em: < https://dl.acm.org/doi/abs/10.1145/3351095.3372865 > acesso em 20. Out. 2023.
MEHRABI, Ninareh et al. A Survey on Bias and Fairness in Machine Learning, arXiv:1908.09635, v3, 25.jan.2022. Disponível em: < https://arxiv.org/abs/1908.09635 > acesso em 10.mai.2025
METLIFE. Disponível em: < https://www.metlife.com/us/lp/xcelerator-pt/ > acesso em 14.nov. 2023. Ministério da Justiça e Segurança Pública. ANPD é formalizada como coordenadora do Sistema Nacional de Inteligência Artificial. 20.jun.2024. Disponível em: < https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-e-formalizada-como-coordenadora-do-sistema-nacional-de-inteligencia-artificial > acesso em 25.nov.2024.
NAVARRO, Susana Navas. Derecho e inteligencia artificial desde el diseño: aproximaciones. In: NAVARRO, Susana Navas (Coord.). Inteligencia artificial: tecnología, derecho. Valência: Tirant Lo Blanch, 2017. p. 23–72
NEENER ANALYTICS. Products. [s.l.], [s.d.]. Disponível em: https://www.neeneranalytics.com/products. html. Acesso em: 20 nov. 2023.
NEOWAY. Como os dados estruturados melhoram a gestão da saúde pública. Disponível em: < https://blog.neoway.com.br/podcasts/dados-estruturados/?lang=pt-br > acesso em 06.dez.2023.
NEOWAY. Precificação Inteligente: como o Big Data ajuda neste processo? Disponível em: < https://blog.neoway.com.br/precificacao-inteligente/ > acesso em 14. Nov. 2023.
NEUROTECH. Riskpack. [s.l.], [s.d.]. Disponível em: https://www.neurotech.com.br/riskpack/. Acesso em: 20 nov. 2023.
NIETHAMMER, Carmen. AI Bias Could Put Women’s Lives At Risk - A Challenge For Regulators. Forbes, 2020.
Disponível em: < https://www.forbes.com/sites/carmenniethammer/2020/03/02/ai-bias-could-putwomens-lives-at-riska-challenge-for-regulators/?sh=e5abaaf534f2 > acesso em 14.nov.2023
NIEVA FENOLL, Jordi. Inteligencia artificial y proceso judicial. Madri: Marcial Pons, 2018. O’Neil, Cathy. Algoritmos de destruição em massa: como o Big Data aumenta a desigualdade e ameaça a democracia (Tradução Rachel Abraham). São Paulo: Editora Rua do Sabão,2020.
O’NEIL, Cathy. The authority of the inscrutable: an interview with Cathy O’Neil. CCBLab, [s.l.], 22 jan. 2019. Disponível em: https://lab.cccb.org/en/the-authority-of-the-inscrutable-an-interview-withcathy-oneil/. Acesso em: 15 fev. 2025.
OBERMEYER, Ziad; POWERS, Brian; VOGELI, Christine; MULLAINATHAN, Sendhil. Dissecting racial bias in an algorithm used to manage the health of populations. Science, [s.l.], v. 366, n. 6464, 2019. Disponível em: https://www.science.org/doi/10.1126/science.aax2342. Acesso em: 14 nov. 2023.
OECD. Recommendation of the Council on Artificial Intelligence. 2019. Disponível em: < https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449 > acesso em 13.mai.2025
PANCH, Trishan; MATTIE, Heather; ATUN, Rifat. Artificial intelligence and algorithmic bias: implications for health systems. Journal of Global Health, [s.l.], v. 9, n. 2, 2019. Disponível em: https://doi.org/10.7189/jogh.09.020318 . Acesso em: 24 fev. 2025.
PORTAL DA INDÚSTRIA. PL da inteligência artificial prejudica desenvolvimento da tecnologia no Brasil e a inovação no setor produtivo. Portal da Indústria, [s.l.], 2024. Disponível em: https://noticias.portaldaindustria.com.br/posicionamentos/pl-da-inteligencia-artificial-prejudica-desenvolvimento-euso-da-tecnologia-no-brasil/. Acesso em: 20 set. 2024.
POSPIELOV, Serhii. How to reduce bias in machine learning. Spiceworks, [s.l.], 2022. Disponível em: https://www.spiceworks.com/tech/artificial-intelligence/guest-article/what-is-ml-bias-and-wherecan-we-see-it/. Acesso em: 24 fev. 2025.
RODRÍGUEZ, Pedro. Inteligencia artificial: cómo cambiará el mundo (y tu vida). Barcelona: Ediciones Deusto, 2018.
SNOW, Jacob. Amazon’s face recognition falsely matched 28 members of Congress with mugshots. ACLU, [s.l.], 26 jul. 2018. Disponível em: https://www.aclu.org/blog/privacy-technology/surveillancetechnologies/amazons-face-recognition-falsely-matched-28. Acesso em: 10 ago. 2023.
UNIVERSO DO SEGURO. Inteligência artificial e análise de dados transformam o mercado de seguros, afirma country manager da Klimber. Universo do Seguro, [s.l.], 2023. Disponível em: https://universodoseguro.com.br/inteligencia-artificial-e-analise-de-dados-transformam-o-mercado-deseguros-afirma-country-manager-da-klimber/. Acesso em: 14 nov. 2023.
UNZELTE, Carolina. Marco legal da IA: entenda os principais pontos do texto preliminar. JOTA, [s.l.], 2024. Disponível em: https://www.jota.info/legislativo/marco-legal-da-ia-entenda-os-principaispontos-do-texto-preliminar. Acesso em: 20 set. 2024.
VEGA IRACELAY, José Javier. Inteligencia artificial y derecho: principios y propuestas para una gobernanza eficaz. Informática y Derecho: Revista Iberoamericana de Derecho Informático, [s.l.], n. 5, p. 13–48, 2018. Disponível em: https://dialnet.unirioja.es/servlet/articulo?codigo=6845781. Acesso em: 16 jun. 2024.
WACHOWICZ, Marcos. Regulação da inteligência artificial: garantindo um futuro ético e inclusivo no Brasil. GEDAI – UFPR, 2024. Disponível em: https://gedai.ufpr.br/regulacao-da-inteligencia-artificialgarantindo-um-futuro-etico-e-inclusivo-no-brasil/. Acesso em: 20 fev. 2025.