THE ROLE OF THE STATE AS AN INTERVENING REGULATORY AGENT IN THE DEVELOPMENT OF ARTIFICIAL INTELLIGENCE
AN INVESTIGATION THROUGH OF THE ECONOMIC ANALYSIS OF LAW
DOI:
https://doi.org/10.26512/2357-80092024e47063Keywords:
Regulation, Law & Economics, Artificial Intelligence, Market Failures, Cost-Benefits AnalysisAbstract
The use of different techniques encompassed by the broad concept of AI provides many social gains, at the same time it is capable of violating individual and fundamental rights of a Democratic State of Law, by various means. Given these potential problems, questions must be asked about the need for the construction of state regulatory mechanisms capable of enhancing benefits and reducing risks associated with the development of technologies. Therefore, this paper has the followubg central and guiding question: how and to what extent the State, as an intervening-regulating agent, should/could act in the context of technological development, especially with regard to the production and growing application of Artificial Intelligence systems? To achieve the proposed objective, the paper uses some conceptual and methodological tools provided by the field of study of Law & Economics. The paper, therefore, is divided in three parts: the first topic discusses the concept of AI for regulatory purposes. Next, the fundamentals for the construction of AI regulation are analyzed. Finally, the role of the State is investigated, starting with an analysis of the costs and benefits of a regulation of Artificial Intelligence systems. Finally, it is concluded that there is a need to establish a dialogue between different sectors, for the construction of a regulatory structure that considers specific practical criteria in order to operationalize forms of regulation.
Downloads
References
ACEMOGLU, Daron; ROBINSON, James A. Why Nations Fail: the origins of power, prosperity, and poverty. New York: Crown Business, 2012.
ALGORITMO identifica bovinos individualmente no campo por meio de imagens. Embrapa. 16 mar. 2021. Disponível em: https://www.embrapa.br/busca-de-noticias/-/noticia/60007468/algoritmo-identifica-bovinos-individualmente-no-campo-por-meio-de-imagens. Acesso em: 10 jun. 2022.
ALPAYDIN, Ethem. Introduction to machine learning. 3. ed. Massachusetts: MIT Press, 2014.
BALDWIN, Robert; CAVE, Martin; LODGE, Martin. Understanding Regulation. 2. ed. Oxford: Oxford University Press, 2012.
BAROCAS, Solon; SELBST, Andrew D. Big data's disparate impact. Calif. L. Rev., v. 104, p. 671, 2016.
BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Brasília, DF: Senado, 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm. Acesso em: 20 jun. 2022.
BRASIL. Constituição (1988). Lei 13.784, de 20 de setembro de 2019. Brasília, DF: Senado, 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2019-2022/2019/lei/L13874.htm. Acesso em: 20 jun. 2022.
BRASIL. Ministério da Justiça e Segurança Pública. Decolar é multada em R$2,5 milhões por oferecer melhores preços a clientes que estão fora do Brasil. Gov.Br. 22 jun. 2022. Disponível em> https://www.gov.br/mj/pt-br/assuntos/noticias/decolar-e-multada-em-r-2-5-milhoes-por-oferecer-melhores-precos-a-clientes-que-estao-fora-do-brasil. Acesso em: 25 jun. 2022.
BOARDMAN, Anthony E., et al. Cost-Benefit Analysis: Concepts and Pratice. 5. ed. Cambridge: Cambridge University Press, 2018.
BURRELL, Burrel. How the machine ‘thinks’: understanding opacity in machine learning algorithms. Big Data & Society, 3 (1), pp. 1–12, 2016.
CALABRESI, Guido. The cost of Accidents: a legal and economics analysis. New Haven, CT: Yale University, 1970.
CALDERS, Toon; ŽLIOBAITĖ, Indrė, Why Unbiased Computational Processes Can Lead to Discriminative Decision Procedures. In: CUSTERS, Bart et al (ed.). Discrimination and Privacy in the Information Society: data mining and profiling in large databases. Berlin: Springer-Verlag, 2013. p. 3-26. (Studies in Applied Philosophy, Epistemology and Rational Ethics 3).
COASE, Ronald H. The problem of social cost. The Journal of Law and Economics, v. 3, 1960.
COMISSÃO de juristas promove painéis de debate sobre regulação da inteligência artificial – 28/04/22. Brasília: Tv Senado, 2022. (229 min.), P&B. Disponível em: https://legis.senado.leg.br/comissoes/reuniao?25&reuniao=10701&codcol=2504. Acesso em: 20 jun. 2022.
DASTIN Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. 10 out. 2018. Disponível em: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G. Acesso em: 10 jun. 2022.
DOMINGOS, Pedro. O Algoritmo Mestre. São Paulo: Novatec Editora Ltda, 2017.
EUROPEAN COMMISSION. Proposal for a Regulation of the European Parliament and of the Council: laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts, 2021. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52021PC0206&from=PT. Acesso em: 15 jun. 2022.
FERNANDES, André Dias. Corte de energia elétrica e derrotabilidade normativa: necessidade de diálogo entre o Código de Defesa do Consumidor, o Código de Defesa do Usuário de Serviços Públicos e a Constituição. Revista de Direito do Consumidor, v. 127, p. 249-276, 2020.
FELDMAN, Allan; SERRANO, Roberto. Welfare economics and social choice theory. 2. ed. New York: Springer, 2006.
GOODFELLOW, Ian; BENGIO, Yoshua; COURVILLE, Aaron. Deep Learning. MIT Press. 2016. Disponível em: http://www.deeplearningbook.org. Acesso em: 18 jun. 2022.
GOODMAN, John. Market failure vs. Government failure. Goodman Institute for Public Policy Research. Disponível em: https://www.goodmaninstitute.org/about/how-we-think/market-failure-vs-government-failure/. Acesso em: 10 jun. 2022.
HARLOW, Carol; RAWLINGS, Richard. Law and Administration. 3. ed. Cambridge: Cambridge University Press, 2009.
KUMAR, Y. et al. Artificial intelligence in disease diagnosis: a systematic literature review, synthesizing framework and future research agenda. Journal of ambient intelligence and humanized computing, p. 1–28, 2022. doi: 10.1007/s12652-021-03612-z.
MAINI, Vishal; SABRI, Samer. Machine Learning for Humans, 2017. Disponível em: https://everythingcomputerscience.com/books/Machine%20Learning%20for%20Humans.pdf. Acesso em: 21 jun. 2022.
MANKIW, Gregory N. Introdução à economia. Tradução de Allan Vidigal Hastings e Elisete Paes e Lima. 6. ed. São Paulo: Cengage Learning, 2013.
MATTIOLI, Dana. Amazon Changed Search Algorithm in Ways That Boost Its Own Products. The Wall Street Journal. Disponível em:
https://www.wsj.com/articles/amazon-changed-search-algorithm-in-ways-that-boost-its-own-products-11568645345. Acesso em: 20 jun. 2022.
MEMO/17/1785. Antitrust: Commission fines Google €2.42 billion for abusing dominance as search engine by giving illegal advantage to own comparison shopping service - Factsheet. European Comission. 27 jun. 2017. Disponível em:
https://ec.europa.eu/commission/presscorner/detail/en/MEMO_17_1785. Acesso em: 20 jun. 2022.
OECD. OECD Framework for the Classification of AI systems, OECD Digital Economy Papers, Nº. 323, OECD Publishing, Paris, 2022. https://doi.org/10.1787/cb6d9eca-en.
PASQUALE, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015.
PEIXOTO, Fabiano Hartmann. Inteligência Artificial e Direito: Convergência Ética e Estratégica. Curitiba: Alteridade, 2020.
POSNER, Richard A.. The Economics of Justice. Cambridge; Massachusetts; London: Harvard University Press, 1981.
PROSSER, Tony. Regulation and Social Solidarity. Journal of Law and Society, 33(3), pp. 364–387, 2006. Doi: 10.2307/3838855.
RAJENDRAN, Charles. Unsupervised Machine Learning (KMeans Clustering) with Scikit-Learn. Medium. 07 maio 2020. Disponível em:
https://medium.com/ascentic-technology/unsupervised-machine-learning-kmeans-clustering-with-scikit-learn-bc8895cd66a8. Acesso em: 20 jun. 2022.
RESENDE, Caio Cordeiro de. Falhas de mercado: uma análise comparativa da escola do setor público tradicional e da escola austríaca. 2012. 365 f. Dissertação (Mestrado) - Curso de Economia, Departamento de Economia, Universidade de Brasília - Faculdade de Economia, Administração, Contabilidade e Ciência da Informação e Documentação, Brasília, 2012.
RUSSEL, Stuart. Inteligência Artificial a nosso favor: como manter o controle sobre a tecnologia. Tradução de Berilo Vargas. 1 ed. São Paulo: Companhia das Letras, 2021.
RUSSEL, Stuart; NORVIG, Peter. Artificial Intelligence: a modern approach. 4. ed. (Global edition) Pearson Education, 2021.
SHAVELL, Steven. Foundations of economic analysis of law. Cambridge, MA; London: Belknap, 2004.
SONI, Devin. Supervised vs. Unsupervised Learning. Towards Data Science. 22 mar. 2018. Disponível em:
https://towardsdatascience.com/supervised-vs-unsupervised-learning-14f68e32ea8d. Acesso em: 20 jun. 2022.
TIKU, Nitasha. The Google engineer who thinks the company’s AI has come to life. The Washington Post. 11 jun. 2022.
UNITED KINGDOM. Competition & Market Authority. Algorithms: How they can reduce competition and harm consumers. Disponível em: <https://www.gov.uk/government/publications/algorithms-how-they-can-reduce-competition-and-harm-consumers/algorithms-how-they-can-reduce-competition-and-harm-consumers>. Acesso em: 22 jun. 2022.
WEBER, Fabricio de Lima, et al. Recognition of Pantaneira cattle breed using computer vision and convolutional neural networks. Computers And Electronics In Agriculture, [S.L.], v. 175, p. 105548, ago. 2020. Elsevier BV. dx.doi.org/10.1016/j.compag.2020.105548.
WIENER, Norbert. Some moral and technical consequences of automation. Science, v. 131, pp. 1355-1358, 1960.
WINSTON, Clifford. Government failure versus Market failure: microeconomics policy research and government performance. Washington, DC: Brookings Institution Press, 2007.
WOLKART, Erik Navarro. Análise econômica do processo civil: como a Economia, o Direito e a Psicologia podem vencer a tragédia da Justiça. São Paulo: Thomson Reuters Brasil, 2019.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2024 Direito.UnB - Law Journal of the University of Brasília
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Autores que publicam na Revista Direito.UnB concordam com os seguintes termos:
- Autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons - Atribuição-NãoComercial-SemDerivações 4.0 Internacional que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada na Revista Direito.UnB (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são incentivados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou em suas páginas pessoais) a qualquer momento após à definição do processo editorial.
- Autores concordam que, eventualmente, seus trabalhos poderão ser agregados pela Revista Direito.UnB às bases e sistemas de informação científica existentes (indexadores e bancos de dados atuais) ou que existam no futuro (indexadores e bancos de dados futuros). Os detentores dessas bases de dados terão a possibilidade de realizar as seguintes ações sobre o artigo:
- Reproduzir, transmitir e distribuir o artigo, no todo ou em parte sob qualquer forma ou meio de transmissão eletrônica existente ou desenvolvida no futuro, incluindo a transmissão eletrônica para fins de pesquisa, visualização e impressão;
- Reproduzir e distribuir, no todo ou em parte, o artigo na impressão;
- Capacidade de traduzir certas partes do artigo;
- Extrair figuras, tabelas, ilustrações e outros objetos gráficos e capturar metadados, legendas e artigo relacionado para fins de pesquisa, visualização e impressão;
- Transmissão, distribuição e reprodução por agentes ou autorizada pelos proprietários de distribuidoras de bases de dados;
- A preparação de citações bibliográficas, sumários e índices e referências de captura relacionados de partes selecionadas do artigo;
- Digitalizar e/ou armazenar imagens e texto de artigo eletrônico.
