REFLEXÕES SOBRE O PROBLEMA DO ALINHAMENTO

dilemas éticos sobre Inteligência Artificial

Autores

DOI:

https://doi.org/10.26512/pl.v13i30.55531

Palavras-chave:

Problema do alinhamento. Inteligência Artificial. Dilemas éticos. Aprendizagem de máquina.

Resumo

O texto aborda o problema do alinhamento, a fim de situar a atual relação da tecnologia da Inteligência Artificial com o pensamento e o comportamento humano. O problema do alinhamento diz respeito ao desenvolvimento da Inteligência Artificial capaz de compreender os valores humanos. Para tanto, destaca-se a importância de documentos que buscam estabelecer as diretrizes para garantir os valores humanos; as implicações da aprendizagem de máquina que automatiza o funcionamento da Inteligência Artificial; e os possíveis dilemas éticos decorrentes do impacto que a Inteligência Artificial tem causado nas atividades humanas. Por fim, o texto reflete sobre o que está em jogo com a chegada da Inteligência Artificial na vida humana.

Downloads

Não há dados estatísticos.

Biografia do Autor

Simone Cassiano, Universidade de Brasília

Doutoranda no Programa de Pós Graduação em Psicologia Social, do Trabalho e das Organizações (PPG-PSTO) da Universidade de Brasília (UnB), com mestrado concluído nesse mesmo programa (2017). É psicóloga formada pelo Centro Universitário Hermínio Ometto (2009). Possui experiência na área da Psicologia Organizacional e da Psicologia aplicada à aviação e seus interesses de pesquisa estão relacionados à investigação do comportamento humano nas organizações, aprendizagem no trabalho, fatores humanos, trabalho decente e segurança do trabalho.

Jefferson Martins Cassiano, Universidade de Brasília

Doutor em Filosofia pela Universidade de Brasília (2024); linha de pesquisa: Ética e Filosofia Política. Mestre em Filosofia pela Universidade de Brasília (2017); linha de pesquisa: Ética e Filosofia Política. Graduado e licenciado em Filosofia pela Pontifícia Universidade Católica de Campinas (2012). Especialização em Filosofia e Direitos Humanos. Formação complementar pela Universidade Estadual de Campinas (UNICAMP) como Estudante Especial. Tem experiência na área de Filosofia, com ênfase em Ética, Filosofia Política, Filosofia Contemporânea, Filosofia do Direito, Pensamento Crítico, Epistemologia das Ciências Humanas, Política dos Direitos Humanos e Antropologia Filosófica.

Referências

BARRAT, James. Our final invention: Artificial Intelligence and the end of the human era. New York: St. Martin’s Press, 2013.

BBC. Elon Musk among experts urging a halt to ai training. Disponível em: https://www.bbc.com/news/technology-65110030. Acesso em: 07 set. 2024.

BBC News Brasil. Tesla: acidente com carro 'sem motorista' mata 2 pessoas nos EUA. 19/04/2021. Disponível em: https://www.bbc.com/portuguese/internacional-56806154. Acesso em: 02 set. 2024.

BOSTROM, Nick. A ética da inteligência artificial. Fundamento, v. 01, n. 3, 2011, p. 199-226. Disponível em: https://periodicos.ufop.br/fundamento/article/view/2270. Acesso em: 03 set. 2024.

BOSTROM, Nick. Superintelligence: paths, dangers, strategies. Oxford: Oxford University Press, 2014.

BOUCHER, Philip. Artificial intelligence: How does it work, why does it matter, and what can we do about it? EPRS European Parliamentary Research Service. Brussels, 2020.

CHRISTIAN, Brian. The Alignment Problem: how can artificial intelligence learn human values. London: Atlantic Books, 2020.

COPELAND, Jack. The Turing Test. Minds and Machines, v. 10, p. 519-539, 2000. DOI: https://doi.org/10.1023/A:1011285919106.

COZMAN, Fabio Gagliardi; KAUFMAN, Dora. Viés no aprendizado de máquina em sistemas de inteligência artificial: a diversidade de origens e os caminhos de mitigação. Revista USP, n. 135, p. 195–210, 2022. DOI: https://doi.org/10.11606/issn.2316-9036.i135p195-210.

DENNETT, Daniel C. Consciousness Explained. Boston: Little, Brown and Co., 1991.

EL PAÍS. Carro sem motorista da Uber provoca primeiro acidente fatal. 19/03/2018. Disponível em: https://brasil.elpais.com/brasil/2018/03/19/tecnologia/1521479089_032894.html. Acesso em: 02 set. 2024.

EUROPEAN COMMISSION. Ethics guidelines for trustworthy AI. Independent High-Level Expert Group on Artificial Intelligence set up by the European Commission. Brussels, 2019. Disponível em: https://www.europarl.europa.eu/cmsdata/196377/AI%20HLEG_Ethics%20Guidelines%20for%20Trustworthy%20AI.pdf. Acesso em: 01 set. 2024.

EUROPEAN COMMISSION. A definition of AI: Main capabilities and scientific disciplines. Independent High-Level Expert Group on Artificial Intelligence. Document made public on 18 December 2018, p. 01-09. Brussels: 2018. Disponível em: https://ec.europa.eu/futurium/en/system/files/ged/ai_hleg_definition_of_ai_18_december_1.pdf. Acesso em: 01 set. 2024.

FEKI, Mohamed Ali et al. The Internet of Things: the next technological revolution. IEEE Computer Society, v. 46, n. 02, 2013, p. 24-25. DOI: https://doi.org/10.1109/MC.2013.63.

FLORIDI, Luciano. The ethics of artificial intelligence: Principles, challenges, and opportunities. Oxford: Oxford University Press, 2023.

FODOR, Jerry A. The mind doesn’t work that way: the scope and limits of Computational Psychology. Cambridge Massachusetts: The MIT Press, 2001.

FOGG, B. J. Persuasive technology: using computers to change what we think and do. Boston: Morgan Kauffman, 2002.

GLOBONEWS. Google pausa geração de imagens do Gemini após IA apresentar erros raciais e históricos. GloboNews Portal G1, 22/02/2024. Disponível em: https://g1.globo.com/tecnologia/noticia/2024/02/22/google-pausa-geracao-de-imagens-do-gemini-apos-ia-apresentar-erros-raciais-e-historicos.ghtml. Acesso em: 02 set. 2024.

HEIDEGGER, Martin. A Questão da Técnica. In: HEIDEGGER, M. Ensaios e Conferências. Petrópolis: Vozes, 2000, pp. 11-38.

JONAS, Hans. O Princípio Responsabilidade: ensaio de uma ética para a civilização tecnológica. Rio de Janeiro: Contraponto, 2006

JORNAL DA USP. Inteligência artificial utiliza base de dados que refletem preconceitos e desigualdades. Portal USP. 07/07/2023. Disponível em: https://jornal.usp.br/atualidades/inteligencia-artificial-utiliza-base-de-dados-que-refletem-preconceitos-e-desigualdades/. Acesso em: 02 set. 2024.

KELLEHER, John D. Deep learning. Cambridge: The MIT Press, 2019.

LEE, Kai-Fu. Inteligência Artificial: O impacto da IA no futuro do trabalho e na economia. Rio de Janeiro: Editora Globo, 2019.

MACHADO, Débora Franco. Modulações algorítmicas: uma análise das tecnologias de orientação de comportamento a partir das patentes do Facebook. 2019. 122 pp. Dissertação (Mestrado em Ciências Humanas e Sociais) ‒ Programa de Pós-Graduação em Ciências Humanas e Sociais, Universidade Federal do ABC, São Bernardo do Campo, 2019.

MADIEGA, Tambiama André. EU guidelines on ethics in artificial intelligence: Context and implementation. EPRS European Parliamentary Research Service, Brussels, 2019. Disponível em: https://www.europarl.europa.eu/RegData/etudes/BRIE/2019/640163/EPRS_BRI(2019)640163_EN.pdf. Acesso em: 01 set. 2024.

MASUHR, Niklas. AI in military enabling applications. CSS Analyses in Security Policy, v. 251, 2019. DOI: https://doi.org/10.3929/ethz-b-000367663.

NUNES, Ana Paula. A utilização de drones armados e o direito internacional humanitário. Revista Jurídica Luso-Brasileira, v. 7, n. 6, p. 147-180, 2021. Disponível em: https://www.cidp.pt/publicacao/revista-juridica-lusobrasileira-ano-7-2021-n-6/221. Acesso em:

ORTEGA y GASSET, José. Meditaciones de la técnica y otros ensayos sobre ciencia y filosofía. Madrid: Alianza, 2000.

PATINO, Bruno. Peixe vermelho: capitalismo, vigilância e o fim do mundo. São Paulo: Editora Penso, 2019.

PINKER, Steven. So How Does the Mind Work? Mind & Language, v. 20, n. 1, p. 1-24, 2005.

PORTO, Leonardo Sartori. Uma investigação filosófica sobre a Inteligência Artificial. Informática na educação: teoria e prática. Porto Alegre, v. 9, n. 1, p. 11-26, 2006.

RUSSELL, Stuart; NORVIG, Peter. Artificial Intelligence: a modern approach. 4th edition. New Jersey: Prentice Hall, 2020.

SEARLE, John. Minds, brains and programs. In. Behavioral and Brain Sciences. Cambridge University Press, v. 3, n. 3, p. 417-457, 1980.

TEIXEIRA, João de Fernandes. Robots, intencionalidade e inteligência artificial. Trans/Form/Ação, v. 14, p. 109-121, 1991.

TURCHIN, Alexey. AI alignment problem: “human values” don’t actually exist. Philpapers. 2019. Disponível em: https://philarchive.org/rec/TURAAP Acesso em: 04 Set 2024.

TURING, A. M. Computing Machinery and Intelligence. Mind. New Series, v. 59, n. 236, p. 433-460, 1950.

TURING, A. M. Lecture to the London Mathematical Society on 20 February 1947. 1986. MD Computing: Computers in Medical Practice, v. 12, n. 5, p. 390-397, 1995.

Downloads

Publicado

31-03-2025

Como Citar

Cassiano, S., & Cassiano, J. M. (2025). REFLEXÕES SOBRE O PROBLEMA DO ALINHAMENTO: dilemas éticos sobre Inteligência Artificial . PÓLEMOS – Revista De Estudantes De Filosofia Da Universidade De Brasília, 13(30), 60–77. https://doi.org/10.26512/pl.v13i30.55531

Edição

v. 13 n. 30 (2024)

Seção

Artigos

Licença

Copyright (c) 2024 PÓLEMOS – Revista de Estudantes de Filosofia da Universidade de Brasília

Creative Commons License

Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.

Todos os trabalhos que forem aceitos para publicação, após o devido processo avaliativo, serão publicados sob uma licença Creative Commons, na modalidade Attribution-NonCommercial-NoDerivatives 4.0 International Public License (CC BY-NC-ND 4.0). Esta licença permite que qualquer pessoa copie e distribua a obra total e derivadas criadas a partir dela, desde que seja dado crédito (atribuição) ao autor / à autora / aos autores / às autoras.