REFLECTIONS ON THE ALIGNMENT PROBLEM

ethical dilemmas in Artificial Intelligence

Authors

DOI:

https://doi.org/10.26512/pl.v13i30.55531

Keywords:

Alignment problem. Artificial Intelligence. Ethical dilemmas. Machine Learning.

Abstract

This paper discusses the alignment problem, in order to situate the current relationship between the technology of Artificial Intelligence and human thought and behavior. The alignment problem refers to the development of an Artificial Intelligence capable of understanding human values. To this end, the importance of documents that seek to establish guidelines to guarantee human values is highlighted; the implications of machine learning that automates the functioning of Artificial Intelligence; and the possible ethical dilemmas derived from the impact that Artificial Intelligence has had on human activities. Finally, the text reflects on what is at stake with the arrival of Artificial Intelligence in human lifetime.

Downloads

Author Biographies

Simone Cassiano, Universidade de Brasília

Doutoranda no Programa de Pós Graduação em Psicologia Social, do Trabalho e das Organizações (PPG-PSTO) da Universidade de Brasília (UnB), com mestrado concluído nesse mesmo programa (2017). É psicóloga formada pelo Centro Universitário Hermínio Ometto (2009). Possui experiência na área da Psicologia Organizacional e da Psicologia aplicada à aviação e seus interesses de pesquisa estão relacionados à investigação do comportamento humano nas organizações, aprendizagem no trabalho, fatores humanos, trabalho decente e segurança do trabalho.

Jefferson Martins Cassiano, Universidade de Brasília

Doutor em Filosofia pela Universidade de Brasília (2024); linha de pesquisa: Ética e Filosofia Política. Mestre em Filosofia pela Universidade de Brasília (2017); linha de pesquisa: Ética e Filosofia Política. Graduado e licenciado em Filosofia pela Pontifícia Universidade Católica de Campinas (2012). Especialização em Filosofia e Direitos Humanos. Formação complementar pela Universidade Estadual de Campinas (UNICAMP) como Estudante Especial. Tem experiência na área de Filosofia, com ênfase em Ética, Filosofia Política, Filosofia Contemporânea, Filosofia do Direito, Pensamento Crítico, Epistemologia das Ciências Humanas, Política dos Direitos Humanos e Antropologia Filosófica.

References

BARRAT, James. Our final invention: Artificial Intelligence and the end of the human era. New York: St. Martin’s Press, 2013.

BBC. Elon Musk among experts urging a halt to ai training. Disponível em: https://www.bbc.com/news/technology-65110030. Acesso em: 07 set. 2024.

BBC News Brasil. Tesla: acidente com carro 'sem motorista' mata 2 pessoas nos EUA. 19/04/2021. Disponível em: https://www.bbc.com/portuguese/internacional-56806154. Acesso em: 02 set. 2024.

BOSTROM, Nick. A ética da inteligência artificial. Fundamento, v. 01, n. 3, 2011, p. 199-226. Disponível em: https://periodicos.ufop.br/fundamento/article/view/2270. Acesso em: 03 set. 2024.

BOSTROM, Nick. Superintelligence: paths, dangers, strategies. Oxford: Oxford University Press, 2014.

BOUCHER, Philip. Artificial intelligence: How does it work, why does it matter, and what can we do about it? EPRS European Parliamentary Research Service. Brussels, 2020.

CHRISTIAN, Brian. The Alignment Problem: how can artificial intelligence learn human values. London: Atlantic Books, 2020.

COPELAND, Jack. The Turing Test. Minds and Machines, v. 10, p. 519-539, 2000. DOI: https://doi.org/10.1023/A:1011285919106.

COZMAN, Fabio Gagliardi; KAUFMAN, Dora. Viés no aprendizado de máquina em sistemas de inteligência artificial: a diversidade de origens e os caminhos de mitigação. Revista USP, n. 135, p. 195–210, 2022. DOI: https://doi.org/10.11606/issn.2316-9036.i135p195-210.

DENNETT, Daniel C. Consciousness Explained. Boston: Little, Brown and Co., 1991.

EL PAÍS. Carro sem motorista da Uber provoca primeiro acidente fatal. 19/03/2018. Disponível em: https://brasil.elpais.com/brasil/2018/03/19/tecnologia/1521479089_032894.html. Acesso em: 02 set. 2024.

EUROPEAN COMMISSION. Ethics guidelines for trustworthy AI. Independent High-Level Expert Group on Artificial Intelligence set up by the European Commission. Brussels, 2019. Disponível em: https://www.europarl.europa.eu/cmsdata/196377/AI%20HLEG_Ethics%20Guidelines%20for%20Trustworthy%20AI.pdf. Acesso em: 01 set. 2024.

EUROPEAN COMMISSION. A definition of AI: Main capabilities and scientific disciplines. Independent High-Level Expert Group on Artificial Intelligence. Document made public on 18 December 2018, p. 01-09. Brussels: 2018. Disponível em: https://ec.europa.eu/futurium/en/system/files/ged/ai_hleg_definition_of_ai_18_december_1.pdf. Acesso em: 01 set. 2024.

FEKI, Mohamed Ali et al. The Internet of Things: the next technological revolution. IEEE Computer Society, v. 46, n. 02, 2013, p. 24-25. DOI: https://doi.org/10.1109/MC.2013.63.

FLORIDI, Luciano. The ethics of artificial intelligence: Principles, challenges, and opportunities. Oxford: Oxford University Press, 2023.

FODOR, Jerry A. The mind doesn’t work that way: the scope and limits of Computational Psychology. Cambridge Massachusetts: The MIT Press, 2001.

FOGG, B. J. Persuasive technology: using computers to change what we think and do. Boston: Morgan Kauffman, 2002.

GLOBONEWS. Google pausa geração de imagens do Gemini após IA apresentar erros raciais e históricos. GloboNews Portal G1, 22/02/2024. Disponível em: https://g1.globo.com/tecnologia/noticia/2024/02/22/google-pausa-geracao-de-imagens-do-gemini-apos-ia-apresentar-erros-raciais-e-historicos.ghtml. Acesso em: 02 set. 2024.

HEIDEGGER, Martin. A Questão da Técnica. In: HEIDEGGER, M. Ensaios e Conferências. Petrópolis: Vozes, 2000, pp. 11-38.

JONAS, Hans. O Princípio Responsabilidade: ensaio de uma ética para a civilização tecnológica. Rio de Janeiro: Contraponto, 2006

JORNAL DA USP. Inteligência artificial utiliza base de dados que refletem preconceitos e desigualdades. Portal USP. 07/07/2023. Disponível em: https://jornal.usp.br/atualidades/inteligencia-artificial-utiliza-base-de-dados-que-refletem-preconceitos-e-desigualdades/. Acesso em: 02 set. 2024.

KELLEHER, John D. Deep learning. Cambridge: The MIT Press, 2019.

LEE, Kai-Fu. Inteligência Artificial: O impacto da IA no futuro do trabalho e na economia. Rio de Janeiro: Editora Globo, 2019.

MACHADO, Débora Franco. Modulações algorítmicas: uma análise das tecnologias de orientação de comportamento a partir das patentes do Facebook. 2019. 122 pp. Dissertação (Mestrado em Ciências Humanas e Sociais) ‒ Programa de Pós-Graduação em Ciências Humanas e Sociais, Universidade Federal do ABC, São Bernardo do Campo, 2019.

MADIEGA, Tambiama André. EU guidelines on ethics in artificial intelligence: Context and implementation. EPRS European Parliamentary Research Service, Brussels, 2019. Disponível em: https://www.europarl.europa.eu/RegData/etudes/BRIE/2019/640163/EPRS_BRI(2019)640163_EN.pdf. Acesso em: 01 set. 2024.

MASUHR, Niklas. AI in military enabling applications. CSS Analyses in Security Policy, v. 251, 2019. DOI: https://doi.org/10.3929/ethz-b-000367663.

NUNES, Ana Paula. A utilização de drones armados e o direito internacional humanitário. Revista Jurídica Luso-Brasileira, v. 7, n. 6, p. 147-180, 2021. Disponível em: https://www.cidp.pt/publicacao/revista-juridica-lusobrasileira-ano-7-2021-n-6/221. Acesso em:

ORTEGA y GASSET, José. Meditaciones de la técnica y otros ensayos sobre ciencia y filosofía. Madrid: Alianza, 2000.

PATINO, Bruno. Peixe vermelho: capitalismo, vigilância e o fim do mundo. São Paulo: Editora Penso, 2019.

PINKER, Steven. So How Does the Mind Work? Mind & Language, v. 20, n. 1, p. 1-24, 2005.

PORTO, Leonardo Sartori. Uma investigação filosófica sobre a Inteligência Artificial. Informática na educação: teoria e prática. Porto Alegre, v. 9, n. 1, p. 11-26, 2006.

RUSSELL, Stuart; NORVIG, Peter. Artificial Intelligence: a modern approach. 4th edition. New Jersey: Prentice Hall, 2020.

SEARLE, John. Minds, brains and programs. In. Behavioral and Brain Sciences. Cambridge University Press, v. 3, n. 3, p. 417-457, 1980.

TEIXEIRA, João de Fernandes. Robots, intencionalidade e inteligência artificial. Trans/Form/Ação, v. 14, p. 109-121, 1991.

TURCHIN, Alexey. AI alignment problem: “human values” don’t actually exist. Philpapers. 2019. Disponível em: https://philarchive.org/rec/TURAAP Acesso em: 04 Set 2024.

TURING, A. M. Computing Machinery and Intelligence. Mind. New Series, v. 59, n. 236, p. 433-460, 1950.

TURING, A. M. Lecture to the London Mathematical Society on 20 February 1947. 1986. MD Computing: Computers in Medical Practice, v. 12, n. 5, p. 390-397, 1995.

Downloads

Published

2025-03-31

How to Cite

Cassiano, S., & Cassiano, J. M. (2025). REFLECTIONS ON THE ALIGNMENT PROBLEM: ethical dilemmas in Artificial Intelligence. PÓLEMOS – Revista De Estudantes De Filosofia Da Universidade De Brasília, 13(30), 60–77. https://doi.org/10.26512/pl.v13i30.55531

Issue

Vol. 13 No. 30 (2024)

Section

Artigos

License

Copyright (c) 2024 PÓLEMOS – Revista de Estudantes de Filosofia da Universidade de Brasília

Creative Commons License

This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.

Todos os trabalhos que forem aceitos para publicação, após o devido processo avaliativo, serão publicados sob uma licença Creative Commons, na modalidade Attribution-NonCommercial-NoDerivatives 4.0 International Public License (CC BY-NC-ND 4.0). Esta licença permite que qualquer pessoa copie e distribua a obra total e derivadas criadas a partir dela, desde que seja dado crédito (atribuição) ao autor / à autora / aos autores / às autoras.