Justiça, Responsabilidade, Transparência e Ética (FATE) em sistemas de recomendação na educação:

uma análise de coocorrência de palavras

Autores

  • Rafael Antunes dos Santos Universidade Federal do Rio Grande do Sul, Programa de Pós-Graduação em Informática na Educação (PPGIE), Porto Alegre, RS, Brasil
  • Priscila Ferreira Beni Universidade Federal do Rio Grande do Sul, Programa de Pós-Graduação em Informática na Educação (PPGIE), Porto Alegre, RS, Brasil https://orcid.org/0000-0003-1890-9899
  • Eliseo Berni Reategui Universidade Federal do Rio Grande do Sul, Programa de Pós-Graduação em Informática na Educação (PPGIE), Porto Alegre, RS, Brasil https://orcid.org/0000-0002-5025-9710
  • Dante Augusto Couto Barone Universidade Federal do Rio Grande do Sul, Programa de Pós-Graduação em Informática na Educação (PPGIE), Porto Alegre, RS, Brasil https://orcid.org/0000-0002-5133-0144

DOI:

https://doi.org/10.26512/rici.v19.n2.2026.60555

Palavras-chave:

Sistema de recomendação, Ética, Análise de coocorrência de palavras, Tecnologia educacional, Bibliometria

Resumo

O objetivo deste artigo é examinar a produção científica sobre os conceitos de justiça, responsabilidade, transparência e ética (FATE) em artigos sobre sistemas de recomendação na educação, utilizando indicadores bibliométricos e análise de coocorrência de palavras. A pesquisa identifica um aumento exponencial na produção acadêmica desde 2020, com destaque para palavras-chave como Fairness e Explainable AI, consolidadas como pilares nas discussões éticas da área. A análise baseou-se em 160 registros das bases Scopus e Web of Science, utilizando RStudio e Bibliometrix para mapeamento dos dados. Os resultados destacam a interdisciplinaridade da área e a emergência de tópicos como Responsible AI e Algorithmic Fairness, ainda em estágio inicial. A rede de coocorrência e o diagrama temático revelaram conexões importantes entre os princípios FATE e suas aplicações práticas, apontando lacunas teóricas e oportunidades de pesquisa futura. Apesar das limitações relacionadas ao escopo da busca, o estudo oferece uma visão abrangente das implicações éticas de sistemas de recomendação educacionais, enfatizando a necessidade de sistemas mais justos, transparentes e responsáveis. As conclusões reforçam a relevância de FATE como agenda prioritária para o design de tecnologias educacionais éticas e inclusivas.

Downloads

Não há dados estatísticos.

Biografia do Autor

Rafael Antunes dos Santos, Universidade Federal do Rio Grande do Sul, Programa de Pós-Graduação em Informática na Educação (PPGIE), Porto Alegre, RS, Brasil

Breve CV:

Doutorando em Informática na Educação pelo Programa de Pós-Graduação em Informática na Educação da Universidade Federal do Rio Grande do Sul (PGIE/UFRGS), atuando como bolsista da CAPES em regime de dedicação exclusiva. Mestre em Comunicação e Informação pelo Programa de Pós-Graduação em Comunicação e Informação da Universidade Federal do Rio Grande do Sul (PPGCOM/UFRGS). Bacharel em Biblioteconomia pela Universidade Federal do Rio Grande do Sul (2007). Participou do Projeto de Pesquisa Unbral Fronteiras como bolsista de mestrado no Instituto de Geociências da UFRGS. Tem experiência na área de ciência da informação, com ênfase em biblioteconomia e administração de sistemas de informação, organização da informação e estudos métricos de informação.

Priscila Ferreira Beni, Universidade Federal do Rio Grande do Sul, Programa de Pós-Graduação em Informática na Educação (PPGIE), Porto Alegre, RS, Brasil

Doutoranda do Programa de Pós-Graduação em Informática na Educação da Universidade Federal do Rio Grande do Sul (PPGIE - UFRGS), bolsista CAPES com dedicação exclusiva. Mestre em Administração de Empresas pela Universidade Presbiteriana Mackenzie (2017), onde também foi bolsista da CAPES-PROSUP com dedicação exclusiva à pesquisa e atividades acadêmicas. Possui pós-graduação em Varejo e Mercado de Consumo pela FIA - USP (2014) e graduação em Administração de Empresas pela Universidade Presbiteriana Mackenzie (2010). Atua na interface entre tecnologia, inovação e inclusão, com foco nas questões da neurodiversidade na vida adulta. Possui ampla experiência corporativa em cargos de liderança Além disso, tem experiência acadêmica no ensino superior, lecionando em cursos de graduação e pós-graduação, nas modalidades presencial e a distância (EAD).

Eliseo Berni Reategui, Universidade Federal do Rio Grande do Sul, Programa de Pós-Graduação em Informática na Educação (PPGIE), Porto Alegre, RS, Brasil

Doutor em Computação pela Universidade de Londres, Inglaterra (UCL), Bolsista de Produtividade do CNPq em Desenvolvimento Tecnológico e Extensão Inovadora nível 2. É professor titular da Faculdade de Educação da Universidade Federal do Rio Grande do Sul (UFRGS), professor permanente do Programa de Pós-Graduação em Informática na Educação (PGIE-UFRGS), programa nível 7 da CAPES. Foi professor visitante da Escola de Educação da Universidade da Califórnia Irvine (CAPES/Fullbright, 2013), e professor visitante do Ontario Institute for Studies in Education (OISE) da Universidade de Toronto, Canadá (2023-2024), trabalhando com pesquisa na área de Inteligência Artificial na Educação. É editor associado do periódico IEEE Transactions on Learning Technologies e co-editor da Revista Novas Tecnologias na Educação - RENOTE. Foi coordenador adjunto da Câmara de Sociais e Humanidades da Área Interdisciplinar da CAPES nas Avaliações Quadrienais de 2017 e 2022. Coordena projetos com cooperação internacional envolvendo University College London (Inglaterra), Universidade de Cambridge (Inglaterra), Universidade de Toronto (Canadá) e Universidad de la República (Uruguai). Sua principal área de investigação está relacionada ao desenvolvimento e emprego de tecnologia educacional baseada em Inteligência Artificial.

Dante Augusto Couto Barone, Universidade Federal do Rio Grande do Sul, Programa de Pós-Graduação em Informática na Educação (PPGIE), Porto Alegre, RS, Brasil

Cientista da Computação, Professor titular do Instituto de Informática da Universidade Federal do Rio Grande do Sul (UFRGS ), com pós-doutorado no Centre National d'Études des Télécommunicatíons (CNET), doutorado no Institut National Polytechnique de Grenoble (INPG), ambos na França, mestrado em Engenharia Elétrica pela Escola Politécnica da Universidade de São Paulo (USP) e bacharel em Engenharia Elétrica pela UFRGS. Pesquisador e orientador dos cursos de Pós-Graduação da UFRGS, Computação (PPGC), conceito 7 na CAPES, e Informática na Educação (PPGIE), conceito 7 na CAPES, do qual participou de comissão de criação e do qual foi seu primeiro coordenador. Voltou a exercer a função de coordenador do PPGIE (2021-2023 / 2023-2025). Vice-Presidente do Fórum de Coordenadores de Programas de Pós-Graduação da UFRGS. Atuou por muitos anos na coordenação de projetos junto ao Ministério da Educação (MEC) e Ministério de Ciência, Tecnologia e Inovação (MCTI). Avaliador institucional e Educação à Distância do Instituto Nacional de Estudos e Pesquisas Educacionais Anísio Teixeira (INEP). Foi tutor do grupo Computação UFRGS e do Programa de Educação Tutorial (PET) da Secretaria de Educação Superior do MEC, tendo criado o grupo em 1988. É líder do grupo de pesquisa do CNPq - Robótica Inteligente e Visão Artificial sediado no Instituto de Informática da UFRGS. Coordenou projetos de cooperação internacional com universidades dos seguintes países: França, Portugal e Estados Unidos. Atualmente, coordena projeto de cooperação entre UFRGS e Universidade de Oslo, Noruega, na área de Robótica e Inteligência Artificial. É também autor de livros na área de Inteligência Artificial. Representante da UFRGS como Membro do Comitê de Defesa (COMDEFESA) da Federação da Indústria do Estado do Rio Grande do Sul). Tem mais de 300 trabalhos publicados e já orientou mais de 20 teses de Doutorado e 40 dissertações de Mestrado. Curador da exposição Alan Turing: Legados para a Computação e para a Humanidade, exibida no Museu da UFRGS em 2012 e 2013, a qual itinere em todas regiões do Brasil nos anos de 2013 e 2014. Tem sido convidado para ministrar palestras sobre diferentes temas em distintas regiões do Brasil. Mais recentemente, tem dado foco a questões de Ética na Ciência e no Desenvolvimento Tecnológico. Tem contribuído com Inovação Tecnológica, sendo coordenador geral de projeto junto à Petrobrás visando o desenvolvimento de robôs, que tenham a função de desobstruir dutos de óleo e gás, o qual recebeu Prêmio de Inovação da Agência Nacional de Petróleo em 2021.

Referências

ABDOLLAHPOURI, H. et al. The connection between popularity bias, calibration, and fairness in recommendation. In: ACM RECOMMENDER SYSTEMS CONFERENCE, 14., 2020. Proceedings… Rio de Janeiro: ACM, 2020. p. 726-731. Disponível em: https://doi.org/10.1145/3383313.3418487. Acesso em: 23 out. 2024.

ARIA, M.; CUCCURULLO, C. Bibliometrix: An R-tool for comprehensive science mapping analysis. Journal of Informetrics, v. 11, p. 959-975, 2017. Disponível em: http://dx.doi.org/10.1016/j.joi.2017.08.007. Acesso em: 23 out. 2024.

BAROCAS, S.; HARDT, M.; NARAYANAN, A. Fairness and machine learning: limitations and opportunities. [S.l: S.n], 2019. Disponível em: fairmlbook.org. Acesso em: 23 out. 2024.

BURR, C.; CRISTIANINI, N.; LADYMAN, J. An analysis of the interaction between intelligent software agents and human users. Minds and Machines, v. 28, n. 4, p. 735–774, 2018. Disponível em: https://doi.org/10.1007/s11023-018-9479-0. Acesso em: 23 out. 2024.

CARDONA, M.A.; RODRÍGUEZ, R.J.; ISHMAEL, K. Artificial intelligence and the future of teaching and learning: insights and recommendations. Washington: Department of Education, Office of Educational Technology, 2023. Disponível em: https://www2.ed.gov/documents/ai-report/ai-report.pdf. Acesso em: 23 out. 2024.

CALLON, M. et al. From translations to problematic networks: an introduction to co-word analysis. Social Science Information, v. 22, n. 2, p. 191-235, 1983. Disponível em: https://doi.org/10.1177/053901883022002003. Acesso em: 23 out. 2024.

DELDJOO, Y. et al. Fairness in recommender systems: research landscape and future directions. User Modeling and User-Adapted Interaction, v. 34, p. 59-108, 2024. https://doi.org/10.1007/s11257-023-09364-z. Acesso em: 23 out. 2024.

DESCHÊNES, M. Recommender systems to support learners’ agency in a learning context: a systematic review. International Journal of Educational Technology in Higher Education. 2020, v.17, 50, p. 1–23, 2020. Disponível em: https://doi.org/10.1186/s41239-020-00219-w. Acesso em: 23 out. 2024.

EKSTRAND, M.D. et al. Fairness in information access systems. Foundation and Trends in Information Retrieval, v. 16, n.1/2, p. 1-177, 2022. Disponível em: https://doi.org/10.1561/1500000079. Acesso em: 23 out. 2024.

HE, Q. Knowledge discovery through co-word analysis. Library Trends, v. 48, n. 1, p. 133-159, 1999. Disponível em: http://bit.ly/48aYW5K. Acesso em: 23 out. 2024.

HUANG, C. et al. An overview of artificial intelligence ethics. IEEE Transactions on Artificial Intelligence, v. 4, n. 4, p. 799-819, 2023. Disponível em: https://doi.org/10.1109/TAI.2022.3194503. Acesso em: 23 out. 2024.

INUWA-DUTSE, I. FATE in AI: towards algorithmic inclusivity and accessibility. In: ACM CONFERENCE ON EQUITY AND ACCESS IN ALGORITHMS, MECHANISMS, AND OPTIMIZATION, 3., 2023. Proceedings… Boston: ACM, 2023. p. 1-14. Disponível em: https://doi.org/10.1145/3617694.3623233. Acesso em: 23 out. 2024.

JOBIN, A.; IENCA, M.; VAYENA, E. The global landscape of AI ethics guidelines. Nature Machine Intelligence, v. 1, n. 9, p. 389-399, 2019. Disponível em: https://doi.org/10.1038/s42256-019-0088-2. Acesso em: 23 out. 2024.

KHAN, A.; YADAV, A.; RAHI, A.C. A brief survey on recommendation system. International Journal of Research in Engineering, Science and Management, v. 3, n. 6, 2020. Disponível em: https://www.ijresm.com/volume-3-issue-6-june-2020. Acesso em: 23 out. 2024.

KONSTAN, J.A.; RIEDL, J. Deconstructing recommender systems. IEEE Spectrum, 24 set. 2012. Disponível em: https://bit.ly/3MgAVSd. Acesso em: 23 out. 2024.

LAMPROPOULOS, G. Recommender systems in education: a literature review and bibliometric analysis. Advances in Mobile Learning Educational Research, v. 3, n. 2, p. 829-850, 2023. Disponível em: https://doi.org/10.25082/AMLER.2023.02.011. Acesso em: 23 out. 2024.

LINDBERG, S.I. Mapping accountability: core concept and subtypes. International Review of Administrative Sciences, v. 79, n. 2, p. 202–226. Disponível em: https://doi.org/10.1177/0020852313477761. Acesso em: 23 out. 2024.

MANOUSELIS, N.; VUORIKARI, R.; VAN ASSCHE, F. Collaborative recommendation of e‐learning resources: an experimental investigation. Journal of Computer Assisted Learning, v. 26, n. 4, p. 227-242, 2010. Disponível em: https://dx.doi.org/10.1111/j.1365-2729.2010.00362.x. Acesso em: 23 out. 2024.

MAPHOSA, V.; MAPHOSA, M. Fifteen years of recommender systems research in higher education: current trends and future direction. Applied Artificial Intelligence, v. 37, n. 1, 2175106, 2023. Disponível em: https://doi.org/10.1080/08839514.2023.2175106. Acesso em: 23 out. 2024.

MEMARIAN, B; DOLECK, T. Fairness, accountability, transparency, and ethics (FATE) in artificial intelligence (AI) and higher education: a systematic review. Computers and Education: Artificial Intelligence, v. 5, 100152, 2023. Disponível em: https://doi.org/10.1016/j.caeai.2023.100152. Acesso em: 23 out. 2024.

MILANO, S.; TADDEO, M.; FLORIDI, L. Recommender systems and their ethical challenges. AI & Society, v. 35, p. 957-967, 2020. Disponível em: https://doi.org/10.1007/s00146-020-00950-y. Acesso em: 23 out. 2024.

MILLER, G.A. The magical number seven, plus or minus two: some limits on our capacityfor processing information. Psychological Review, v. 63, n. 2, p. 81-97, 1956. Disponível em: https://doi.org/10.1037/h0043158. Acesso em: 23 out. 2024.

MULLIGAN, D.K. et al. This thing called fairness: Disciplinary confusion realizing a value in technology. In: ACM ON HUMAN-COMPUTER INTERACTION, 3., 2019. Proceedings… New York: ACM, 2019. p. 1-36. Disponível em: https://doi.org/10.1145/3359221. Acesso em: 23 out. 2024.

NOVELLI, C.; TADDEO, M.; FLORIDI, L. Accountability in artificial intelligence: what it is and how it works. AI & Society, v.39, p. 1-12, 2023. Disponível em: https://doi.org/10.1007/s00146-023-01635-y. Acesso em: 23 out. 2024.

OECD. Organisation de Coopération et de Développement Économiques. OECD.AI: policy observatory: OECD AI principles overview. 2024. Disponível em: https://oecd.ai/en/ai-principles. Acesso em: 23 out. 2024.

OLSEN, J.P. Ambiguity and the politics of accountability. In: OLSEN, J.P. (Ed.). Democratic accountability, political order, and change: exploring accountability processes in an era of European transformation. Oxford: Oxford University Press, 2017. p. 74-96. Disponível em: https://doi.org/10.1093/acprof:oso/9780198800606.003.0004. Acesso em: 23 out. 2024.

PAZZANI, M.J.; BILLSUS, D. Content-based recommendation systems. In: BRUSILOVSKY, P.; KOBSA, A.; NEJDL, W. (Ed.). The adaptive web: methods and strategies of web personalization. Berlin, Heidelberg: Springer-Verlag, 2007. p. 325-341. Disponível em: https://dl.acm.org/doi/10.5555/1768197.1768209. Acesso em: 23 out. 2024.

POPENICI, S.A.D.; KERR, S. Exploring the impact of artificial intelligence on teaching and learning in higher education. Research and Practice in Technology Enhanced Learning, v. 12, n. 22, p. 1-13, 2017. Disponível em: https://doi.org/10.1186/s41039-017-0062-8. Acesso em: 23 out. 2024.

RICCI, F.; ROKACH, L.; SHAPIRA, B. Recommender systems: introduction and challenges. In: RICCI, F.; ROKACH, L.; SHAPIRA, B. (Ed.). Recommender systems handbook. 2.ed. New York: Springer, 2015. p. 1-34. Disponível em: https://doi.org/10.1007/978-1-4899-7637-6_1. Acesso 23 out. 2024.

RIVERA, A.C.; TAPIA-LEÓN, M.; LUJAN-MORA, S. Recommendation systems in education: a systematic mapping study. In: INTERNATIONAL CONFERENCE ON INFORMATION TECHNOLOGY & SYSTEMS, 1., 2018. Proceedings… Cham: Springer, 2018. p. 937-947. Disponível em: https://doi.org/10.1007/978-3-319-73450-7_89. Acesso em: 23 out. 2024.

SILVA, F.L. et al. A systematic literature review on educational recommender systems for teaching and learning: research trends, limitations and opportunities. Education and Information Technologies, v. 28, p. 2289-2328, 2023. Disponível em: https://doi.org/10.1007/s10639-022-11341-9. Acesso em: 23 out. 2024.

WANG, R.; HARPER, F.M.; ZHU, H. Factors influencing perceived fairness in algorithmic decision-making: algorithm outcomes, development procedures, and individual differences. In: CONFERENCE ON HUMAN FACTORS IN COMPUTING SYSTEMS, 1., 2020. Proceedings…Honolulu, ACM, 2020. p. 1-14. Disponível em: https://doi.org/10.1145/3313831.3376813. Acesso em: 23 out. 2024.

THEODOROU, A.; DIGNUM, V. Towards ethical and socio-legal governance in AI. Natural Machine Intelligence, v. 2, p. 10-12, 2020. Disponível em: https://doi.org/10.1038/s42256-019-0136-y. Acesso em: 23 out. 2024.

VENKATRAMAN, S. A proposed business intelligent framework for recommender systems. Informatics, n. 4, 40. Disponível em: https://doi.org/10.3390/informatics4040040. Acesso em: 23 out. 2024.

ZAWACKI-RICHTER, O.; LATCHEM, C. Exploring four decades of research in Computers & Education. Computers and Education, New, v. 122, p. 136-152, 2018. Disponível em: https://doi.org/10.1016/j.compedu.2018.04.001. Acesso em: 23 out. 2024.

ZIPF, George Kingsley. Human behavior and the principle of least effort: an introduction to human ecology. Cambridge, Addison-Wesley, 1949. Disponível em: https://bit.ly/488PeRn. Acesso em: 23 out. 2024.

Downloads

Publicado

2026-05-08

Como Citar

Santos, R. A. dos, Beni, P. F., Reategui, E. B., & Barone, D. A. C. (2026). Justiça, Responsabilidade, Transparência e Ética (FATE) em sistemas de recomendação na educação: : uma análise de coocorrência de palavras. Revista Ibero-Americana De Ciência Da Informação, 19(2), 356–377. https://doi.org/10.26512/rici.v19.n2.2026.60555

Edição

v. 19 n. 2 (2026): Revista Ibero-Americana de Ciência da Informação

Seção

Artigos

Licença

Copyright (c) 2026 Rafael Antunes dos Santos, Priscila Ferreira Beni, Eliseo Berni Reategui, Dante Augusto Couto Barone

Creative Commons License
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.

Notas de direitos autorais

Autores que publicam nesta revista concordam com os seguintes termos: Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons Attribution License 4.0, permitindo o compartilhamento do trabalho com reconhecimento da autoria do trabalho e publicação inicial nesta revista. Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: distribuir em repositório institucional ou publicar como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista. Autores têm permissão e são estimulados a distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado.

Artigos Semelhantes

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 > >> 

Você também pode iniciar uma pesquisa avançada por similaridade para este artigo.