DEEPFAKE PORNOGRAPHY: A LEGAL ANALYSIS ON HUMAN DIGNITY AND ARTIFICIAL INTELLIGENCE
DOI:
https://doi.org/10.26512/2357-80092025e53064Keywords:
Human dignity, artificial intelligence, image rights, image manipulation, deepfake pornographyAbstract
This article aims to understand the rise of artificial intelligence in society, especially in the activity of image manipulation, in order to legally discuss the intersection between the virtual dissimulation of pornographic content and the dignity of the victim, carrying out a legislative and jurisprudential approach to this theme. To this end, it undertakes a historical journey about technological advances and the emergence of AI, as well as its influence on image manipulation programs. Next, it dealt with human dignity and its relationship with the illegal practice of producing and disseminating pornographic content created in a covert manner and without the victim's consent. In the end, the study takes a legislative and jurisprudential approach to deepfake pornography, demonstrating the legislative insufficiency to address the issue. The study is of great importance because technological evolution increasingly brings with it problems of a socio-legal nature that require the State to provide an effective and rapid response to guarantee human dignity. To carry out this study, the inductive method was adopted to construct the argument, with a descriptive procedure, based on the exclusively bibliographical research technique
Downloads
References
AJDER, Henry et al. DEEPTRACE. The State of deepfakes: Landscape, Threats, and Impact. [S.l.], set. 2019. p. 3. Disponível em: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf. Acesso em: 04 fev. 2024.
ALCÂNTARA, Maria Clara. Alunos de colégio particular do Recife usam IA para criar “nudes” falsos de colegas. CNN Brasil, 14 de novembro de 2023. Disponível em: https://www.cnnbrasil.com.br/nacional/alunos-de-colegio-particular-do-recife-usam-ia-para-criar-nudes-falsos-de-colegas/. Acesso em: 26 de jan. 2024.
ARAUJO, Luiz Alberto David. A Proteção Constitucional da Própria Imagem: Pessoa Física, Pessoa Jurídica e Produto. Belo Horizonte: Dey Rey, 1996.
ARAÚJO, Marcelo. O uso de inteligência artificial para a geração automatizada de textos acadêmicos: plágio ou meta-autoria? Logeion: Filosofia da Informação. Rio de Janeiro, v. 3, n. 1, p. 89-107, 2016. Disponível em: https://revista.ibict.br/fiinf/article/view/3012/2761. Acesso em: 08 fev. 2024.
BECCHI, Paolo. O princípio da dignidade humana. Aparecida, São Paulo: Santuário, 2013.
BELL, Daniel. O advento da sociedade Pós-Industrial: uma tentativa de previsão social. São Paulo: Editora Cultrix, 1973.
BRASIL, Superior Tribunal de Justiça. Súmula n. 403. Independe de prova do prejuízo a indenização pela publicação não autorizada de imagem de pessoa com fins econômicos ou comerciais. Brasília, DF: Superior Tribunal de Justiça, [2009]. Disponível em: https://www.stj.jus.br/docs_internet/revista/eletronica/stj-revista-sumulas-2014_38_capSumula403.pdf. Acesso em: 31 fev. 2024.
BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 1.082.878/RJ. Recorrente: Editora Globo S/A. Recorrido: Marcos Fábio Prudente. Relatora: Ministra Nancy Andrighi, 14 de outubro de 2008. DJe em 18/11/2008. Disponível em: https://processo.stj.jus.br/processo/revista/inteiroteor/?num_registro=200801875678&dt_publicacao=18/11/2008.Acesso em: 07 fev. 2024.
BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 1.840.848/SP. Recorrente: KKS. Recorrido: Google Brasil Internet Ltda.. Relator: Ministro Paulo de Tarso Sanseverino. 26 de abril de 2022. DJe em 05/05/2022 . Disponível em: https://processo.stj.jus.br/processo/julgamento/eletronico/documento/mediado/?documento_tipo=integra&documento_sequencial=151617285®istro_numero=201902924723&peticao_numero=&publicacao_data=20220505&formato=PDF. Acesso em: 07 fev. 2024.
BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 1.930.256/SP. Recorrentes: FBC e GBIL. Recorridos: FBC e GBIL. Relatora: Ministra Nancy Andrighi. 07 de dezembro de 2021. DJe 17/12/2021. Disponível em: https://processo.stj.jus.br/processo/julgamento/eletronico/documento/mediado/?documento_tipo=integra&documento_sequencial=142674902®istro_numero=202100934040&peticao_numero=&publicacao_data=20211217&formato=PDF. Acesso em: 07 fev. 2004.
BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 1.735.712/SP. Recorrente: VWZ. Recorrido: Facebook Serviços Online do Brasil Ltda. Relatora: Ministra Nancy Andrighi. 19 de maio de 2020. DJe: 27/05/2020. Disponível em: https://scon.stj.jus.br/SCON/GetInteiroTeorDoAcordao?num_registro=201800428994&dt_publicacao=. Acesso em 07 fev. 2024.
BRASIL. Tribunal Superior Eleitoral. TSE proíbe uso de inteligência artificial para criar e propagar conteúdos falsos nas eleições. TSE, 29 de fevereiro de 2024. Disponível em: https://www.tse.jus.br/comunicacao/noticias/2024/Fevereiro/tse-proibe-uso-de-inteligencia-artificial-para-criar-e-propagar-conteudos-falsos-nas-eleicoes. Acesso em: 01 mar. 2024.
CANOTILHO, José Joaquim Gomes. Direito Constitucional e teria da constituição. 7. ed. Coimbra: Almedina, 2003.
CASTELLS, Manuel. A sociedade em rede: a era da informação, economia, sociedade e cultura. 6. ed. São Paulo: Paz e Terra, 2011. v. 1.
CASTRO, Ana Lara Camargo de; SYDOW, Spencer Toth. Exposição pornográfica não consentida na internet: da pornografia de vingança ao lucro. 1 ed. Belo Horizonte: D’Plácido, 2017.
COMPARATO, Fabio Konder. A Afirmação histórica dos direitos humanos. 6. ed. São Paulo: Saraiva: 2015.
COPPIN, Ben. Inteligência artificial. Tradução: Jorge Duarte Pires Valério. Rio de Janeiro: LTC, 2017.
DAMILANO, Cláudio Teixeira. Inteligência artificial e inovação tecnológica: as necessárias distinções e seus impactos nas relações de trabalho. Brazilian Journal of Development. Curitiba, PR,v. 5, n. 10, p. 19985-20001, out. 2019.p. 19987. ISSN: 2525-8761. Disponível em: https://www.ufsm.br/app/uploads/sites/563/2019/09/12.4.pdf. Acesso em: 05 fev. 2024.
DE CUPIS, Adriano. Os direitos da personalidade. 2. ed. São Paulo: Quorum, 2008.
DELFNO, Rebeca. (2019). Pornographic deepfakes: the case for federal criminalization of revenge porn’s next tragic act. Fordham Law Review, v. 88, n.3, 2019. Disponível em: https://ir.lawnet.fordham.edu/flr/vol88/iss3/2/. Acesso em: 06 fev. 2024.
DIAS, Jacqueline Sarmento. O direito à imagem. Belo Horizonte: Del Rey, 2000, p. 71; SOUZA, Carlos Affonso Pereira de. Contornos atuais do direito à imagem. Revista Trimensal de Direito Civil, v .4, n. 13, p. 33-72, jan.-mar. 2003. p. 51.
DINIZ, Maria Helena. Teoria geral do direito civil. 31. ed. São Paulo: Saraiva, 2014.
FACHIN, Zulmar Antonio. A proteção jurídica da imagem. São Paulo: Celso Bastos Editor, 1999.
FLYNN, Asher et al. Shattering lives and myths: Report on image-based sexual abuse. Australian Research Council (ARC). 2019. Disponível em https://claremcglynn.files.wordpress.com/2019/10/shattering-lives-and-myths-revised-aug-2019.pdf. Acesso: 15 fev. 2024.
GILBOURNE, Jade. Taylor Swift deepfakes: a legal case from the singer could help other victims of AI pornography. The Conversantion, 31 janeiro 2024. Disponível em: https://theconversation.com/taylor-swift-deepfakes-a-legal-case-from-the-singer-could-help-other-victims-of-ai-pornography-222113. Acesso em: 26 de fev. 2024.
GREENGARD, Samuel. Will deepfakes do deep damage?. Communications of the ACM, v. 63, n.1, 17-19, 2019. Disponível em: https://cacm.acm.org/news/will-deepfakes-do-deep-damage/. Acesso em 07 fev. 2024.
HAPSARI, Anita Dwi. Students’ Perception toward Using Canva in EFL Business Correspondence Class. Edulitics (Education, Literature, and Linguistics) Journal, v. 8, n. 2, p. 47-56, 2023. Disponível em: https://www.e-jurnal.unisda.ac.id/index.php/edulitic/article/view/5268. Acesso em: 07 fev. 2024.
HOME SECURITY HEROES. 2023 State of Deepfakes: Realities, Threats, and Impact. Home Secutity Heroes, 2023. Disponível em: https://www.homesecurityheroes.com/state-of-deepfakes/. Acesso em 15 jan. 2024.
KANT, Immanuel. Crítica da razão prática. Tradução Valério Rohden. São Paulo: Martins Fontes, 2003.
LARENZ, Karl. Derecho civil: parte general. Madri: Editoriales de Derecho Reunidas, 1978.
LONGO, Ivan. Lula é alvo de deepfake usado por criminosos para aplicar golpes; veja como não cair. Fórum, Brasil, 11 de dezembro de 2023. Disponível em: https://revistaforum.com.br/brasil/2023/12/11/lula-alvo-de-deepfake-usado-por-criminosos-para-aplicar-golpes-veja-como-no-cair-149271.html. Acesso em: 26 fev. 2024.
LOPES, Isaia Lima; SANTOS, Flávia Aparecida Oliveira; PINHEIRO, Carlos Alberto Murari. Inteligência Artificial. 1. ed. Rio de Janeiro: Elsevier, 2014.
MARIA, Carolina. The Legal Implications and Remedies Concerning revenge Porn and Fake Porn: A Common Law Perspective. Sexuality & Culture, 2020. Disponível em: https://doi.org/10.1007/s12119-020-09738-0. Acesso em: 07 fev. 2024.
MARTINS, Américo. Eleições nos EUA: uso de deepfake e IA revela problema que pode se repetir no Brasil. CNN Brasil, Londres, 23 de janeiro de 2024. Disponível em: https://www.cnnbrasil.com.br/internacional/eleicoes-nos-eua-uso-de-deepfake-e-ia-revela-problema-que-pode-se-repetir-no-brasil/. Acesso em: 26 fev. 2024.
MEDEIROS. Heloísa Gomes. Software e direitos de propriedade intelectual. Curitiba: Gedai, 2019.
MOORE, Martin; TAMBINI, Damian. Policy Responses to Digital Dominance Regulating Big Tech. New York: Oxford University, 2022.
MORAES, Maria Celina Bodin de. Na medida da pessoa humana: estudos de direito civil. Rio de Janeiro: renovar, 2010.
MOURA, Camila Stéffane Fernandes Teixeira de. Detecção de deepfakes a partir de técnicas de visão computacional e aprendizado de máquina.Orientador: Anderson de Rezende Rocha. 2021. 105 f. Dissertação (Mestrado em Ciência da Computação) - Universidade Estadual de Campinas, Instituto de Computação, Campinas, SP, 2021. Disponível em: https://repositorio.unicamp.br/acervo/detalhe/1162078. Acesso em: 05 fev. 2024.
NAJDOWSKI, Cynthia. Legal responses to nonconsensual pornography: Current policy in the United States and future directions for research. Psychology, Public Policy, and Law, v. 23, n. 2, p. 154–165, 2017. Disponível em https://psycnet.apa.org/doiLanding?doi=10.1037%2Flaw0000123. Acesso em 07 jan. 2024.
ORGANIZAÇÃO DAS NAÇÕES UNIDAS (ONU). Informe de política para a nossa agenda comum: integridade da informação nas plataformas digitais. 2023. Disponível em: https://brasil.un.org/sites/default/files/2023-10/ONU_Integridade_Informacao_Plataformas_Digitais_Informe-Secretario-Geral_2023.pdf. Acesso em 07 jan. 2024.
PASSOS, Hugo Assis. Inteligência Artificial e a Repercussão Geral da Questão Constitucional: análise crítica e parâmetros de utilização. 2022. Tese (Doutorado de Direito Constitucional) - Faculdade de Direito, Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa. Brasília, 2022.
PEIXOTO, Hartmann Fabiano. Direito e Inteligência Artificial: referenciais básicos com comentários à Resolução CNJ 332/2020. Brasília: DR.IA, 2020.
PINA, Afroditi; HOLANDA, James; JAMES, Mark. The malevolent side of revenge porn proclivity: Dark personality traits and sexist ideology. International Journal of Technoethics (IJT), v. 8, n.1, p. 30–43, 2017. Disponível em: https://doi.org/10.4018/IJT.2017010103. Acesso em: 06 jan. 2024.
PINTO, Felipe Chiarellode Souza; OLIVEIRA, Gabriela Franklin de. Não acredite em tudo que vê: deepfake pornography e responsabilidade civil no ordenamento jurídico brasileiro. Direito e Política, vol. 18, n. 2, 2023. Disponível em: https://periodicos.univali.br/index.php/rdp/article/view/19869/11490. Acesso em: 07 jan. 2024.
PRADO, Magaly Parreira do. Deepfake de áudio: manipulação simula voz real para retratar alguém dizendo algo que não disse. Revista Digital de Tecnologias Cognitivas, nº 23, jan./jun. 2021, p. 45-68. Disponível em: https://revistas.pucsp.br/index.php/teccogs/article/view/55977. Acesso em: 29 dez. 2023.
RÁDIO PÚBLICA FRANCESA (RFI). Europa impõe novas regras para combater conteúdos ilícitos. Carta Capital, 25 de agosto de 2023. Disponível em: https://www.cartacapital.com.br/tecnologia/internet-europa-impoe-novas-regras-para-combater-conteudos-ilicitos/. Acesso em: 26 de jan. 2024.
REINA, Eduardo. China cria lei para combater informações falsas formatadas por meio de deepfakes. Consultor jurídico, 8 de abril de 2023. Disponível em: https://www.conjur.com.br/2023-abr-08/china-cria-lei-informacoes-falsas-meio-deepfakes/#:~:text=A%20China%20%C3%A9%20o%20primeiro,dos%20aplicativos%20que%20usam%20IA. Acesso em: 26 fev. 2024.
REIS, Jorge Renato dos; DIAS, Felipe da Veiga. O Direito de imagem sob a ótica da constitucionalização do direito privado: um panorama jurisprudencial no estado democrático de direito. Scientia Iuris, Londrina, v. 15, n. 1, p. 51-70, 2011.
ROSEN, Michael. Dignity: Its History and Meaning. Cambridge, MA: Harvard University Press, 2012.
SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais. 13. ed. Porto Alegre: Livraria do Advogado, 2018.
SCHREIBER, Anderson. Direitos da personalidade. 2. ed. São Paulo: Atlas, 2013.
SCHREIBER, Anderson; RIBAS, Felipe; MANSUR, Rafael. deepfakes: regulação e responsabilidade civil. In: TEPEDINO, Gustavo; SILVA, Rodrigo da Guia (Coord.). O direito civil na era da inteligência artificial. São Paulo: Thompson Reuters Brasil, 2020.
SEARLE, John Rogers. A Redescoberta da Mente. São Paulo: Martins Fontes, 1997.
SHINOHARA, Luciane. Inteligência Artificial, Machine Learning e Deep Learning. In: PINHEIRO, Patrícia Peck (Coord.). Direito digital aplicado 3.0. São Paulo: Thompson Reuters Brasil, 2018.
SIQUEIRA, Dirceu Siqueira; VIEIRA, Ana Elisa Silva Fernandes Vieira. OS LIMITES À RECONSTRUÇÃO DIGITAL DA IMAGEM NA SOCIEDADE TECNOLÓGICA. Revista Eletrônica do Curso de Direito da UFSM, [S. l.], v. 17, n. 3, p. e67299, 2022. DOI: 10.5902/1981369467299. Disponível em: https://periodicos.ufsm.br/revistadireito/article/view/67299. Acesso em: 03 fev. 2024.
SOUZA, Carlos Affonso Pereira de. Contornos atuais do direito à imagem. Revista Trimensal de Direito Civil, v .4, n. 13, p. 33-72, jan.-mar. 2003.
SUZOR, Nicolas; SEIGNIOR, Bryony; SINGLETON, Jennifer. Non-consensual porn and the responsibilities of online intermediaries. Melbourne University Law Review, v. 40, n. 3, 2016. Disponível em: https://law.unimelb.edu.au/__data/assets/pdf_file/0007/2329396/Suzor-403-Advance.pdf. Acesso em: 10 fev. 2024.
TEFFÉ, Chiara Antonia Spadaccini de. Considerações sobre a proteção do direito à imagem na internet. RIL Brasília. Brasília, v. 54, n. 213, p. 173-198, jan.-mar. 2017.p. 179. Disponível em: https://www12.senado.leg.br/ril/edicoes/54/213/ril_v54_n213_p173.pdf. Acesso em: 07 fev. 2024.
TOMASEVICIUS FILHO, Eduardo. Inteligência artificial e direitos da personalidade: uma contradição em termos? Revista da Faculdade de Direito, Universidade de São Paulo. [S.l.], v. 113, p. 133-149, 2018. DOI: 10.11606/issn.2318-8235.v113i0p133-149. Disponível em: https://www.revistas.usp.br/rfdusp/article/view/156553. A cesso em: 08 fev. 2024.
TORRES, Ana Maria Lumi Kamimura; MURRATA, Paula Ritzmann. A convenção de budapeste sobre os crimes cibernéticos foi promulgada, e agora? Boletim IBCRIM, ano 31, n. 368, julho, 2023.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2025 Direito.UnB - Revista de Direito da Universidade de Brasília
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Autores que publicam na Revista Direito.UnB concordam com os seguintes termos:
- Autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons - Atribuição-NãoComercial-SemDerivações 4.0 Internacional que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada na Revista Direito.UnB (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são incentivados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou em suas páginas pessoais) a qualquer momento após à definição do processo editorial.
- Autores concordam que, eventualmente, seus trabalhos poderão ser agregados pela Revista Direito.UnB às bases e sistemas de informação científica existentes (indexadores e bancos de dados atuais) ou que existam no futuro (indexadores e bancos de dados futuros). Os detentores dessas bases de dados terão a possibilidade de realizar as seguintes ações sobre o artigo:
- Reproduzir, transmitir e distribuir o artigo, no todo ou em parte sob qualquer forma ou meio de transmissão eletrônica existente ou desenvolvida no futuro, incluindo a transmissão eletrônica para fins de pesquisa, visualização e impressão;
- Reproduzir e distribuir, no todo ou em parte, o artigo na impressão;
- Capacidade de traduzir certas partes do artigo;
- Extrair figuras, tabelas, ilustrações e outros objetos gráficos e capturar metadados, legendas e artigo relacionado para fins de pesquisa, visualização e impressão;
- Transmissão, distribuição e reprodução por agentes ou autorizada pelos proprietários de distribuidoras de bases de dados;
- A preparação de citações bibliográficas, sumários e índices e referências de captura relacionados de partes selecionadas do artigo;
- Digitalizar e/ou armazenar imagens e texto de artigo eletrônico.
