Artificial intelligence and the exploitation of image rights through deepfakes

Authors

• Pedro Henrique Scoralick Silveira Faculdade Milton Campos
• José Luiz de Moura Faleiros Júnior Faculdade Milton Campos

DOI:

https://doi.org/10.36704/inovajur.v3i2.9193

Keywords:

deepfakes, artificial intelligence, image rights, regulation, ethical limits

Abstract

The article addresses the ethical limits of using artificial intelligence technologies, specifically deepfakes, in the posthumous exploitation of image rights. With technological advances, it has become possible to realistically recreate images and audio of deceased individuals, raising serious issues regarding privacy, authenticity, and unauthorized use of these representations. By analyzing cases such as the recreation of singer Elis Regina in a Volkswagen advertising campaign, the article discusses the legal and ethical challenges associated with the use of these technologies. Additionally, it explores the impact of deepfakes in the political context, highlighting how these tools can be used to manipulate public opinion, especially during electoral periods, threatening democratic integrity. The lack of specific regulations for the use of deepfakes is presented as a critical issue, emphasizing the need for legal guidelines that ensure the protection of image rights and the preservation of human dignity. The research suggests the necessity of a coordinated legislative effort to keep up with rapid technological transformations, promoting a balance between innovation and the protection of fundamental rights.

References

ALMEIDA, Ivana Veloso de; SANTOS, Lorena Danielle. História e música: uma reflexão sobre Elis Regina como voz de resistência durante a ditadura civil-militar no Brasil. Revista Outras Fronteiras, Cuiabá, v. 9, n. 1, p. 68-85, jan./jul. 2021.

ANDRADE, André Gustavo Corrêa. O princípio fundamental da dignidade humana e sua concretização judicial. Revista da EMERJ, Rio de Janeiro, v. 6, n. 23, p. 316-335, 2003.

BELTRÃO, Silvio Romero. Direito da personalidade: natureza jurídica, delimitação do objeto e relações com o Direito Constitucional. Revista do Instituto do Direito Brasileiro, Lisboa, ano 2, n. 1, p. 203-228, 2013.

BRASIL, Tribunal Superior Eleitoral. Gestão Alexandre de Moraes: combate às fake news reforçou confiabilidade do processo eleitoral. Tribunal Superior Eleitoral, maio 2024a. Disponível em: https://www.tse.jus.br/comunicacao/noticias/2024/Maio/gestao-alexandre-de-moraes-combate-as-fake-news-e-milicias-digitais-reforcaram-confiabilidade-do-processo-eleitoral. Acesso em: 10 out. 2024.

BRASIL, Tribunal Superior Eleitoral. Resolução n° 23.732, de 27 de fevereiro de 2024b. Diário da Justiça Eletrônico, Brasília, DF, 2024. Disponível em: https://www.tse.jus.br/legislacao/compilada/res/2024/resolucao-no-23-732-de-27-de-fevereiro-de-2024. Acesso em: 10 out. 2024.

BRASIL. Tribunal Superior Eleitoral. Presidente do TSE inaugura Centro Integrado de Combate à Desinformação. Tribunal Superior Eleitoral, mar. 2024. Disponível em: https://www.tse.jus.br/comunicacao/noticias/2024/Marco/presidente-do-tse-inaugura-centro-integrado-de-combate-a-desinformacao. Acesso em: 10 out. 2024.

DE RUITER, Adrienne. The distinct wrong of deepfakes. Philosophy & Technology, [S.l], v. 34, p. 1311-1332, 2021.

SILVEIRA, Pedro Henrique Scoralick; MACHADO, Gabriel Araújo; FALEIROS JÚNIOR, José Luiz de Moura. Deepfakes nas eleições: riscos para a democracia e vulnerabilidade do eleitor. In: Anais do I Encontro Nacional de Direito do Futuro, 2024, Belo Horizonte/MG, Brasil. Direito Digital, algoritmos, vigilância e desinformação II [recurso eletrônico]. Belo Horizonte: Escola Superior Dom Helder Câmara, 2024, p. 43-48.

FALEIROS JÚNIOR, José Luiz de Moura; ROCHA, Lucas Enriquez. Hologramas na Internet das Coisas. In: PARENTONI, Leonardo; NOGUEIRA, Michele (Coord.). Direito, tecnologia e inovação: Internet das Coisas (IoT). Belo Horizonte: Centro DTIBR, 2023, v. 5. p. 383-410.

FERREIRA, Caroline. Whoopi Goldberg proíbe criação de holograma com sua imagem após morte. CNN Brasil, 13 jul. 2023. Disponível em: https://www.cnnbrasil.com.br/entretenimento/whoopi-goldberg-proibe-criacao-de-holograma-com-sua-imagem-apos-morte/ Acesso em: 10 out. 2024.

GOMES, Luiz Roldão de Freitas. Os direitos da personalidade e o novo Código Civil: questões suscitadas. Revista da EMERJ, Rio de Janeiro, v. 5, n. 19, p. 13-22, 2002.

LLEWELLYN, Geraint. Madonna, 64, leaves 'strict rules on how to manage her legacy and $850M fortune' after being rushed to ICU with near-death bacterial infection. Daily Mail, 10 jul. 2023. Disponível em: https://www.dailymail.co.uk/tvshowbiz/article-12282111/Madonna-64-leaves-strict-rules-manage-legacy-850M-fortune-illness.html Acesso em: 10 out. 2024.

MEDON, Filipe. O direito à imagem na era das deepfakes. Revista Brasileira de Direito Civil, Belo Horizonte, v. 27, p. 251-277, jan./mar. 2021.

MINISTÉRIO PÚBLICO DO ESTADO DE SÃO PAULO. Direitos Humanos, Empresa e Justiça de Transição: o papel da Volkswagen do Brasil na repressão política durante a ditadura militar. Relatório conjunto com o Ministério Público do Trabalho e com o Ministério Público Federal. PR-SP-00104695/2020. São Paulo, out. 2020. Disponível em: https://www.mpsp.mp.br/documents/portlet_file_entry/20122/2679806.pdf/55488978-129e-6f5d-5abf-50e4fb8824f5 Acesso em: 10 out. 2024.

MONTINI, Alessandra. Inteligência artificial na segurança cibernética: escudo protetor ou ameaça potencial? O Laboratório de Análise de Dados. Labdata FIA, 26 set. 2024. Disponível em: https://labdata.fia.com.br/blog/ Acesso em: 10 out. 2024.

MORATO, Antonio Carlos. Uso e avanços da inteligência artificial têm sido alvos de discussões sobre limite ético. Jornal da USP, 19 jul. 2023. Disponível em: https://jornal.usp.br/atualidades/uso-e-avancos-da-inteligencia-artificial-tem-sido-alvo-de-discussoes-sobre-limite-etico/ Acesso em: 10 out. 2024.

RENAUD, Lauren. Will you believe it when you see it? How and why the press should prepare for deepfakes. Georgetown Law Technology Review, Washington, DC, v. 4, n. 1, p. 241-262, 2019.

SCHERER, Roberta. Uso de inteligência artificial para golpes aumenta 3000% em apenas um ano, aponta relatório. Jornal da Band, 03 nov. 2024. Disponível em: https://www.band.uol.com.br/noticias/jornal-da-band/ultimas/uso-de-inteligencia-artificial-para-golpes-aumenta-3000-em-apenas-um-ano-aponta-relatorio-202409031943 Acesso em: 10 out. 2024.

SPIVAK, Russell. "Deepfakes": the newest way to commit one of the oldest crimes. Georgetown Law Technology Review, Washington, DC, v. 3, n. 2, p. 339-400, 2019.

UOL NOTÍCIAS. Deepfake: uso de inteligência artificial nas eleições da Argentina e Estados Unidos. Disponível em: https://noticias.uol.com.br/confere/ultimas- noticias/2024/03/03/deepfake-uso-inteligencia-artificial-eleicoes-argentina-estados- unidos.htm. Acesso em: 10 out. 2024.