No ambiente digital contemporâneo, parece que a “revolução das deepfakes” gerou uma situação complexa. O vice-ministro de TI da Índia, Rajeev Chandrasekhar, tocou recentemente num tema sensível envolvendo gigantes da mídia social, como Facebook e YouTube. Seu alerta de sexta-feira (24 de setembro) sobre conteúdos deepfakes nas plataformas de mídia social chamou a atenção do mundo.
Essas deepfakes são criadas usando Inteligência Artificial (IA) para gerar imagens e vídeo manipulados que parecem estranhamente realistas. Essa prática vem se tornando cada vez mais popular, abrindo margem para potenciais perigos, incluindo desinformação e fraude.
Quais são as implicações dessas restrições?
De acordo com a fonte Reuters, o anúncio de Chandrasekhar na reunião fechada instigou as empresas de mídia social a reforçarem suas políticas de uso. Notando que muitas dessas empresas não atualizaram seus termos de uso, apesar das regras em vigor desde 2022, Chandrasekhar enfatizou que o cumprimento das regras é um requisito “inegociável”.
Veja também: Posso ser processado por usar foto de outra pessoa para fazer meme?
Isso pode levar a ações mais restritivas e penalidades severas para aquelas plataformas que negligenciarem as diretrizes. Assim, as empresas foram incentivadas a aumentar o conhecimento e conscientização dos usuários sobre deepfakes ao fazerem login.
Como a Índia está lidando com o fenômeno do conteúdo deepfake?
Segundo o também Ministro de Tecnologia da Informação, Aswini Vaishnaw, o desenvolvimento de novas medidas para controlar a disseminação de tais conteúdos estão em andamento.
Com o apoio de grandes empresas de mídia social, a Associação Nacional de Empresas de Softwares e Serviços (NASCOMM), e acadêmicos no campo, a Índia está preparada para criar uma regulamentação sólida sobre o conteúdo gerado por IA.
Além disso, em uma nota final relacionada, o Primeiro-Ministro Narendra Modi, expressou sua preocupação sobre o impacto das deepfakes durante uma cúpula virtual das nações do G20, realizada na quarta-feira (22 de setembro).
Imagem: Blue Planet Studio / shutterstock.com
