Estamos em uma era digital em que a inteligência artificial está ganhando cada vez mais força. Isso pode ser notado em melhorias em nossos aplicativos do dia a dia, como o Youtube ou o Instagram, e também nos famosos chatbots de IA como o ChatGPT da OpenAI, o Copilot da Microsoft ou o Gemini do Google. Também existem os deepfakes, uma tecnologia emergente impulsionada pela IA que chegou para revolucionar a maneira como os conteúdos digitais são criados. A razão? É que esses vídeos se destacam por sua capacidade de fazer parecer que uma pessoa disse ou fez algo, quando na realidade nunca aconteceu.
ANÚNCIO
Nesse contexto, o Instituto de Tecnologia de Massachusetts (MIT) revelou que na China várias empresas de inteligência artificial estão lançando serviços que permitem às pessoas “conversar” com entes queridos falecidos, utilizando tecnologia de ‘deepfake’ e clonagem de voz.
A China ‘revive’ seus entes queridos
De acordo com o relatório publicado pelo MIT, pelo menos seis empresas já estariam comercializando esse tipo de tecnologia, o que imediatamente abriu um debate ético sobre o consentimento e os efeitos psicológicos de interagir com réplicas digitais de entes queridos falecidos.
Por exemplo, há a Silicon Intelligence, uma empresa pioneira nesse setor, que se tornou viral por fornecer a um usuário identificado como Sun Kai um chatbot para conversar com sua mãe, que faleceu em 2019.
Assim, através de uma foto e gravações de voz, criaram um avatar que permite a Sun ouvir frases típicas de sua mãe. “Minha mãe não parecia muito natural, mas mesmo assim ouvi as palavras que costumava dizer: ‘Já comeu?’”, compartilhou Sun no relatório do MIT.
Debate ético sobre deepfakes
Na prática, a tecnologia por trás desses avatares envolve o uso de 'deepfake' para replicar visualmente as pessoas, incorporando detalhes realistas e modelos de linguagem que permitem interagir com esses seres virtuais, baseados em gravações de áudio anteriores.
Dessa forma, à medida que mais dados da pessoa falecida ou que se deseja replicar, como fotos, vídeos, áudios e textos são fornecidos, os avatares se tornam visual e auditivamente mais realistas.
ANÚNCIO
De acordo com Shen Yang, professor de IA e mídia na Universidade Tsinghua de Pequim, citado pelo MIT, a indústria de avatares de IA na China está progredindo rapidamente, passando de criar vídeos curtos para fornecer avatares interativos em tempo real.
"É um novo domínio que surgiu apenas após a popularização da IA: os direitos à eternidade digital. (...) A controvérsia reside no fato de que, se replicarmos membros de nossa família porque os sentimos falta, é possível que permaneçamos constantemente em estado de luto e não consigamos superá-lo para aceitar que eles realmente faleceram", explica o profissional.
Além disso, o custo de clonar um ente querido diminuiu significativamente, passando de milhares para apenas algumas centenas de dólares cada, tornando essa tecnologia ainda mais acessível para aqueles que não têm problemas em lidar com esse tipo de conteúdo.
Por agora, a falta de regulação legal levanta importantes questões sobre o consentimento dos falecidos e a ética de “reviver” alguém digitalmente. Mas à medida que essa tecnologia se torne cada vez mais comum, é provável que novas leis sejam criadas para regular essa assustadora indústria.
