Imagens pornográficas geradas por inteligência artificial (IA) de estudantes do sexo feminino em uma escola secundária de Nova Jersey (EUA) causaram alarme entre pais e uma investigação policial em andamento. De acordo com um relatório, alunos da Westfield High School, localizada a oeste de Manhattan, usaram uma ferramenta online com IA para criar e compartilhar imagens explícitas de colegas do sexo feminino.
ANÚNCIO
Segundo informações, o incidente veio à tona quando os alunos do segundo ano da escola começaram a agir de forma suspeita, em meados de outubro. Posteriormente, foi revelado que pelo menos um aluno utilizou fotos de meninas encontradas na internet para criar deepfakes, imagens falsas de nudez, que foram compartilhadas em chats de grupo.
Algumas alunas também foram informadas de que os meninos as haviam identificado nas imagens pornográficas falsas, gerando preocupação entre os pais. Uma mãe relatou que sua filha, Francesca, de 14 anos, foi informada pela escola que sua foto foi usada para criar uma imagem de nudez falsa. Isso levantou preocupações sobre o impacto futuro dessa situação na vida acadêmica e social da jovem.
Kindel Media/Pexels
O incidente trouxe à tona a séria questão dos deepfakes, que têm uma prevalência significativa na pornografia online. De acordo com a empresa de inteligência visual de ameaças Sensity, mais de 90% das imagens deepfake são pornográficas, muitas delas usando imagens de celebridades.
A escola, por sua vez, confirmou o incidente e acredita que as imagens foram excluídas e não estão mais circulando. A diretora da Westfield High School, Mary Asfendis, enviou um e-mail aos pais dos cerca de 1.900 alunos da escola, destacando a gravidade do incidente e a importância de conscientizar os estudantes sobre o uso responsável da tecnologia.
ANÚNCIO
Yan Krukau/Pexels
A investigação policial está em andamento, mas não está claro quantos estudantes estiveram envolvidos na criação das imagens falsas de nudez ou se alguma ação disciplinar foi tomada. A prefeita de Westfield, Shelley Brindle, expressou sua preocupação com o trauma que as meninas passaram e a necessidade de proteger as vítimas.
A questão dos deepfakes também chamou a atenção das autoridades federais, com o Presidente Biden emitindo uma ordem executiva para regulamentar o desenvolvimento da IA e implementar salvaguardas contra a produção de material de abuso sexual infantil e imagens íntimas não consensuais de indivíduos reais.
Além disso, alguns Estados proibiram a distribuição de pornografia gerada por IA e deram às vítimas o direito de processar em tribunais civis.
Markus Winkler/Pexels
O incidente em Westfield High School destaca a necessidade urgente de educar os jovens sobre os perigos dos deepfakes e de implementar medidas de proteção eficazes para evitar a disseminação desse tipo de conteúdo nocivo.
