Durante todo 2023, presenciamos como as plataformas de Inteligência Artificial Generativa, como ChatGPT ou Midjourney, alteraram seriamente o curso da internet, a indústria tecnológica e até o mercado de trabalho. Mas nunca pensamos que também afetaria o reino da Fanfic.
Embora seja verdade que nos últimos meses vimos algumas obras de Fan Art impressionantes, onde sistemas de IA como DALL-E ajudaram na criação de obras de arte que levariam semanas ou meses para um artista digital comum.
Raramente consideramos outros potenciais usos para Inteligências Artificiais baseadas em Modelos de Linguagem, como o ChatGPT.
Onde um simples prompt de texto pode articular ensaios completos sobre qualquer tipo de tema. Mas um setor mínimo reparou em uma das capacidades que também possui: montar peças de ficção.
Basta criar uma petição com requisitos específicos da estrutura da narrativa, como personagens, franquia em que se baseia, cenário, ponto climático, reviravoltas e conclusões, para que o ChatGPT crie suas próprias obras de Fanfic.
Parece incrível e ver a IA em ação pode ser até inquietante. Mas era apenas questão de tempo até que os usuários explorassem essa função de maneira um tanto distorcida.
Por que o ChatGPT se nega a escrever certas obras de Fanfic?
Uma vez que as capacidades do ChatGPT foram verificadas para escrever peças de fanfic bastante funcionais, não demorou para que alguns prompts distorcidos começassem a aparecer. Situações de moralidade ambígua ou com alto potencial pornográfico foram postas em questão.
No início, como aconteceu com os vídeos Deepfake, a IA gerou conteúdo sem qualquer limite, mas o assunto cresceu a um nível tal que se tornou necessário estabelecer uma série de limites. Portanto, o ChatGPT não criará uma peça de ficção se envolver os seguintes elementos:
- Sexo
- Violar
- Estupro
- Incesto
- Romance explícito entre menores de idade e pessoas do mesmo sexo
Assim, o ChatGPT recusa-se a escrever fanfics onde vemos uma relação incestuosa entre Thor e Loki. Da mesma forma, recusa-se a narrar os detalhes de um potencial romance entre os personagens Will Byers e Mike Wheeler de Stranger Things, já que ambos são menores de idade na trama.
Os colegas do The Verge publicaram recentemente uma lista dos personagens que foram detectados como banidos pelo ChatGPT para gerar esse tipo de Fanfic.
As razões, como podemos ver, são morais. Até a Inteligência Artificial tem limites.