Os sistemas de Inteligência Artificial generativa, como ChatGPT, DALL-E ou Google Gemini representam sérios riscos, especialmente quando utilizados por pessoas com intenções não exatamente nobres ou com uma ética questionável. No Japão, acabou de surgir um caso delicado que nos deixa claro isso, já que aparentemente um sujeito usou esse tipo de sistemas para criar do zero um poderoso vírus de computador.
ANÚNCIO
Não muito tempo atrás, por exemplo, soubemos de algumas fugas de informação surgidas de dentro da OpenAI, onde finalmente ficamos a conhecer um pouco do contexto pelo qual Sam Altman teria sido demitido da própria instituição que fundou. Um dos principais motivos foi o fato de ter desenvolvido o ChatGPT praticamente às escondidas da sua diretoria.
Além disso, devemos acrescentar o recente escândalo envolvendo Scarlett Johansson, que recusou a oferta de Altman para ser a voz de sua IA, apenas para ser clonada em áudio e adicionada ao chatbot desenvolvido pelo indivíduo. Estamos diante de um cenário crítico.
O próprio homem mais influente no campo da Inteligência Artificial teria uma ética questionável em sua conduta, e agora parece que outros estão começando a imitá-lo.
Um homem cria um vírus usando Inteligência Artificial e abre uma nova era de perigos
Num caso que poderia estabelecer um precedente preocupante, um homem de 25 anos no Japão foi acusado de usar Inteligência Artificial generativa (IA) para criar um vírus de computador. De acordo com um relatório da Asia News Network (via Straits Times), Ryuki Hayashi, um residente desempregado da cidade de Kawasaki, foi preso sob suspeita de criar um vírus semelhante a um tipo de ransomware usando essa tecnologia.
O ransomware é um tipo de malware que sequestra e criptografa as informações pessoais de qualquer vítima para depois exigir um pagamento em troca da recuperação de tudo. E de acordo com as investigações, Hayashi não tinha a menor experiência prévia em informática, mas se interessou em IA generativa através das notícias.
Parece que ele usou essas plataformas acessíveis a qualquer pessoa para obter informações sobre como criar um ransomware, combinando dados de design fornecidos por diferentes modelos de Inteligência Artificial, até criar um programa malicioso operacional.
ANÚNCIO
Está tudo bem, por enquanto
Embora o vírus não tenha causado nenhum dano, este caso destaca o potencial da Inteligência Artificial generativa como uma ferramenta que poderia ser usada para fins maliciosos. Uma vez que essas plataformas são capazes de criar conteúdo de todos os tipos, como redação de textos, geração de imagens ou criação de música, o que pode parecer inofensivo.
Na teoria, as principais empresas de tecnologia, como a OpenAI, implementaram medidas para evitar o uso indevido da IA generativa. Muitas vezes, o chatbot se recusa a responder perguntas sobre a criação de programas maliciosos e outros tópicos delicados.
No entanto, existem muitos modelos de IA disponíveis na Internet, como o WormGPT, que não possuem esse tipo de proteções ou, mesmo que o prompt seja feito de forma suficientemente específica, é possível articular elementos separadamente para depois montar todo o material.
Portanto, o caso de Ryuki Hayashi apenas evidencia que estamos em uma nova era de perigos para a sociedade como um todo.
