Outro alto executivo renuncia na OpenAI: a crise da IA é reavivada com um aviso crítico

Fundada em 2015, OpenAI é uma empresa que está na vanguarda da pesquisa em inteligência artificial (IA) graças ao ChatGPT. A organização fundada por figuras como Elon Musk e Sam Altman tem avançado no campo e conquistado um lugar no topo das empresas de tecnologia, ao lado de outros gigantes como Microsoft ou Google. O problema? Esse rápido crescimento não tem estado isento de polêmicas.

Recentemente, Gretchen Kreuger, agora ex-pesquisadora de políticas da OpenAI, decidiu deixar a empresa em 14 de maio, não sem antes expressar sua preocupação com os "processos de tomada de decisão" dentro da indústria de inteligência artificial.

“Uma das formas pelas quais as empresas de tecnologia em geral podem tirar poder daqueles que buscam responsabilizá-las é semear divisão entre aqueles que expressam preocupações ou desafiam seu poder. (...) Eu me importo profundamente em prevenir isso”, sentenciou em sua despedida nas redes sociais.

A saída de Gretchen Kreuger

Depois de passar anos com um perfil baixo na indústria, a empresa liderada por Sam Altman começou a enfrentar suas primeiras polêmicas. Primeiro foi a repentina destituição de Altman, seguida por uma onda de questionamentos sobre a ética da OpenAI. E mesmo após ser reintegrado ao cargo de CEO em menos de uma semana, é certo que essas críticas continuaram ressoando.

Agora foi a vez de Kreuger, que anunciou sua renúncia através de um tópico na X, plataforma anteriormente conhecida como Twitter, expressando que sua saída não foi uma decisão fácil e destacando também a falta de supervisão no setor.

"Precisamos fazer mais para melhorar aspectos fundamentais como os processos de tomada de decisão; responsabilidade; transparência; documentação; políticas de AÇÃO; o cuidado com que usamos nossa própria tecnologia; e mitigação de impactos sobre a desigualdade, os direitos e o meio ambiente", dizia um de seus tweets.

Embora em sua carta Kreuger não tenha especificado as razões por trás de sua decisão, ela alertou sobre a necessidade de melhorar aspectos-chave. Além disso, ela apontou que as decisões tomadas pelos líderes da indústria de IA afetam a todos, advertindo que atualmente as decisões são quase exclusivas daqueles que lideram as empresas. Essa concentração de poder, de acordo com a pesquisadora, poderia ser destrutiva para o futuro da tecnologia e da sociedade.

A nova crise da OpenAI

Vamos lembrar que a saída de Kreuger ocorreu em meio a um período turbulento para a OpenAI. A empresa havia enfrentado vários escândalos, incluindo acusações de ter copiado ilegalmente a voz da atriz Scarlett Johansson para o GPT-4, e práticas questionáveis como pressionar os funcionários a assinarem acordos de confidencialidade sob ameaça de perda de benefícios econômicos.

Além disso, a renúncia coincidiu com a saída de outros funcionários-chave como Ilya Sutskever, ex-cientista-chefe, e Jan Leike, da equipe de segurança "Superalignment", responsável por garantir que as IAs teóricas de nível humano não saiam de controle. "No entanto, eu renunciei algumas horas antes de ouvir as notícias sobre Ilya Sutskever e Jan Leike, e tomei minha decisão de forma independente. Compartilho suas preocupações. Também tenho preocupações adicionais e sobrepostas", escreveu a profissional.

Encerrando com que: “Ainda está em andamento um trabalho muito importante na OpenAI, desde o trabalho sobre contribuições democráticas, a expansão do acesso, o desenvolvimento do quadro de preparação, medidas para promover a confiança, até o trabalho para abordar as preocupações que levantei. Continuo entusiasmada e envolvida neste trabalho e seu sucesso”.