OpenAI Desmantela Equipe de Segurança da IA e Sofre Perdas Significativas

A OpenAI dissolvidou sua equipe Superalignment, dedicada a mitigar os riscos de longo prazo da inteligência artificial (IA). Este movimento ocorre apenas uma semana após o lançamento do GPT-4, o modelo de IA mais avançado da empresa até o momento. De acordo com informações do Wired, a equipe foi estabelecida em julho de 2023 e era liderada por Ilya Sutskever e Jan Leike.

A dissolução da equipe Superalignment veio poucos dias após seus líderes, Sutskever e Leike, anunciarem suas renúncias nas redes sociais. Em sua declaração, Sutskever expressou confiança de que “a OpenAI construirá AGI de forma segura e benéfica” sob a liderança atual. Ele acrescentou estar entusiasmado com um novo projeto que considera “significativo em um nível pessoal”, embora não tenha fornecido mais detalhes sobre isso.

Leike, por sua vez, explicou ao X que sua saída foi motivada por discordâncias sobre as prioridades fundamentais da empresa, afirmando que a segurança e os processos haviam sido deixados de lado “em favor de produtos chamativos”. Ele ressaltou que sua equipe vinha lutando por recursos computacionais essenciais para sua pesquisa, tornando cada vez mais difícil cumprir sua missão.

Segundo informações da CNBC, a equipe Superalignment tinha a missão de resolver desafios técnicos fundamentais relacionados à alinhamento de superinteligências em um prazo de quatro anos, utilizando 20% da capacidade computacional da OpenAI. Os riscos abordados incluíam o mau uso da tecnologia, a interrupção econômica, a desinformação, o viés e a discriminação, a dependência e a sobredependência.

Após as renúncias e a dissolução da equipe, alguns membros foram realocados para outros times dentro da OpenAI. O NBC News confirmou essas realocações por meio de uma fonte anônima. No entanto, quando a empresa foi solicitada a comentar, ela apenas referiu-se à recente publicação de Sam Altman no X, onde expressou tristeza pela partida de Leike e destacou que a empresa tem mais trabalho a fazer.

A saída de Sutskever e Leike evoca a crise de liderança que a OpenAI enfrentou em novembro passado, quando o conselho da empresa destituiu Altman, desencadeando uma série de renúncias e ameaças de demissão por parte de funcionários e investidores, incluindo a Microsoft.

Sutskever, que desempenhou um papel fundamental na destituição de Altman, posteriormente expressou arrependimento por seu envolvimento nesse evento.

Apesar de permanecer na OpenAI como cientista-chefe, ele não ocupa mais um assento no conselho. Após sua saída anunciada, Altman comentou no X: “Isso é muito triste para mim; Ilya é facilmente uma das mentes mais brilhantes de nossa geração, uma luz guia em nosso campo e um querido amigo”. Além disso, o CEO nomeou Jakub Pachocki como seu sucessor no cargo de cientista-chefe.

O Business Insider destacou que a notícia do desmantelamento da equipe Superalignment e as renúncias de Sutskever e Leike coincidiram com o lançamento de novos produtos pela OpenAI. A empresa apresentou uma atualização do modelo GPT-4 e uma versão de desktop do ChatGPT, com uma interface de usuário aprimorada e novas funcionalidades para bate-papo por vídeo.