Primeira páginaDiário da IA
Trabalho e dinheiro

OpenAI demite três pesquisadores após investigação sobre sigilo

A OpenAI diz que uma investigação interna identificou uso indevido de informações sigilosas pelos pesquisadores. Eles afirmam que as demissões podem reduzir a liberdade para apontar problemas de segurança.

OpenAI demite três pesquisadores após investigação sobre sigilo
Imagem: reprodução · g1

A OpenAI afirmou nesta sexta-feira (9), em uma publicação no X, que demitiu na semana passada três pesquisadores após uma investigação interna concluir que eles descumpriram regras sobre o uso de informações sigilosas. A empresa não informou quais regras foram violadas.

Jasmine Wang, Tomek Korbak e Mikita Balesni divulgaram uma carta sobre as demissões. Eles disseram que a decisão repentina pode gerar insegurança entre funcionários e enfraquecer a liberdade para apontar problemas de segurança. Também negaram ter sido a fonte de uma reportagem do site The Information sobre preocupações com a segurança do Astra, modelo mais recente da OpenAI.

A empresa negou que as demissões tenham relação com críticas ou alertas de segurança. Disse que discussões sobre pesquisa e segurança são incentivadas, mesmo quando incluem críticas duras, e afirmou que a investigação encontrou uma quebra de confiança que vai além do descrito na carta. A OpenAI manteve a decisão de encerrar os contratos.

O caso ocorre em meio a alertas de pesquisadores e ex-pesquisadores da OpenAI, do Google DeepMind e da Anthropic sobre medidas insuficientes para prevenir riscos de sistemas de IA capazes de se aperfeiçoar sozinhos.

O que muda para você

Para usuários do ChatGPT, a notícia não muda o acesso ao produto. O caso diz respeito à relação entre a OpenAI e três pesquisadores. Para quem acompanha segurança em IA, há versões conflitantes: a empresa aponta violação de sigilo, enquanto os pesquisadores dizem que a decisão pode enfraquecer a liberdade para levantar preocupações. As regras específicas não foram divulgadas.

Minha leitura

Sem saber quais regras foram violadas, é difícil avaliar a justificativa da OpenAI. Mas a preocupação levantada pelos pesquisadores merece atenção: equipes de segurança precisam conseguir apontar problemas sem receio de retaliação. A empresa afirma que críticas são incentivadas; para sustentar essa posição, precisa deixar claro como separa uma quebra de sigilo de um alerta legítimo.

Thiago FelizolaConsultor de IA, curador do Diário da IA

Primeira páginaArquivo de notícias