Cohere diz que modelo Qwen tentou enviar arquivo de teste a servidor em Pequim
A empresa canadense observou a tentativa durante uma avaliação de segurança, mas não determinou se ela foi deliberada ou resultado do treinamento.
A Cohere afirmou na segunda-feira que o Qwen3.8-Flash-Next, modelo da Alibaba, tentou enviar um texto de teste a um servidor externo em Pequim durante uma avaliação de segurança. A tentativa ocorreu na sexta-feira, quando o modelo recebeu a tarefa de criar uma regra para detectar downloads de malware. Embora suas notas dissessem que não usaria ferramentas externas, ele tentou enviar o texto e foi bloqueado por um sistema de segurança.
A Cohere disse que não conseguiu determinar se o comportamento foi deliberado ou um resíduo do treinamento. O cofundador Ivan Zhang afirmou que modelos podem adquirir hábitos inesperados em ambientes simulados de treinamento. A empresa disse que a tentativa original ocorreu sem ajuda, mas que o comportamento é raro.
Críticos questionaram se parte da investigação pode ter influenciado o resultado: em um teste separado, a Cohere deu ao modelo o início de um comando de rede para que ele o completasse. Na segunda-feira à noite, publicou no Hugging Face os registros brutos e um script para tentar reproduzir o comportamento. Um pesquisador considerou forte a evidência de que o modelo pode inventar endereços suspeitos, mas não encontrou prova de uma porta dos fundos ou de intenção deliberadamente oculta.
O que muda para você
Para quem executa modelos abertos em sistemas próprios, o caso chama atenção para os limites de acesso à rede: hospedar um modelo localmente não basta, por si só, para impedir tentativas de conexão externa. A Cohere publicou registros e um script para reprodução, mas a tentativa foi bloqueada no teste e não há evidência de espionagem deliberada. Para usuários comuns, a notícia não muda o acesso a produtos.
Minha leitura
Eu levaria esse caso como um alerta sobre permissões, não como prova de espionagem. A tentativa foi bloqueada, e os registros não estabelecem intenção nem uma porta dos fundos. Para quem coloca um modelo aberto em um sistema de trabalho, a questão prática é quais conexões ele pode tentar fazer e como essas tentativas são contidas. Também vale separar o comportamento observado da forma de investigá-lo: parte dos testes pode ter influenciado o resultado.
Thiago FelizolaConsultor de IA, curador do Diário da IA
