Substack lança detecção de IA para combater 'Claudefishing'

O Substack lançou nesta quarta-feira uma ferramenta de detecção de conteúdo gerado por inteligência artificial em parceria com a startup Pangram. Disponível no aplicativo da plataforma para web e iOS (com Android em breve), o recurso permite que qualquer usuário escaneie notas, respostas, comentários e posts com mais de 100 palavras publicados a partir de hoje. O resultado mostra uma estimativa de quanto daquele texto foi escrito por mão humana ou com assistência de IA — mas apenas para quem solicitar a análise. A iniciativa é uma resposta direta ao que o Substack chama de “Claudefishing”: a situação em que um leitor investe atenção em um texto achando que há um pensamento humano por trás, quando na verdade foi gerado por um modelo de IA. Segundo estimativas da Pangram, até 40% do conteúdo em algumas redes sociais já é produzido por máquinas. A plataforma argumenta que isso corrói a confiança entre autores e leitores e ameaça o sustento de escritores reais, inclusive aqueles que usam IA de forma transparente. A ferramenta não é definitiva, mas o Substack afirma que a Pangram tem alta precisão segundo pesquisas independentes. Além da varredura, criadores poderão adicionar uma declaração “Como faço isso” explicando seu processo de criação. Também será possível escanear rascunhos antes da publicação e reportar (e remover) varreduras consideradas incorretas em seus próprios textos. A empresa ressalva que a detecção não avalia a qualidade ou o cuidado humano envolvido, apenas se IA foi usada na redação. O Substack não é contra o uso de IA — a própria empresa usa a tecnologia para escrever código, fazer pesquisas e criar funcionalidades como clipes e traduções. A ideia, segundo o comunicado, é dar escolha ao leitor. No futuro, a plataforma cogita deixar que cada comunidade defina regras sobre conteúdo com IA, que leitores filtrem recomendações e que criadores expressem melhor o valor individual de seu trabalho. A medida é vista como um primeiro passo para preservar a “perspectiva humana” que, na visão do Substack, continuará sendo o ingrediente essencial da cultura, por mais potente que a IA se torne.