Relatório de Ameaças da OpenAI Detalha Disrupção de Usos Maliciosos de IA em Plataformas Web e Sociais - openai.com

3 de maio de 2024. Por OpenAI. Monitoramos usos maliciosos de nossos modelos desde o lançamento do ChatGPT, como phishing, scams, spam e fraude. Disruptimos esses usos bloqueando acesso API a maus atores, fazendo parcerias e melhorando sistemas de detecção. Vimos phishing e engenharia social com e-mails, textos e clones de voz convincentes; desinformação via artigos falsos, posts e deepfakes; spam e fraude com e-mails, avaliações falsas e documentos; cibersegurança com malware, kits de phishing e código de exploits. Ações incluem monitoramento e bloqueio de milhares de contas API, mitigações nos modelos que recusam gerar phishing ou malware, parcerias para compartilhar inteligência de ameaças e pesquisa para novas técnicas.