Anthropic adquire Vercept para impulsionar capacidades de uso do computador do Claude - anthropic.com

Anthropic anunciou em 22 de outubro de 2024 a aquisição da Vercept, startup que desenvolve ferramentas para desenvolvedores de IA detectarem e mitigarem problemas em modelos, como alucinações, viés e jailbreaks. A integração das capacidades da Vercept na plataforma da Anthropic visa facilitar a construção de sistemas de IA seguros e confiáveis. Dario Amodei, CEO da Anthropic, afirmou que a abordagem inovadora de red-teaming automatizado da Vercept complementa o trabalho de segurança da empresa. Vercept foi fundada em 2023 por pesquisadores de laboratórios de IA líderes. A aquisição se baseia em investimentos contínuos em pesquisa de segurança de IA, incluindo a Política de Escalonamento Responsável e novos recursos de segurança no Claude 3.5 Sonnet.