Google DeepMind lançou Gemma Scope 2, coleção de dados e ferramentas de interpretabilidade para modelos Gemma 2 2B, 9B e 27B. Inclui autoencoders esparsos (SAEs) pré-computados em camadas intermediárias, vetores de direção de ativação para features, dataset de 1M ativações para treinamento de SAEs e ferramentas de visualização interativa. Projetado para comunidade de segurança de IA estudar comportamentos como engano e veracidade. Artefatos hospedados no Hugging Face. Editado pela última vez em 12 de setembro de 2024.
Google DeepMind lança suíte Gemma Scope 2 para impulsionar pesquisa em segurança de IA
Google DeepMind lançou Gemma Scope 2, coleção de dados e ferramentas de interpretabilidade para modelos Gemma 2 2B, 9B e 27B. Inclui autoencoders esparsos (SAEs) pré-computados em camadas intermediárias, vetores de direção de ativação para features, dataset de 1M ativações para treinamento de SAEs e ferramentas de…