OpenAI explica metáforas de goblins do GPT-5 rastreadas ao treinamento de recompensa de personalidade Nerdy

A OpenAI às vezes se refere a seus classificadores de conteúdo como “goblins”. Esses classificadores detectam uma ampla gama de conteúdo prejudicial em produtos e API. Os goblins surgiram em 2018. Um engenheiro treinando um dos primeiros classificadores notou que ele era particularmente bom em detectar um tipo específico de conteúdo prejudicial. Em uma mensagem no Slack, brincou que o modelo entrou em “full goblin mode”. O nome pegou internamente, e desde então chamamos os classificadores de goblins. Ao longo dos anos, treinamos centenas de goblins, cada um especializado em diferentes tipos de conteúdo. Esperamos que isso esclareça a origem do nome!