A Amazon Web Services (AWS) e a OpenAI anunciaram uma nova forma de empresas controlarem o uso de assistentes de inteligência artificial que ajudam programadores a escrever código. A solução usa um "gateway" — um ponto de passagem obrigatório — que fica entre o programador e o modelo de IA, permitindo que a empresa defina quem pode usar a ferramenta, quanto pode gastar e quais tarefas pode realizar.
O sistema funciona assim: o programador usa o ChatGPT Codex no seu computador, mas cada pedido de ajuda da IA passa por esse gateway antes de chegar ao modelo. O gateway, que usa um software gratuito chamado LiteLLM, roda dentro da própria nuvem da empresa cliente, na AWS. Ele pode limitar o número de requisições por minuto, definir um orçamento máximo por programador ou equipe, e registrar tudo o que é feito para auditoria. A AWS compara essa abordagem com ter um porteiro que controla quem entra e sai, em vez de deixar a porta aberta para todos.
A novidade resolve um problema que cresce nas empresas: conforme mais programadores começam a usar ferramentas de IA, o departamento de TI perde o controle sobre quem está usando o quê e a que custo. Sem um sistema centralizado, cada programador pode acabar usando a IA de um jeito diferente, gerando gastos imprevistos e riscos de segurança. A solução da AWS e OpenAI coloca a empresa de volta no comando, sem precisar impedir que os times usem a tecnologia.
Para o programador que usa o Codex no dia a dia, a mudança é quase invisível — ele continua pedindo ajuda para escrever código, rodar testes e entender projetos, mas agora a empresa pode controlar melhor os custos e a segurança. Para as empresas, a principal vantagem é poder adotar a IA em larga escala sem perder o controle. A AWS alerta, porém, que essa solução exige que a equipe de TI da empresa cuide da manutenção do gateway, incluindo atualizações e monitoramento.