A AWS detalha o novo AgentCore runtime, recurso do Amazon Bedrock AgentCore para executar agentes sem que a equipe precise montar e manter a infraestrutura por conta própria. A mudança foca em dois pontos que pesam em agentes de produção: memória e tempo de inicialização.
Segundo a empresa, o runtime passa a começar cada sessão com um perfil de memória menor e acrescenta recursos conforme a necessidade. Quando a sessão libera memória, o sistema a recupera; no runtime anterior, a memória permanecia retida até o fim da sessão, mesmo sem uso contínuo.
A AWS também diz que o novo modelo torna a inicialização mais previsível. O ambiente é preparado uma vez, recebe um snapshot e é restaurado para novas sessões. Em testes com um agente vazio, que só devolve a entrada recebida, o P75 de cold start ficou em cerca de 2 segundos em imagens de 200 MB a 2 GB. No runtime anterior, a latência ia de aproximadamente 5,4 segundos a quase 30 segundos, conforme o tamanho da imagem.
A empresa ressalta que esse número mede apenas a parte da plataforma antes de o código do agente começar a trabalhar. Para usar o runtime, é preciso definir platformVersion como V2 ao criar ou atualizar o runtime. A AWS também aponta um exemplo de teste de carga e amostras no repositório GitHub do AgentCore.