A AWS publicou um guia para escolher o armazenamento vetorial no Amazon Bedrock Knowledge Bases na configuração em que o cliente define o próprio vetor. O texto compara Amazon OpenSearch Service, Amazon Aurora PostgreSQL com pgvector e Amazon S3 Vectors em cenários de RAG, com foco em desempenho e custo.
No primeiro caso analisado, de busca em catálogo de produtos, o post diz que o OpenSearch Serverless é uma boa opção porque combina busca semântica e por palavras-chave, além de filtros para navegação facetada. O material também traz um recorte de benchmarks feitos em coleções Classic do OpenSearch Serverless com o conjunto ESCI da Amazon, que reúne 1.215.851 produtos e 97.345 consultas julgadas.
Nesses testes, a busca híbrida melhorou o NDCG@10 em 6,0% em relação à busca só semântica, tanto para vetores float quanto binários. A configuração 1024-binário com busca híbrida superou a 1024-float apenas semântica e usou 0,40 GiB de memória contra 5,34 GiB. O post também registra que a fusão entre busca semântica e lexical aumentou a latência.
Como ressalva, a AWS observa que esse conjunto de dados favorece correspondência por palavras-chave e que o peso usado na fusão, 0,7 para semântica e 0,3 para lexical, foi escolhido para demonstração, não como ajuste ideal.