OpenAI adiciona WebSockets à API Responses, acelerando workflows de agentes até 40%

A OpenAI anunciou em 22 de outubro de 2024 suporte a WebSockets na Assistants API, permitindo streaming de eventos em tempo real para workflows agentic, reduzindo latência e melhorando responsividade. Substitui polling do endpoint /threads/{thread_id}/runs, eliminando overhead, atrasos e custos excessivos. Benefícios: latência em milissegundos, menos chamadas API, economia, eventos como thread.message.created e thread.run.completed. Endpoint beta: wss://api.openai.com/v1/realtime?model=gpt-4o-mini-realtime-preview-2024-10-01. Disponível agora em beta para todos os usuários API, sem waitlist, pricing igual ao Assistants API padrão. Limitações: apenas modelo gpt-4o-mini-realtime-preview-2024-10-01, máximo 100 conexões por chave API, áudio em preview.