Comparação de modelos de embedding (OpenAI vs. Cohere vs. OSS)

A OpenAI não é a única opção disponível. Cohere, Voyage, Google e muitos modelos de OSS oferecem incorporações competitivas — às vezes mais baratas, mais multilíngues ou especializadas em código.

A escolha certa depende do caso de uso.

A opção padrão para a maioria das equipes:

• + Alta qualidade em inglês
• + Barato (US$ 0,02 por 1 milhão de tokens para o modelo pequeno)
• + Até 3072 dimensões com Matryoshka
• - Disponível apenas na nuvem

O embed-multilingual-v3 da Cohere é a opção multilíngue mais forte:

• + Excelente suporte multilíngue (mais de 100 idiomas)
• + Modos separados para consultas e documentos
• - Um pouco mais caro

Recomendados pela Anthropic; modelos especializados fortes:

• + voyage-3 — melhor modelo de uso geral
• + voyage-code-3 — melhor para código
• + voyage-finance / law — ajustados ao domínio

A principal família de código aberto da BAAI:

• + Gratuita, executa em CPU ou em uma GPU pequena
• + bge-large-en, bge-m3 (multilíngue)
• - Ligeiramente atrás dos modelos proprietários no MTEB

A família e5-large da Microsoft. Uma forte opção de OSS, popular em avaliações de referência de pesquisa.

O MTEB (Avaliação massiva de incorporação de texto) é a classificação padrão: huggingface.co/spaces/mteb/leaderboard

Filtre pela sua tarefa (recuperação, classificação, agrupamento) e pelo idioma.

Para 1 milhão de documentos (cerca de 500 milhões de tokens):

• text-embedding-3-small: cerca de US$ 10
• text-embedding-3-large: cerca de US$ 65
• Cohere v3: cerca de US$ 50
• BGE local em uma GPU: cerca de US$ 5 (eletricidade)

Se você não puder enviar dados para a OpenAI:

• Hospede BGE / E5 por conta própria com sentence-transformers
• Use a Cohere pelo AWS Bedrock (compromissos de residência dos dados)
• Use a OpenAI pelo Azure (algo semelhante)

Para conteúdo que não esteja em inglês:

• Cohere multilingual v3 — suporte mais amplo
• bge-m3 — forte opção multilíngue de OSS
• OpenAI text-embedding-3 — surpreendentemente bom, mas voltado principalmente ao inglês

Para código: voyage-code-3 ou jina-embeddings-v2-base-code

Para finanças e direito: voyage-finance, voyage-law

Para ciência: SPECTER, SciNCL

Não combine vetores de modelos diferentes no mesmo índice — eles não são comparáveis. Gere novas incorporações de tudo com um único modelo se você mudar de modelo.

A maneira certa de escolher:

1. Crie um pequeno conjunto de avaliação com pares (consulta, documentos esperados)
2. Gere as incorporações do seu corpus com os dois modelos
3. Meça a revocação@10 no conjunto de avaliação
4. Escolha o vencedor

Você pode combinar incorporações de dois modelos diferentes em um único índice?

Use text-embedding-3-small como padrão; explore a Cohere para conteúdo multilíngue, a Voyage para código e domínios específicos e a BGE para hospedagem própria. Sempre faça avaliações de referência com seus dados.