Cohere Embed 4: cómo migrar un índice multimodal sin mezclar espacios vectoriales
Imagen generada por el Equipo Editorial de Inferama
01

El modelo y el índice forman la unidad de análisis

Cambiar el modelo de embeddings no equivale a sustituir una pieza intercambiable del buscador. El modelo transforma documentos y consultas en vectores; el índice organiza esos vectores para compararlos. La recuperación depende de que ambos lados utilicen representaciones compatibles y de que la consulta se procese con una configuración adecuada. Al evaluar Cohere Embed 4 —identificado como `cohere.embed-v4` en la documentación de Amazon Bedrock—, la unidad de análisis incluye el modelo, la configuración de entrada, los vectores, el índice y la regla de comparación.

La consecuencia práctica es importante: no se deben añadir, sin validación, vectores de un modelo anterior al mismo espacio de búsqueda que los generados por Embed 4. Que dos modelos produzcan vectores de igual longitud no demuestra que sus coordenadas tengan el mismo significado. Tampoco basta con cambiar la dimensión de salida en el sistema de almacenamiento. Si se sustituye el modelo, lo prudente es generar de nuevo las representaciones de documentos y consultas con una configuración compatible y mantener disponible el índice anterior durante la evaluación.

Esta guía plantea cómo decidir si conviene migrar, añadir una ruta multimodal o conservar la solución actual. No presupone que Embed 4 supere al sistema existente: las especificaciones describen capacidades declaradas, pero el efecto sobre la relevancia depende del corpus, las consultas y la implementación. El análisis se centra en la recuperación, no en comparar modelos generativos ni en atribuir calidad a la respuesta final de un sistema RAG.

02

Qué declara Cohere sobre Embed 4

Cohere presenta Embed 4 como un modelo multimodal capaz de generar representaciones a partir de texto, imágenes y entradas mixtas. Los ejemplos documentados de entradas mixtas incluyen páginas PDF con texto e imágenes. Esto permite considerar búsquedas que no se limitan al texto extraído de archivos: una página puede aportar información textual y visual a la representación. Sin embargo, que el modelo admita una modalidad no garantiza que todos los documentos se interpreten correctamente ni que la recuperación mejore para una tarea concreta.

Cohere indica para Embed 4 dimensiones de salida de 256, 512, 1024 y 1536; la documentación de Amazon Bedrock especifica 1536 como valor predeterminado. Ambas describen un contexto de hasta 128k tokens, pero los formatos, límites y parámetros disponibles pueden variar entre canales de acceso. La API de Cohere, Amazon Bedrock y Oracle Cloud Infrastructure son interfaces distintas. Antes de diseñar una migración, consulta la documentación de la integración elegida y registra el nombre exacto del modelo, el servicio o la región pertinentes y los límites aplicables.

La dimensión forma parte del contrato entre el generador de embeddings y el índice: determina el tamaño de cada vector e influye en la compatibilidad, el almacenamiento y las operaciones de búsqueda. Una dimensión menor puede reducir el volumen de datos asociado a los vectores, pero no se debe inferir que mantendrá la calidad de recuperación. Del mismo modo, una dimensión mayor no garantiza un mejor rendimiento en el corpus. Compara las alternativas con las mismas consultas, los mismos juicios de relevancia y condiciones operativas equivalentes.

Embed 4 dispone del parámetro `input_type`, asociado al uso previsto de la entrada. En la documentación de embeddings de Cohere, `search_document` identifica las entradas de documentos y `search_query`, las consultas de búsqueda. En un flujo de recuperación, usar el tipo correspondiente para cada lado forma parte de la configuración que debe mantenerse coherente entre indexación y consulta. No lo trates como una etiqueta prescindible: respeta los valores admitidos por el endpoint elegido y comprueba cómo se aplican a texto, imágenes o entradas mixtas.

Decisiones de configuración que deben validarse

Las especificaciones ayudan a formular pruebas; no sustituyen la medición en el corpus del equipo.

DecisiónQué verificarQué no permite concluir la especificación por sí sola
ModalidadQué formatos acepta el canal y cómo se envían textos, imágenes o entradas mixtas.Que todos los archivos visuales o PDF se recuperarán correctamente.
DimensiónQué valores permite la integración y cuál es compatible con el índice de prueba.Que una dimensión mayor mejorará necesariamente la relevancia.
`input_type`Qué valor corresponde a documentos y consultas en el endpoint concreto.Que vectores obtenidos con configuraciones distintas sean intercambiables.
Contexto y límitesLímites vigentes de longitud, tamaño y formato en el servicio elegido.Que el límite documentado en un servicio sea idéntico en otro.
03

Por qué no conviene mezclar vectores de modelos distintos

Un vector es una representación numérica producida por un modelo con una configuración determinada. La búsqueda vectorial suele ordenar candidatos con una medida de similitud o distancia. Para que la comparación tenga sentido, los vectores de documentos y consultas deben generarse de forma compatible con el método de recuperación. Una dimensión idéntica solo indica que las listas numéricas tienen la misma longitud; no demuestra que sus posiciones sean comparables entre modelos.

La métrica de distancia también forma parte de la configuración del índice. No la cambies durante una migración sin comprobar el efecto en los resultados. La documentación de Cohere describe medidas de similitud para embeddings, pero la elección concreta depende de la integración y del índice. El equipo debe anotar qué medida usa el sistema actual, cuál usará el candidato y si el motor de búsqueda normaliza los vectores o aplica otras transformaciones.

Mantén la separación tanto en el almacenamiento como en la evaluación. Etiquetar cada vector con el modelo, la dimensión, la modalidad procesada y la versión de configuración permite reconstruir cómo se produjo. Si los índices antiguo y nuevo se mantienen en paralelo, cada consulta debe generar el vector correspondiente a cada índice. No envíes un vector de consulta generado por un modelo a un índice de otro solo para simplificar el enrutamiento, salvo que una prueba deliberada demuestre que esa combinación es válida para el caso de uso.

Un error habitual es evaluar únicamente la respuesta generada por una aplicación RAG. Una respuesta convincente puede ocultar que los documentos pertinentes no aparecieron entre los primeros resultados; también puede depender del conocimiento previo del generador. Para evaluar la capa de embeddings, inspecciona qué recuperó el buscador y contrástalo con juicios de relevancia independientes de la respuesta generada.

04

Migrar documentos y consultas con trazabilidad

Una migración controlada empieza con un inventario del índice vigente. Registra el modelo y su identificador, la dimensión, el método de distancia, la estrategia de fragmentación, las transformaciones previas, el tipo de entrada, los idiomas cubiertos y los metadatos conservados. Para el uso multimodal, anota también qué modalidades se extraen o envían, cómo se identifican las páginas y qué relación existe entre el vector y el fragmento original. Sin este inventario, una diferencia de resultados podría deberse al modelo, a la fragmentación o a un cambio inadvertido de preprocesamiento.

Después, construye el índice candidato como una versión nueva. Vuelve a generar los embeddings de los documentos, conserva claves estables que relacionen cada vector con su fuente y registra cualquier elemento que no se haya podido procesar. No sobrescribas las representaciones antiguas durante la prueba. Para cada ejecución, guarda el modelo, la dimensión, el tipo de entrada, la fecha y la versión del proceso. Así podrás reproducir la comparación y detectar si dos pruebas aparentemente iguales usaron configuraciones distintas.

La consulta debe seguir una ruta equivalente. El servicio identifica qué índice se consulta y usa el tipo de entrada previsto para las consultas. Durante una coexistencia temporal, puedes enviar la misma consulta lógica a la ruta antigua y a la candidata, pero cada una debe generar su propio embedding. Si una etapa posterior combina resultados, mide sus efectos por separado; de lo contrario, será difícil atribuir una mejora o regresión a Embed 4.

Para entradas con imágenes y páginas PDF, comprueba las reglas del canal de acceso elegido. Amazon Bedrock documenta entradas intercaladas de texto e imagen y sus límites para solicitudes e imágenes. En su integración, Oracle Cloud Infrastructure permite texto y una sola imagen en una solicitud, con entrada de imágenes disponible mediante API; la documentación de OCI indica que el soporte lingüístico para imágenes se limita al inglés. Estas reglas no son intercambiables entre servicios y la longitud de contexto declarada no elimina los límites de tamaño de archivo, formato o carga útil.

Secuencia segura de migración

Mantener disponible la versión actual permite comparar y revertir sin mezclar espacios de representación.

  1. 01Inventaria el modelo, la dimensión, la métrica, la fragmentación, el preprocesamiento y los metadatos del índice vigente.
  2. 02Congela una copia reproducible del corpus y selecciona documentos que representen los idiomas y modalidades relevantes.
  3. 03Crea un índice candidato separado y recalcula los vectores de los documentos con la configuración de Embed 4 comprobada.
  4. 04Genera los vectores de las consultas con la configuración correspondiente y ejecútalas contra el índice candidato.
  5. 05Compara los resultados con el índice vigente y registra errores de procesamiento, latencia y consumo operativo.
  6. 06Promueve el candidato solo si cumple criterios acordados; conserva el índice anterior y una ruta de reversión.
05

Protocolo de prueba: corpus, consultas y relevancia

Antes de comparar modelos, fija un corpus de evaluación y evita modificarlo entre ejecuciones. Incluye documentos frecuentes, difíciles y poco consultados; si la búsqueda cubre más de un idioma, incorpora ejemplos de cada uno. Para evaluar la multimodalidad, no basta con añadir algunas imágenes: identifica tareas en las que la información visual sea necesaria, documentos con texto e imagen, páginas con tablas y casos donde el contenido extraído por OCR pueda ser incompleto. El objetivo es representar el uso previsto, no construir una muestra que favorezca de antemano a un modelo.

Prepara consultas reales o redactadas a partir de necesidades observables y registra qué documentos o fragmentos deberían considerarse relevantes. Los juicios pueden ser binarios o graduados, pero aplica las mismas reglas al comparar el sistema vigente y el candidato. Incluye consultas directas y ambiguas, términos poco frecuentes, nombres propios y preguntas cuya respuesta dependa de una imagen o una tabla. Una consulta no debe convertirse en un juicio de relevancia solo porque el sistema actual la resuelve correctamente: define qué se espera recuperar.

El análisis debe examinar posiciones y conjuntos recuperados. Recall@k permite observar si los elementos relevantes están entre los primeros k resultados; precision@k indica qué proporción de los resultados iniciales se considera relevante; nDCG@k puede servir cuando los juicios distinguen grados de relevancia. Son métricas posibles, no una garantía de que un solo indicador resuma la utilidad del sistema. Acordad de antemano qué valores de k y qué criterios de promoción importan para la experiencia real.

Segmenta los resultados por idioma, modalidad y tipo de consulta. Una mejora global puede ocultar una caída en un idioma minoritario o en documentos con imágenes. Del mismo modo, una media adecuada no elimina casos críticos. Conserva ejemplos de consultas en las que el nuevo modelo recupera algo distinto, revísalos con especialistas del dominio y distingue errores de indexación, fragmentación, configuración y relevancia del propio embedding.

Matriz mínima de evaluación

Completa la matriz con datos del corpus y criterios acordados por el equipo; no presupone resultados para Embed 4.

SegmentoEjemplos que incluirSeñales que revisar
IdiomaCada idioma con presencia significativa en el uso real.Relevancia entre los primeros resultados y tipos de consulta fallidos.
TextoConsultas directas, ambiguas y con términos poco frecuentes.Recall@k, precision@k o una medida graduada definida por el equipo.
ImagenBúsquedas donde una característica visual sea necesaria.Si se recuperan páginas pertinentes y si la señal visual aporta valor.
PDF mixtoPáginas con texto, imágenes, tablas o composición compleja.Errores de procesamiento, pérdida de contexto y recuperación del fragmento correcto.
OperaciónConsultas y cargas representativas de producción.Latencia, almacenamiento, consumo y fallos del servicio.
06

Métricas operativas y efectos de la dimensión

La calidad de recuperación no es el único criterio de decisión. Mide la latencia en condiciones comparables, tanto para generar embeddings como para buscar, y registra los recursos necesarios para procesar el corpus y mantener el índice. Separa el coste de crear o reconstruir embeddings del coste de atender consultas habituales. Los importes y tiempos dependen del proveedor, el canal de acceso, el tamaño de las entradas, la dimensión elegida y la carga; no se pueden deducir solo de la ficha del modelo.

Compara las dimensiones disponibles en una prueba que mantenga constantes los demás factores. Verifica el tamaño efectivo del almacenamiento en el índice, las consecuencias para la transferencia y el comportamiento de la recuperación. Si el proveedor describe una estrategia Matryoshka o la posibilidad de elegir varias dimensiones, trátala como una configuración que debe medirse, no como una prueba automática de equivalencia entre tamaños. Reducir la dimensión puede aliviar ciertas cargas operativas, pero también cambiar qué documentos aparecen primero.

Registra también la proporción de entradas rechazadas, truncadas o procesadas de manera distinta a la esperada. En una prueba multimodal, el porcentaje de documentos que no llegó al índice puede alterar las métricas y dar una imagen engañosa del modelo. Presenta por separado la cobertura del procesamiento, la calidad de recuperación en los casos válidos y los resultados totales que consideran los fallos. Una comparación justa no debe excluir silenciosamente los documentos difíciles para una de las configuraciones.

07

Promoción, reversión y documentación

Define antes de ejecutar la prueba qué resultados serían suficientes para promover el índice candidato. Los criterios pueden combinar umbrales de recuperación por segmento, ausencia de regresiones en consultas críticas, límites aceptables de latencia y coste, y una cobertura mínima de procesamiento. No hay un umbral universal: depende de la importancia de cada caso, del nivel de servicio y del coste de los errores. La decisión debe basarse en resultados observables, no en la impresión de que las respuestas de demostración parecen mejores.

La reversión debe formar parte del diseño de migración. Conserva el índice anterior, su configuración y la relación entre identificadores de documentos y vectores. Si la promoción falla, la ruta de consulta debe volver a la versión anterior sin añadir al índice antiguo vectores del candidato ni perder trazabilidad. En una transición gradual, identifica cada resultado con el índice y la configuración que lo produjeron; evita combinar resultados de ambas versiones sin una política de fusión probada.

Documenta los resultados y sus límites: idiomas con pocos ejemplos, modalidades no evaluadas y entradas no aceptadas por el canal. Si el equipo usa Cohere, Amazon Bedrock u OCI, registra los límites aplicables a esa integración. Para la migración de Embed 3 a Embed 4, OCI recomienda un índice nuevo y volver a generar los embeddings de los datos con dimensión 1536; esa indicación corresponde a ese recorrido y no demuestra que la misma configuración sea óptima para todos los corpus o servicios.

Una migración es defendible si otra persona puede reconstruir qué corpus se probó, con qué modelo y parámetros, qué consultas y juicios se usaron, qué métricas se calcularon y cómo se tomó la decisión. La documentación pública de Cohere ayuda a identificar capacidades y parámetros declarados; validar la recuperación en el entorno propio sigue siendo responsabilidad del equipo.

Criterios de salida de la evaluación

La decisión final debe considerar calidad de recuperación, operación y capacidad de volver atrás.

  1. 01Aprueba la configuración exacta del endpoint, la dimensión, los tipos de entrada y la métrica de distancia.
  2. 02Revisa métricas y ejemplos por idioma, modalidad y clase de consulta, no solo el promedio general.
  3. 03Confirma que costes, latencia y cobertura de procesamiento están dentro de los límites acordados.
  4. 04Comprueba que la ruta de reversión conserva el índice vigente y su trazabilidad.
  5. 05Registra la decisión junto con los resultados, los límites de la prueba y las condiciones para repetirla.
08

Qué puede concluirse y qué requiere evaluación propia

La documentación de Cohere describe Embed 4 como compatible con texto, imágenes y entradas mixtas, con dimensiones de salida seleccionables y un contexto de 128k; la documentación de Amazon Bedrock detalla los formatos de solicitud y el tratamiento de imágenes en su integración. Estas especificaciones ayudan a definir una prueba, pero no demuestran que un índice creado con otro modelo pueda reutilizarse directamente, que una dimensión sea óptima o que la recuperación vaya a mejorar en un corpus concreto.

La decisión práctica consiste en comprobar si una configuración definida de `cohere.embed-v4` satisface los requisitos de recuperación y operación para tus documentos, idiomas, modalidades y carga de trabajo. Pruébala en un índice candidato separado, vuelve a generar los embeddings de documentos y consultas con opciones compatibles, y compara la recuperación con juicios de relevancia mientras registras latencia, coste y cobertura del procesamiento. Usa esos resultados para decidir si sustituyes el sistema actual o añades una ruta multimodal.

Las especificaciones de un proveedor ayudan a identificar capacidades y parámetros declarados; la decisión operativa debe justificarse con resultados reproducibles obtenidos con el índice y las consultas reales del equipo.

09

Continúa explorando

Fuentes consultadas

03

Correcciones y transparencia

Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.

Proponer una corrección