Por qué «usar Gemini» no identifica una arquitectura ni una responsabilidad única
La expresión «usar Gemini» suele condensar decisiones técnicamente distintas. Puede significar que un equipo envía solicitudes a Gemini API desde una aplicación propia, que experimenta en AI Studio, que despliega una integración en Vertex AI dentro de un proyecto de Google Cloud o que utiliza una función de un producto de Google con capacidades generativas. También puede referirse a un agente gestionado que combina un modelo con herramientas, búsqueda, sesiones, memoria o ejecución en un entorno aislado.
Estas opciones pueden compartir proveedor y, en algunos casos, familia de modelos, pero no necesariamente constituyen el mismo servicio. El endpoint, la autenticación, los límites, las ubicaciones disponibles, la administración, el soporte, las funciones auxiliares y las reglas de cambio pueden variar según el canal. Una afirmación sobre «Gemini» debe descomponerse antes de convertirse en un requisito de arquitectura, seguridad, compras o continuidad.
La distinción importa incluso cuando el comportamiento observado parece similar. Dos integraciones que producen respuestas comparables pueden gestionar los registros de datos de forma diferente, admitir herramientas distintas o evolucionar en calendarios propios. Del mismo modo, una model card puede describir el modelo subyacente sin demostrar que una aplicación concreta gestione adecuadamente sus credenciales, documentos recuperados o acciones.
Un punto de partida prudente consiste en tratar cada carga de trabajo como una combinación verificable: modelo e identificador, canal de acceso, configuración del proyecto, región o ubicación cuando corresponda, datos tratados, capacidades adicionales y responsables de los cambios. Sin esa cadena, términos como disponibilidad, privacidad, soporte o seguridad quedan demasiado indeterminados para aprobar una adopción.
Mapa de capas: modelos, canales, plataformas y productos
Google DeepMind publica información sobre modelos, incluidas model cards para ciertos modelos y familias. Ese material puede ayudar a conocer el uso previsto, las evaluaciones, las limitaciones y las medidas de mitigación comunicadas para un modelo. No equivale a documentación exhaustiva de cada API ni establece por sí solo cómo funcionará una aplicación que lo integre.
Gemini API es un canal de desarrollo para acceder a modelos y capacidades asociadas. AI Studio está relacionado con ese entorno de desarrollo y experimentación, pero una prueba en una interfaz no debe tomarse como representación completa de una configuración de producción. Para pasar de una prueba a un servicio operativo, el equipo necesita documentar qué interfaz llama la aplicación, cómo administra los accesos y qué política de datos se aplica a ese uso.
Vertex AI es la plataforma de Google Cloud que ofrece capacidades generativas y controles propios del entorno Cloud. Sus servicios, configuraciones y funciones deben identificarse por separado de los de Gemini API. Una equivalencia comercial entre modelos no demuestra que los mecanismos, controles o condiciones prácticas sean idénticos.
Un producto de Google o un agente gestionado puede añadir otra capa sobre el modelo: herramientas del servidor, búsqueda, archivos, conexiones, estado de sesión, memoria, sandbox o ejecución de acciones. El resultado deja de ser solo una llamada de inferencia: es un sistema compuesto, con superficies adicionales de datos y fallos que requieren revisión propia.
Capas que conviene registrar por separado
| Capa | Pregunta de identificación | Evidencia operativa mínima |
|---|---|---|
| Modelo | ¿Qué familia e identificador recibe la solicitud? | Configuración, registro de despliegue y documentación del modelo. |
| Canal | ¿La aplicación usa Gemini API, Vertex AI u otra interfaz? | Endpoint configurado, proyecto o cuenta y método de autenticación. |
| Plataforma | ¿Qué controles y administración corresponden al entorno? | Configuración del proyecto, políticas y registros administrativos. |
| Servicio añadido | ¿Hay búsqueda, archivos, sesiones, memoria, herramientas o sandbox? | Inventario de funciones habilitadas y flujo de datos por función. |
| Aplicación | ¿Qué datos aporta el cliente y qué acciones desencadena la respuesta? | Diseño de integración, pruebas, trazas y controles propios. |
Identidad del modelo: familia e identificador no son sinónimos
Una familia de modelos es una categoría útil para comunicar capacidades generales, pero no basta para reproducir ni gobernar un comportamiento. El inventario debe incluir el identificador solicitado por la aplicación y el canal que lo resuelve. Si el sistema usa un alias en lugar de un identificador fijo, el equipo debe reconocer que el destino efectivo puede cambiar según la política de ese alias.
La elección depende del caso de uso. Una variante en desarrollo o vista previa puede ser apropiada para investigación o prototipado si el equipo tolera cambios y realiza pruebas frecuentes. Una función que soporta procesos esenciales puede requerir una selección más estable y una ruta explícita de actualización. La decisión debe responder al riesgo de la carga de trabajo, no a una suposición general sobre la marca del modelo.
Los identificadores y estados de ciclo de vida también importan para la continuidad. Un modelo puede figurar como estable, en vista previa o experimental; un alias como “latest” puede apuntar a un destino que cambie. Estas etiquetas no son intercambiables ni garantizan que una aplicación siga comportándose igual. Antes de desplegar, el equipo debe comprobar qué identificador usa realmente y qué condiciones de retirada se aplican a ese canal.
Gemini API y Vertex AI mantienen documentación y calendarios de cambios propios. Una fecha de retirada indicada para un modelo en un canal no debe trasladarse automáticamente al otro. La fecha de anuncio, la fecha efectiva de apagado y el canal afectado son datos distintos; para planificar una migración, hay que asociar cada plazo con el identificador y el servicio que lo aplican.
Una model card puede dar contexto sobre un modelo descrito por Google DeepMind, pero no certifica la integración particular. El índice de model cards enumera los modelos documentados y sus fechas de publicación o actualización; cambia con el tiempo. La tarjeta correspondiente puede orientar la evaluación del modelo descrito, pero no demuestra por sí sola que la aplicación use ese modelo ni que su configuración de servicio sea idéntica.
Configuración de datos: retención, caché y funciones adicionales
Las preguntas sobre datos deben formularse por categoría y recorrido. No basta con preguntar si los prompts se usan para entrenar modelos. Una revisión responsable distingue prompts, respuestas, archivos adjuntos, documentos recuperados, contenido de caché, datos de sesión, telemetría y señales de monitorización de abuso. También identifica qué datos llegan a una función de búsqueda, una herramienta, una memoria o un entorno de ejecución.
Para los modelos Gemini gestionados en Vertex AI, las condiciones de retención dependen del modelo, la API, las funciones y la configuración del proyecto. En los modelos compatibles, la caché implícita en memoria está habilitada de forma predeterminada, al igual que la caché duradera. Los datos en caché están limitados al proyecto y se eliminan como máximo 24 horas después de escribirse. La caché duradera almacena datos derivados en almacenamiento persistente; con un endpoint regional o multirregional, sigue la ubicación seleccionada y los requisitos de residencia correspondientes. Con un endpoint global, las solicitudes y su caché pueden atenderse desde cualquier región.
Un administrador del proyecto puede desactivar toda la caché o desactivar solo la caché duradera y mantener la caché en memoria. Los ajustes de caché no determinan la retención de otras funciones: algunas tienen sus propias reglas, y algunas pueden impedir la retención cero. «Retención cero» no es una propiedad genérica de un modelo o una plataforma; hay que comprobar las condiciones aplicables y los ajustes de cada función para la configuración utilizada.
La retención también puede depender de registros o funciones adicionales. Por ejemplo, la documentación de Vertex AI describe escenarios en los que el registro de solicitudes para monitorización de abuso, la búsqueda fundamentada, el registro de solicitudes y respuestas o el almacenamiento de estado de sesión tienen condiciones específicas. Algunas funciones no permiten desactivar ese almacenamiento mientras se usan. Por eso, una política general no basta para concluir que todas las partes de una implementación tienen retención cero.
La residencia de datos requiere la misma atención. Elegir una ubicación para un proyecto o endpoint no demuestra por sí solo dónde se procesan o almacenan los datos de todas las funciones habilitadas. Hay que revisar la documentación y los términos aplicables a cada componente de la configuración concreta, incluidas las funciones de búsqueda, recuperación, memoria, sesión o sandbox que se utilicen. La cobertura y las exclusiones dependen del servicio y la configuración específicos.
Preguntas para revisar la frontera de datos
| Elemento | Pregunta | Control que conviene conservar |
|---|---|---|
| Prompts y respuestas | ¿Qué canal los registra, durante cuánto tiempo y con qué finalidad? | Política aplicable y configuración de registros. |
| Archivos y recuperación | ¿Dónde se almacenan, indexan o consultan los documentos? | Inventario de almacenamiento, permisos y flujo de recuperación. |
| Caché y sesiones | ¿Hay caché o estado de sesión que afecte a la retención? | Configuración, pruebas y documentación de la función. |
| Búsqueda y herramientas | ¿Qué servicio recibe consultas, resultados o parámetros? | Diagrama de datos y lista de integraciones. |
| Residencia | ¿La ubicación elegida cubre cada función utilizada? | Evaluación por componente y configuración. |
Qué aportan las model cards y qué no demuestran
Las model cards de Google DeepMind proporcionan información pública útil para evaluar el modelo como componente: propósito, metodología, evaluaciones, limitaciones y medidas de mitigación descritas por el productor. Ayudan a evitar que la selección se base únicamente en demostraciones, comparaciones aisladas o mensajes comerciales.
Su alcance es limitado. Una model card no certifica la seguridad de una aplicación específica ni prueba que una integración use el mismo identificador, configuración o controles que se evaluaron. Tampoco demuestra que los documentos recuperados sean correctos, que una instrucción no pueda provocar una acción indebida, que una herramienta externa valide sus parámetros o que el sistema cumpla un requisito sectorial.
En arquitecturas con recuperación de información o agentes, el riesgo principal puede residir en la fuente documental, los permisos de una herramienta, el aislamiento del sandbox o la observabilidad de la aplicación. La evaluación debe conectar las limitaciones del modelo con pruebas propias sobre datos, autorizaciones, usos indebidos y comportamiento ante fallos.
Conviene conservar la versión o fecha de la model card revisada y asociarla al identificador de modelo desplegado. Si no hay una correspondencia clara entre la tarjeta disponible y el modelo utilizado, la información pública sobre ese punto es parcial. Esa limitación debe reflejarse en la evaluación, sin convertirla en una conclusión sobre la seguridad de toda la aplicación.
Herramientas y servicios añadidos amplían el sistema
Las funciones de búsqueda, recuperación de archivos, sesiones, memoria, herramientas del servidor, sandboxes y agentes gestionados pueden aportar capacidades útiles, pero amplían el sistema. Cada función plantea preguntas nuevas: qué datos se transmiten, qué servicio procesa el contexto, qué identidad ejecuta una acción, qué registros se generan y qué ocurre si el resultado es ambiguo o el servicio no está disponible.
La arquitectura debería representar por separado los flujos de datos y los flujos de control. El flujo de datos muestra prompts, documentos, resultados de búsqueda, archivos y trazas. El flujo de control muestra qué componente decide invocar una herramienta, qué permisos tiene, qué validaciones preceden a la acción y cómo se confirma o bloquea el resultado. Esa separación reduce el riesgo de confundir una respuesta textual con una autorización operativa.
En un agente que puede ejecutar herramientas, la salida del modelo no debería tratarse como autorización suficiente. Las acciones sensibles requieren controles independientes: autorización de la identidad solicitante, validación de parámetros, límites de alcance, confirmación humana cuando corresponda, registros y una forma segura de detener la operación. El modelo puede proponer; la aplicación debe gobernar.
La evaluación de las herramientas también afecta a la continuidad. Una actualización del modelo, de una interfaz o de una herramienta puede romper la composición aunque la inferencia básica siga disponible. Las pruebas deben cubrir llamadas a herramientas, errores, límites, resultados inesperados y degradación cuando un servicio auxiliar no responde.
Matriz de decisión por carga de trabajo
Una matriz de adopción no elige automáticamente un canal; hace explícitas las condiciones que requiere cada carga de trabajo. Un prototipo puede priorizar la rapidez de iteración, pero debe evitar datos no autorizados para ese entorno. Una aplicación empresarial con datos sensibles suele requerir más comprobaciones de configuración, identidad, registros, ubicación y responsabilidades. La diferencia no es de prestigio entre productos, sino de requisitos verificables.
Los casos de recuperación de información también requieren evaluar el origen, la clasificación, la indexación, los permisos y la actualización de los documentos. Los casos de voz en tiempo real añaden requisitos de latencia, sesión y tratamiento de audio. Los agentes que ejecutan herramientas exigen separar con claridad la capacidad de generar una propuesta de la autorización para actuar.
La siguiente matriz sirve como punto de partida analítico. No es una certificación ni una recomendación de compra. Antes de aprobar una implementación, cada fila debe completarse con el modelo, el identificador, el canal y la configuración efectivos.
Evaluación inicial por tipo de carga de trabajo
| Carga de trabajo | Prioridad de revisión | Riesgo que no debe darse por resuelto | Evidencia mínima antes de producción |
|---|---|---|---|
| Prototipo | Identificador, canal, límites y datos permitidos. | Que una prueba en AI Studio represente producción. | Inventario, datos autorizados y fecha de revisión. |
| Aplicación con datos sensibles | Configuración, identidad, registros, ubicación y condiciones aplicables. | Que una política general cubra todas las funciones habilitadas. | Evaluación por flujo, configuración verificable y responsables. |
| Recuperación de información | Documentos, índices, permisos y ubicación por componente. | Que el modelo preserve los permisos del sistema documental. | Pruebas de autorización y trazabilidad de fuentes. |
| Voz en tiempo real | Sesiones, latencia, audio e interrupciones. | Que el comportamiento textual sea equivalente al de una sesión en vivo. | Pruebas de carga, fallos y tratamiento de sesiones. |
| Agente con herramientas | Identidad, permisos, validación y confirmación de acciones. | Que la salida del modelo constituya autorización. | Políticas de herramientas, pruebas de abuso y parada segura. |
Evidencia mínima y revisión continua
Antes de aprobar una carga de trabajo, el responsable debería poder reconstruir el sistema sin depender de recuerdos informales. El inventario debe incluir modelo e identificador, alias si existe, canal, proyecto o cuenta, región o ubicación cuando corresponda, límites relevantes, datos procesados, herramientas activadas, responsable operativo y dependencias externas. También debe indicar qué documentación oficial se sigue para cada componente.
Las pruebas de compatibilidad deben reflejar la función real. Una prueba mínima puede verificar que el endpoint responde; una prueba útil comprueba instrucciones, formatos, llamadas a herramientas, recuperación documental, límites de seguridad, errores y rendimiento dentro de los parámetros permitidos. Ante cambios de configuración, identificadores o herramientas, conviene comparar resultados con criterios definidos previamente.
La continuidad requiere una ruta de reversión o degradación. Quizá no sea posible volver a un modelo que ya no está disponible; en ese caso, la reversión puede consistir en desactivar una función, pasar a un flujo manual, limitar herramientas o usar una alternativa validada de antemano. El plan debe especificar quién decide, qué señales activan la medida y cómo se informa a los usuarios afectados.
La revisión debe tener una fecha. La documentación sobre modelos, retención y residencia puede cambiar, por lo que una conclusión correcta en un momento dado puede quedar desactualizada. La organización debería revisar su evaluación cuando cambien la configuración o las funciones, se incorpore un nuevo tipo de datos o se produzca un incidente. La incertidumbre que no pueda resolverse con documentación y pruebas propias debe permanecer como riesgo aceptado o motivo para aplazar la implementación.
Lista de aprobación operativa
- 01Registrar el identificador del modelo, el alias si lo hubiera y el canal de acceso exacto.
- 02Asociar cada componente con su ciclo de vida y la documentación aplicable.
- 03Mapear prompts, respuestas, archivos, caché, sesiones, herramientas y registros.
- 04Verificar configuración de datos, ubicación, accesos y funciones adicionales para el caso concreto.
- 05Revisar la model card pertinente y convertir sus limitaciones en pruebas de integración.
- 06Ejecutar pruebas de regresión, autorización, fallos y degradación con criterios documentados.
- 07Asignar responsables, fecha de revisión y plan de migración o interrupción.
Continúa explorando
Fuentes consultadas
Correcciones y transparencia
Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.
Proponer una corrección