Voces sintéticas en producción: cómo demostrar el consentimiento, controlar el parecido y retirar una voz con trazabilidad
Imagen generada por el Equipo Editorial de Inferama
01

La decisión que una demo de voz no resuelve

Una demostración de texto a voz puede responder a preguntas sobre calidad, idioma, latencia o expresividad. No resuelve, por sí sola, una cuestión previa: quién puede autorizar el uso de una voz, para qué finalidades y con qué límites. En producción, el riesgo no se concentra únicamente en crear el archivo. También aparece cuando se reutiliza un modelo de voz en otro canal, se traduce una locución, se cambia el guion, se entrega material a un distribuidor o se mantiene una campaña después de que cambien las condiciones de autorización.

Conviene tratar la autorización como una relación verificable entre una persona o entidad facultada, una voz o conjunto de muestras, una finalidad definida y una vigencia. Esa relación debe poder consultarse antes de generar y publicar, no reconstruirse manualmente tras una reclamación. Un contrato, formulario o grabación de confirmación puede formar parte de la prueba, pero no basta si no está enlazado con los activos y flujos que habilita.

Esta disciplina importa tanto si el equipo usa un catálogo de voces licenciadas como si integra un servicio de clonación profesional, por ejemplo, de ElevenLabs, o un modelo de voz propio. También es independiente del modelo concreto que se utilice para generar el audio. La tecnología puede cambiar; la necesidad de conocer el alcance de la autorización, la versión de la voz y el destino de cada salida permanece.

El Reglamento General de Protección de Datos establece principios de limitación de la finalidad, minimización de datos y limitación del plazo de conservación. Para un equipo de voz, esos principios aconsejan separar la evidencia necesaria para demostrar la autorización de las muestras de audio, los documentos de identidad y los registros técnicos. Cada categoría puede requerir accesos, finalidades y plazos distintos. La trazabilidad no exige conservarlo todo indefinidamente.

02

Tres categorías que no deben mezclarse

Una voz licenciada de catálogo se ofrece bajo condiciones definidas por quien la pone a disposición. El equipo debe comprobar que esas condiciones cubren su caso concreto: por ejemplo, un uso comercial, la atención al cliente, un territorio determinado o la creación de anuncios. Que una voz esté disponible en una interfaz no demuestra, por sí solo, que cualquier uso, transformación o redistribución esté permitido.

La clonación autorizada de una persona identificable establece un vínculo más directo entre el titular y la salida. Además de verificar la identidad o la representación, la autorización debería diferenciar entre sintetizar nuevos textos, conservar muestras, entrenar o mejorar un modelo, traducir, doblar, ajustar el timbre, permitir acceso a operadores y transferir el trabajo a subcontratistas. Cada operación puede tener un alcance distinto.

Una voz diseñada para no imitar a una persona concreta reduce algunos riesgos, pero no elimina la posibilidad de parecido accidental ni la de que el contexto sugiera que una persona participa. El parecido no es una propiedad binaria que pueda resolverse solo con una afirmación del proveedor o del equipo creativo. Puede depender del timbre, la prosodia, los acentos, las frases reconocibles, el nombre asociado a un personaje y el contexto de publicación.

Por eso, la clasificación inicial no debe funcionar como una exención. Una voz de catálogo puede usarse de modo que sugiera una suplantación; una voz creada desde cero puede aproximarse a una persona reconocible; y una clonación inicialmente autorizada puede quedar fuera de alcance si se emplea para una finalidad nueva. La categoría orienta los controles iniciales, pero no sustituye la revisión del uso efectivo.

Clasificación inicial y control recomendado

SituaciónPregunta decisivaControl mínimoCuándo reforzar
Voz licenciada de catálogo¿La licencia cubre el canal, el territorio y la finalidad?Registrar la versión, las condiciones aplicables y el activo resultanteCampañas, voces de marca o usos que puedan sugerir identidad personal
Clonación autorizada¿El titular o representante autorizó esta transformación concreta?Verificar identidad o facultad y vincular la autorización con la vozTraducción, entrenamiento, sublicencia, anuncios o mensajes sensibles
Voz no asociada a una persona¿El resultado puede confundirse con alguien identificable?Prueba de parecido y registro de la decisiónParecido señalado por revisores, público objetivo o contexto de suplantación
03

El expediente mínimo de autorización

El expediente no tiene que convertirse en un archivo indiscriminado de datos personales. Debe contener lo necesario para responder de forma fiable a dos preguntas: quién autorizó y qué autorizó. La identidad puede verificarse mediante un proceso adecuado al riesgo; la evidencia almacenada debe ser proporcional. En algunos casos bastará con registrar el resultado de una comprobación y quién la realizó, en lugar de replicar documentos o muestras sensibles en varios sistemas.

Cuando actúe un representante, el expediente debe identificar a la persona o entidad representada, la fuente de su facultad, su vigencia y cualquier límite. Si un proveedor verifica la voz durante su flujo de clonación, esa comprobación puede ser una señal útil, pero no sustituye la definición contractual y operativa del uso que hará el cliente. **Los flujos profesionales de clonación pueden incluir una frase de desafío para verificar la voz y una vía de revisión manual antes del entrenamiento.** Estas medidas verifican el proceso del proveedor; no prueban universalmente que cualquier uso posterior esté autorizado.

La autorización debe expresar finalidades comprensibles y operativas. «Uso de voz sintética» es demasiado amplio para decidir si se puede locutar un curso interno, un anuncio, un asistente conversacional o un doblaje. Registra canales, territorios, idiomas, periodo, tipos de guion, transformaciones permitidas, entrenamiento o mejora, subcontratación y posibilidad de revocación. Si una condición no está clara, el sistema debería marcar el uso como pendiente de revisión, no asumir que está permitido.

También es útil distinguir entre autorización para generar, autorización para publicar y autorización para conservar. Esa separación evita que una muestra recogida para una prueba técnica pase sin control a entrenamiento, o que una locución aprobada para una campaña limitada quede disponible para reutilizaciones posteriores. La minimización exige que cada campo del expediente responda a una finalidad concreta y que sus plazos se revisen.

Alta de una voz autorizada

  1. 01Crear un identificador interno del titular, sin usarlo como nombre público de la voz.
  2. 02Verificar identidad o facultad de representación con un método proporcional al riesgo y registrar el resultado, la fecha y quién realizó la comprobación.
  3. 03Definir el alcance: finalidad, canales, territorios, idiomas, transformaciones, entrenamiento, subcontratación, vigencia y revocación.
  4. 04Asignar una versión de voz y asociarla de forma exclusiva al expediente aprobado.
  5. 05Configurar reglas de bloqueo para usos fuera de alcance y una fecha de revisión anterior al vencimiento.
04

Del consentimiento a la ejecución: el registro que explica cada audio

La trazabilidad útil se crea al generar y publicar. Para cada activo, el equipo debería poder consultar un identificador de autorización; el identificador y la versión de la voz; el modelo o servicio empleado; la versión del guion o instrucción; el operador o sistema responsable; la fecha de generación; quién aprobó; el canal de destino, y el estado de publicación. No todos estos elementos prueban el consentimiento. En conjunto, permiten localizar la autorización invocada y evaluar si el uso se ajustó a ella.

Este registro debe funcionar con flujos automatizados. Si un asistente genera respuestas de voz en tiempo real, no será práctico aprobar cada archivo individualmente. En ese caso, el vínculo puede establecerse entre una política de generación, un conjunto versionado de guiones o instrucciones, la voz habilitada y el entorno de despliegue. Debe quedar claro qué cambios exigen una nueva aprobación: por ejemplo, cambiar la voz, ampliar el territorio, introducir traducción, modificar la clase de mensajes o usar otra versión del modelo.

Las credenciales de contenido y la procedencia técnica pueden complementar el registro. La especificación C2PA describe manifiestos firmados y relaciones criptográficas para expresar información sobre la creación y modificación de un activo, incluidos mecanismos de manifiestos externos. Puede ayudar a enlazar un audio distribuido con información sobre su procedencia. Sin embargo, una firma o un manifiesto no crea consentimiento ni demuestra que una autorización sea suficiente: conserva información declarada por participantes del flujo y depende de cómo se gestionen la identidad, la firma y la disponibilidad de los datos asociados.

Mantén separados los identificadores que puede recibir el público de los reservados para operaciones internas. La divulgación externa no debe revelar documentación personal ni detalles de seguridad innecesarios. A su vez, el registro interno debe ser accesible para quienes investigan reclamaciones y ejecutan retiradas, con controles de acceso e historial de cambios.

05

Prueba de parecido y revisión reforzada

La prueba debe evaluar si una audiencia razonable podría atribuir la voz a una persona identificable, especialmente en el contexto de uso. No es un examen científico único ni existe un umbral universal. Una medición acústica, si se emplea, puede aportar una señal, pero no debe reemplazar el juicio humano sobre la identidad percibida, la presentación editorial, el guion y la posible asociación con una persona concreta.

Antes de publicar una voz de riesgo, realiza una revisión con muestras representativas: distintos textos, emociones, velocidades, idiomas y condiciones de compresión. Pide a los revisores que documenten si reconocen o atribuyen la voz a alguien, qué rasgos motivan esa impresión y si el nombre, la imagen, el producto o el contexto aumentan la confusión. Cuando sea posible, separa la revisión creativa de quien configuró la voz para reducir el sesgo de confirmación.

Define de antemano qué ocurre ante resultados ambiguos. Puede ser necesario rediseñar la voz, cambiar parámetros, retirar rasgos de una locución, reformular la presentación o escalar el caso a una revisión legal y operativa. El objetivo no es certificar que ningún oyente encontrará semejanzas, algo que el equipo no puede garantizar, sino tomar una decisión defendible y repetible con la información disponible.

El perfil de gestión de riesgos de IA generativa de NIST incluye prácticas de documentación, pruebas, supervisión humana, procedencia y gestión de riesgos. Aplicado a la voz, sirve como base metodológica para asignar responsables, conservar resultados de evaluación y revisar controles cuando cambian el modelo, el contexto o las señales de incidencia.

Protocolo breve de prueba de parecido

  1. 01Delimitar la audiencia, el contexto y las personas con las que podría producirse confusión.
  2. 02Generar muestras que cubran el uso previsto, incluidos textos sensibles y variaciones de entrega.
  3. 03Solicitar una revisión independiente y registrar atribuciones, dudas, rasgos observados y condiciones de escucha.
  4. 04Evaluar el efecto combinado del audio, el nombre, la imagen, el guion y el canal de distribución.
  5. 05Aprobar, rediseñar o escalar la decisión; repetir la prueba cuando cambie la voz, el modelo o el caso de uso.
06

Divulgación y contexto: informar sin convertir la etiqueta en una excusa

Informar de que una voz ha sido generada o manipulada artificialmente puede ser una obligación normativa en determinados supuestos y también una medida de transparencia. El Reglamento de Inteligencia Artificial de la Unión Europea establece requisitos de divulgación para quienes despliegan sistemas que generen o manipulen contenido de audio que constituya un deepfake. La aplicación concreta depende de los hechos, del papel de cada participante y del calendario aplicable; ante dudas, el equipo debe evaluar su caso con criterio especializado.

Una etiqueta genérica no resuelve por sí sola los riesgos de consentimiento, confusión o uso engañoso. Debe aparecer en el momento y el canal relevantes para el oyente. En una pieza audiovisual puede ser una indicación visible y accesible; en una interacción de voz puede requerirse una presentación sonora o textual antes de que el usuario dependa del contenido. En un archivo descargable, los metadatos pueden complementar la información, pero no necesariamente sustituyen una divulgación perceptible.

Los contenidos editoriales, educativos, publicitarios y de atención al cliente generan expectativas distintas. La divulgación debe ser clara sin afirmar más de lo que el equipo puede demostrar. Es preferible decir que la voz es sintética o generada artificialmente cuando ese es el hecho documentado, en vez de afirmar que reproduce o no reproduce a una persona determinada si la evaluación no permite sostenerlo. Conserva la versión exacta del aviso y los canales en que se mostró.

Decisión de divulgación según el contexto

ContextoRiesgo que evaluarMedida operativa
Asistente de vozEl usuario puede asumir que conversa con una personaInformar al inicio o antes del momento decisivo y registrar la versión del aviso
Anuncio o pieza audiovisualLa presentación puede sugerir respaldo o participación personalRevisar voz, imágenes y atribuciones; incorporar una divulgación adecuada al canal
Formación internaEl audio puede reutilizarse fuera de su contexto originalIndicar el origen sintético y limitar o registrar las descargas cuando sea viable
Narración editorialLa voz puede alterar la percepción de autenticidad de un testimonioSeparar claramente la narración sintética de las declaraciones de personas reales
07

Retirada, revocación y sustitución sin perder la evidencia

La retirada empieza antes de la revocación. Un inventario debe relacionar cada voz con activos fuente, archivos finales, campañas, plataformas, cachés, distribuidores, bibliotecas de plantillas y automatizaciones. Sin ese mapa, un equipo puede desactivar una voz en la interfaz principal y seguir entregando copias desde una aplicación, una red de distribución o material descargado.

La revocación tampoco tiene que tener el mismo efecto en todos los activos. El expediente debe indicar si afecta a nuevas generaciones, publicaciones futuras, materiales ya distribuidos o usos que deban mantenerse por obligaciones de archivo. Si esas reglas no se acordaron o no están claras, el caso debe escalarse. La decisión no debería inferirse solo de una fecha técnica de vencimiento.

Al recibir una solicitud, suspende primero la capacidad de generar nuevas salidas con la voz o autorización afectada. Después, determina el alcance, prioriza los destinos de mayor exposición, sustituye locuciones cuando sea posible y solicita a distribuidores o subcontratistas las acciones que les correspondan. Documenta intentos, confirmaciones y límites: una copia descargada por un tercero puede no ser recuperable, pero esa limitación no elimina la necesidad de actuar sobre los canales que controla la organización.

Conserva evidencia del cierre de forma proporcionada. Puede ser necesario mantener identificadores, fechas, decisiones y confirmaciones de retirada para responder a una reclamación posterior. Eso no implica conservar muestras de voz o documentos de identidad durante el mismo periodo. Aplica plazos diferenciados y revisa quién accede a cada tipo de evidencia.

Respuesta de retirada en siete pasos

  1. 01Registrar la solicitud, su origen, fecha y alcance alegado.
  2. 02Validar la identidad o facultad de quien solicita la retirada cuando corresponda.
  3. 03Suspender nuevas generaciones y despliegues asociados a la voz o autorización.
  4. 04Consultar el inventario de activos, destinos, cachés, distribuidores y automatizaciones.
  5. 05Retirar, sustituir o despublicar según el alcance aplicable y priorizar los canales de mayor impacto.
  6. 06Solicitar confirmación a terceros cuando controlen copias o distribución.
  7. 07Cerrar con un registro de acciones, activos no recuperables, fechas, responsables y revisión de causas.
08

Matriz de decisión y lista de comprobación antes del lanzamiento

La decisión de lanzamiento debería combinar tres dimensiones: identidad o parecido, sensibilidad del mensaje y capacidad real de retirada. Un anuncio que parece atribuido a una persona, un asistente que comunica información relevante y un doblaje destinado a una amplia distribución no tienen el mismo perfil que una narración interna de alcance limitado. La matriz no sustituye el análisis jurídico ni las condiciones de un proveedor; organiza decisiones operativas y revela cuándo el equipo carece de información suficiente.

Antes de activar una integración, comprueba también qué parte del proceso controla el proveedor y cuál conserva la organización. Un servicio puede ofrecer verificación de voz o una política contra la suplantación, pero el equipo que decide los guiones, las audiencias, los destinos y la publicación necesita controles propios para esos elementos. Un proveedor de modelos conversacionales o de voz tampoco debería ser la única fuente del registro de autorizaciones y retiradas.

Una reclamación de suplantación o uso no autorizado requiere una respuesta que no prejuzgue el resultado. Confirma la recepción, conserva los registros pertinentes, limita temporalmente el uso cuando el riesgo lo justifique, contrasta el expediente y comunica el estado de la investigación. Evita afirmaciones absolutas sobre el parecido o la titularidad mientras los hechos no estén verificados. La calidad de la respuesta depende de que el registro se haya diseñado antes del incidente.

Matriz operativa de decisión

CasoRevisión de autorizaciónPrueba de parecidoDivulgaciónPreparación para la retirada
Asistente de voz públicoReforzada: finalidad, guiones e instrucciones permitidasReforzada si la voz es identificable o de marcaNormalmente visible o audible en el momento relevanteAlta: desactivación inmediata y control de flujos
Doblaje de contenidoReforzada: idiomas, territorios y transformacionesReforzada para evitar atribución al intérprete originalEvaluar según el contexto y la normativa aplicableAlta: inventario de versiones por idioma
AnuncioReforzada: canal, duración, aprobación creativa y sublicenciaReforzadaReforzada cuando pueda afectar a la atribución o autenticidadAlta: copias, agencias y distribuidores
Formación internaVerificar alcance interno y reutilizaciónProporcional al contextoClara para evitar confusión entre participantesMedia: plataformas, descargas y repositorios
Narración editorialReforzada: contexto, atribuciones y posibles testimoniosReforzada si existe riesgo de confusiónEvaluar desde el punto de vista editorial y normativoMedia o alta según la distribución
09

Continúa explorando

Fuentes consultadas

03

Correcciones y transparencia

Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.

Proponer una corrección