Qué hace una herramienta de IA generativa
Una herramienta de IA generativa produce contenido nuevo —como texto, imágenes o código— a partir de patrones aprendidos durante el entrenamiento. En un modelo de lenguaje, el texto se procesa en unidades llamadas tokens y el sistema estima cuál podría venir a continuación. Repite ese proceso para construir una respuesta. No piensa ni comprende como una persona: genera una secuencia probable a partir del contexto y de patrones aprendidos durante el entrenamiento.
La fluidez no demuestra que una respuesta sea verdadera. El sistema puede dar una explicación convincente y, aun así, inventar un dato, una referencia o un paso matemático. Tampoco equivale necesariamente a un buscador: generar una respuesta y recuperar documentos son operaciones distintas. Algunas herramientas consultan páginas o bases de datos y añaden contexto a la generación; ese mecanismo puede facilitar la comprobación, pero no elimina errores, omisiones ni citas mal interpretadas.
Los modelos también pueden reproducir estereotipos, omitir perspectivas o favorecer determinadas variedades lingüísticas. Un registro formal o una redacción fluida no hacen neutral una respuesta. Para trabajarlo en clase, compara ejemplos ficticios y comprueba a quién se representa, qué supuestos se dan por hechos y qué voces faltan. No utilices identidades reales del alumnado para hacer estas pruebas. Una comparación aislada sirve para discutir un resultado concreto, no para medir todo el sesgo de una herramienta.
Por ejemplo, una respuesta ficticia podría afirmar que «la fotosíntesis ocurre principalmente en las raíces» y explicarlo con seguridad. El tono no convierte la afirmación en un hecho: el alumnado tendría que contrastarla con materiales fiables de biología. Una herramienta puede variar la respuesta a una misma pregunta, y repetirla o reformularla no constituye una verificación independiente.
Conviene distinguir cuatro funciones. Un generador redacta o transforma contenido; un buscador localiza documentos; una herramienta de recuperación selecciona fragmentos de un conjunto de fuentes para aportar contexto; y una persona comprueba si el resultado está respaldado. Un solo producto puede combinar algunas funciones, pero el docente debe identificar qué hace realmente la herramienta antes de diseñar una actividad.
Funciones que conviene no confundir
| Función | Qué hace | Qué no demuestra |
|---|---|---|
| Generación | Produce texto, imágenes, audio o código a partir de una petición y un contexto. | Que el contenido sea verdadero o que las fuentes existan. |
| Búsqueda | Localiza páginas o documentos mediante una consulta. | Que el documento sea fiable o pertinente. |
| Recuperación de información | Selecciona material de una colección para aportar contexto a una respuesta. | Que el modelo interprete correctamente ese material. |
| Verificación | Contrasta una afirmación con documentos, datos o pruebas adecuadas. | Que una sola comprobación resuelva cualquier incertidumbre. |
Elegir un uso de acuerdo con el aprendizaje
La pregunta principal no es si el alumnado puede usar IA en general, sino qué aprendizaje debe demostrar en cada tarea. Si el objetivo consiste en practicar una destreza básica, delegar esa práctica puede ocultar lo que el estudiante sabe hacer. Si el objetivo es analizar, revisar o valorar críticamente una respuesta, el uso de IA puede convertirse en parte explícita de la actividad, siempre que las reglas sean claras.
La Universidad de Cornell propone considerar tres opciones: prohibir la IA cuando interfiera con habilidades fundamentales; permitirla con declaración cuando aporte ayuda, pero el alumnado deba responsabilizarse de lo que entrega; o integrarla de forma activa cuando sirva a los objetivos de aprendizaje. Son opciones de diseño, no una política universal. Una misma asignatura puede necesitar reglas distintas para una prueba de cálculo, una lluvia de ideas y un proyecto final.
Las recomendaciones de UNESCO plantean una educación centrada en las personas y en la validación pedagógica y ética de las herramientas. Su marco para estudiantes organiza competencias en torno al enfoque humano, la ética, las técnicas y aplicaciones de IA y el diseño de sistemas, con progresión desde comprender hasta crear. Estos marcos ayudan a formular objetivos: que el alumnado pueda explicar, evaluar y decidir, no limitarse a obtener una respuesta.
El criterio práctico es relacionar cada permiso o límite con una destreza concreta. Si una tarea evalúa la capacidad de redactar un argumento, permitir que la herramienta lo escriba impide observar directamente esa capacidad. Si evalúa la revisión crítica de argumentos, analizar una respuesta de IA puede ser pertinente. El mismo uso, por tanto, puede ser adecuado en una etapa del curso y no serlo en otra.
Decisiones de diseño para tres tareas
| Tarea | Objetivo que se evalúa | Uso de IA posible | Evidencia del aprendizaje |
|---|---|---|---|
| Ensayo de secundaria sobre una novela | Interpretar pasajes y sostener una lectura propia. | Permitir ideas iniciales si se declaran; no permitir que la herramienta redacte el análisis que se evalúa. | Un pasaje seleccionado, un borrador, una explicación de cambios y una reflexión breve. |
| Resolución de problemas en un curso introductorio | Mostrar el procedimiento y comprender conceptos básicos. | Limitar la IA en ejercicios que miden destrezas aún no adquiridas; permitirla después para comparar métodos. | Desarrollo de pasos, justificación del método y comprobación del resultado. |
| Proyecto universitario de investigación | Formular una pregunta, valorar fuentes y construir un argumento. | Permitir apoyo acotado para organizar ideas, siempre que las fuentes y afirmaciones se verifiquen. | Fuentes abiertas, decisiones justificadas, revisión crítica y presentación de límites. |
Rediseñar la evaluación para hacer visible el proceso
Una tarea puede pedir más que un producto final sin convertirse en una vigilancia permanente. El docente puede solicitar evidencias pertinentes del razonamiento, como un esquema, una versión inicial, una revisión explicada y una breve reflexión sobre decisiones clave. No necesita exigir el historial completo de conversaciones privadas con una herramienta: una muestra concreta de cómo el estudiante comprobó o modificó una respuesta puede ser más útil y menos invasiva.
En un ensayo, por ejemplo, el alumnado puede seleccionar una afirmación generada por una herramienta, contrastarla con un texto asignado y explicar qué conserva, corrige o descarta. En matemáticas, puede mostrar un procedimiento propio, comparar el resultado con otra estrategia y localizar el paso en que una solución sugerida falla. En un trabajo universitario, puede anotar por qué una fuente es adecuada y qué incertidumbre sigue abierta.
Una defensa oral breve o una actividad en clase puede aportar información sobre el aprendizaje, pero no debería ser la única forma de evaluación para todas las personas. Las necesidades de accesibilidad, las barreras lingüísticas y las condiciones de cada estudiante importan. Ofrece una alternativa equivalente cuando una modalidad presencial, oral o manuscrita cree una barrera que no forma parte del objetivo evaluado.
La rúbrica debe valorar el aprendizaje buscado, no la apariencia de un texto ni una sospecha sobre quién lo escribió. Puede incluir la calidad del argumento o procedimiento, el uso correcto de fuentes, la explicación de decisiones y la capacidad de revisar una respuesta ante nueva información. Para una habilidad básica, el docente puede evaluar también una demostración individual sin IA, si esa destreza forma parte explícita del objetivo y existe una forma accesible de demostrarla.
Pedir un borrador o una reflexión no garantiza por sí solo que el trabajo sea auténtico. Esas piezas son útiles cuando forman parte normal de la actividad y permiten valorar decisiones vinculadas al objetivo. Conviene explicar por adelantado qué se solicita, por qué y cómo se calificará, sin exigir datos innecesarios ni registros privados.
Una rúbrica breve centrada en el aprendizaje
| Criterio | Qué puede mostrar el estudiante | Qué no debe sustituirlo |
|---|---|---|
| Razonamiento | Explica cómo llegó a una conclusión o eligió un procedimiento. | Una respuesta final correcta sin explicación, cuando el objetivo incluye el proceso. |
| Uso de fuentes | Relaciona afirmaciones con documentos pertinentes y comprueba su contenido. | Una bibliografía generada automáticamente sin revisar. |
| Revisión crítica | Detecta errores, omisiones o límites y explica cambios concretos. | La afirmación de que una respuesta «parece correcta». |
| Autoría y decisiones | Declara el apoyo usado y delimita qué decisiones tomó personalmente. | Un detector de texto como veredicto de autoría. |
Actividades para aprender sobre IA generativa
Las actividades de alfabetización en IA pueden enseñar a evaluar resultados sin exigir cuentas personales ni datos reales. UNESCO plantea que el alumnado desarrolle juicio crítico y conocimientos para participar de forma responsable. Las propuestas siguientes son ejemplos pedagógicos adaptables, no garantías de que una actividad concreta mejore las calificaciones.
En secundaria, la clase puede analizar una explicación breve generada para una pregunta de ciencias y contrastar cada afirmación con el libro de texto. El producto sería una tabla con tres columnas: afirmación, comprobación y decisión. Otra actividad consiste en comparar dos explicaciones de un mismo concepto y pedir al alumnado que indique cuál es más clara, qué omite y qué fuente consultaría antes de aceptarla.
En universidad, el grupo puede comparar una respuesta sobre un concepto disciplinar con fuentes primarias o materiales del curso y marcar afirmaciones sin respaldo. En una actividad de código, los estudiantes revisan una solución propuesta en un entorno seguro, explican qué hace cada parte y prueban casos límite sin ejecutar código desconocido en un equipo con datos personales.
Una propuesta adaptable consiste en revisar un párrafo para detectar generalizaciones o lenguaje sesgado. La clase debe justificar los cambios con criterios explícitos y evitar compartir información personal. Otra opción es debatir qué tareas de una disciplina deberían requerir práctica sin IA y cuáles podrían beneficiarse de su uso, conectando la decisión con los objetivos de aprendizaje.
En todos los casos, el éxito se define por el producto observable: una afirmación contrastada, un error explicado, una revisión justificada o una regla de uso defendida. Si no se dispone de una herramienta aprobada, el docente puede preparar una muestra ficticia o redactada por sí mismo. No hace falta que el alumnado cree una cuenta para estudiar críticamente una respuesta.
Actividad: comprobar una respuesta sobre un tema del curso
- 01El docente plantea una pregunta vinculada con un objetivo concreto y entrega una respuesta breve, generada o preparada como ejemplo.
- 02Cada estudiante separa la respuesta en afirmaciones que puedan comprobarse y anota qué fuente sería adecuada para cada una.
- 03El alumnado consulta materiales del curso o fuentes primarias pertinentes y registra si cada afirmación queda respaldada, corregida o sin resolver.
- 04Cada estudiante entrega una tabla de comprobación y una reflexión que explique qué aceptó, qué cambió y por qué.
Política de uso y declaración del alumnado
Una política útil explica el propósito de la regla y la concreta por tarea. Debe indicar qué usos están permitidos, cuáles requieren declaración y cuáles no son compatibles con el aprendizaje evaluado. También conviene aclarar qué herramientas ha aprobado el centro, qué datos no deben introducirse, cómo pedir una alternativa y cómo se resolverán las dudas. Una regla comprensible es más útil que una prohibición ambigua que cada estudiante interpreta de forma distinta.
Los siguientes modelos son ejemplos orientativos, no políticas oficiales. Adáptalos a los objetivos de la asignatura, a cada tarea, a las herramientas aprobadas y a las normas y procedimientos locales. En los tres casos, no introduzcas datos personales, sensibles o confidenciales ni trabajos de otras personas en una herramienta, salvo que el centro haya autorizado expresamente ese tratamiento. Quien entrega el trabajo sigue siendo responsable de revisarlo: comprueba los resultados y las fuentes originales, y no presentes como verificada una afirmación que no hayas podido confirmar.
Permiso amplio. Propósito: aprender a usar la IA con criterio y emplearla como apoyo sin sustituir el aprendizaje que se evalúa. Puedes utilizar herramientas de IA para explorar ideas, organizarte, pedir explicaciones, obtener comentarios o revisar un borrador, salvo que las instrucciones de una tarea indiquen un límite concreto. No puedes presentar como propias respuestas generadas ni entregar afirmaciones o referencias sin comprobar. En una nota junto al trabajo, indica qué herramienta utilizaste, para qué y qué aportaciones conservaste o descartaste; cita las salidas reproducidas y las fuentes originales con el estilo indicado en el curso. Si no tienes acceso, necesitas una alternativa accesible o tienes dudas sobre un uso, consulta al docente por [vía de contacto del curso]. Los usos no declarados o contrarios a estas reglas se tramitarán conforme a las normas de integridad académica y al procedimiento aplicable del centro; no se decidirán solo por un detector.
Usos limitados por tarea. Propósito: practicar sin asistencia las destrezas que son objetivo de determinadas actividades y aprender a evaluar la IA cuando su uso forma parte del aprendizaje. En [tarea o etapa], puedes usarla para [usos autorizados, por ejemplo, generar preguntas de estudio], pero no para redactar, resolver o revisar [parte que demuestra la destreza evaluada]. En [otra tarea o etapa], puedes usarla para [usos autorizados] y debes declarar herramienta, propósito y aportaciones conservadas; cita cualquier salida reproducida y las fuentes originales de acuerdo con las instrucciones del curso. No cargues datos personales, sensibles o confidenciales ni trabajos ajenos en servicios no aprobados para ese uso. Verifica resultados y referencias: tú respondes de lo que entregas. Para preguntas, alternativas accesibles o problemas de acceso, contacta con [docente o vía del curso]. Las infracciones se abordarán conforme a las normas y procedimientos aplicables del centro, sin sanciones automáticas basadas únicamente en un detector.
Prohibición de los usos definidos. Propósito: comprobar de manera directa el aprendizaje individual de [destreza o conocimiento]. En [tareas identificadas], no uses IA generativa para producir, reescribir, traducir ni resolver la parte evaluada, ni presentes contenido generado como trabajo propio. La prohibición se limita a esos usos y tareas; cualquier actividad de clase con IA debe estar expresamente indicada por el docente. Si una actividad autorizada incluye una herramienta, declara cuál usaste y cómo; cita las salidas reproducidas y las fuentes originales según las instrucciones del curso. No introduzcas datos personales, sensibles o confidenciales ni trabajos de otras personas en herramientas no autorizadas. Comprueba los resultados y las fuentes de cualquier material que se permita usar: la responsabilidad por el trabajo entregado sigue siendo tuya. Para aclaraciones, solicita orientación a [docente o vía del curso]. Si la prohibición o el formato de la tarea crea una barrera de acceso, pide una alternativa accesible y equivalente antes de la entrega. Cualquier incumplimiento se tratará conforme a las normas de integridad académica y al procedimiento aplicable del centro.
Una declaración breve debe ayudar a entender el proceso, no convertirse en una bibliografía ficticia. Por ejemplo: «Usé una herramienta de IA para proponer posibles títulos y revisar la claridad de dos frases. Comprobé la afirmación sobre el tema en el capítulo asignado, descarté una sugerencia sin respaldo y escribí el argumento final. La IA no redactó el análisis». El estudiante debe seguir citando las fuentes originales que utilizó según las reglas de la asignatura; declarar una herramienta no sustituye la cita de un libro o artículo.
La política debe coincidir con las prácticas reales de evaluación. Si una tarea prohíbe un uso, explica qué aprendizaje requiere hacerlo sin esa ayuda y qué alternativas existen cuando haya una barrera de acceso. Si una tarea permite o anima a usar IA, especifica cómo se declara el apoyo y qué partes deben comprobarse. Las consecuencias de una infracción dependen de las normas y procedimientos del centro; no se deben prometer sanciones automáticas ni sustituir el proceso institucional por una puntuación de detector.
Privacidad, acceso y protección de menores
Antes de utilizar una herramienta, el centro debe evaluar quién la presta, qué datos recibe, cuánto tiempo los conserva, si puede usarlos para entrenamiento y qué condiciones de tratamiento se aplican. No introduzcas datos identificables del alumnado —como nombres, calificaciones, información de salud o discapacidad, imágenes o trabajos ajenos— en servicios que el centro no haya aprobado para ese uso. Quitar el nombre no siempre elimina la posibilidad de identificar a una persona por el contexto.
La normativa depende del país, del tipo de centro, de la finalidad y del servicio. La FERPA regula determinados expedientes educativos en Estados Unidos y no equivale a una ley mundial. En España, la AEPD explica que los centros y las administraciones educativas tienen responsabilidades sobre los medios tecnológicos empleados en la función educativa. Esa orientación sobre clases y exámenes en línea no autoriza por sí sola a cargar expedientes en cualquier herramienta de IA. El centro debe consultar a su responsable de protección de datos y revisar las condiciones del proveedor.
No existe una edad universal que permita usar cualquier servicio en cualquier contexto. Las condiciones pueden depender de la plataforma, la jurisdicción y las normas institucionales. No obligues al alumnado a crear cuentas personales ni a compartir datos para completar una tarea; prepara una alternativa equivalente y accesible. Un plan educativo o una promesa comercial tampoco demuestra por sí solo que el tratamiento sea adecuado.
La accesibilidad también forma parte de la decisión. Una actividad no debería exigir una cuenta de pago o un dispositivo personal si esos requisitos no son necesarios para el aprendizaje evaluado. El centro puede proporcionar acceso autorizado, preparar un ejemplo para analizar en clase o permitir una alternativa equivalente. La elección debe considerar el coste, las necesidades de apoyo, la edad y la posibilidad de participar sin entregar información privada.
Comprobación práctica antes de usar una herramienta
| Pregunta | Qué revisar | Respuesta prudente si no está claro |
|---|---|---|
| ¿Está aprobada? | La autorización y el propósito definido por el centro. | No introducir datos del alumnado hasta recibir indicaciones institucionales. |
| ¿Qué datos recoge? | Tipos de información, conservación, eliminación y uso para entrenamiento. | Usar datos ficticios o una alternativa que no exija compartirlos. |
| ¿Quién responde? | Funciones del centro, proveedor y responsable de protección de datos. | Consultar al responsable antes de tratar información identificable. |
| ¿Puede participar todo el grupo? | Acceso, coste, edad, accesibilidad y posibilidad de no usar una cuenta personal. | Ofrecer una actividad equivalente sin cuenta ni carga de información privada. |
Detectores de IA: una señal incierta, no una prueba de autoría
Los detectores clasifican textos mediante patrones estadísticos y pueden producir falsos positivos y falsos negativos. Su puntuación no establece quién escribió un texto ni prueba una infracción. La detección de similitudes con textos existentes tampoco es lo mismo que detectar autoría: cada método responde a una pregunta distinta.
Un estudio de 2023 de Liang y colaboradores evaluó siete detectores con muestras concretas de ensayos en inglés. El equipo observó falsos positivos frecuentes en los ensayos TOEFL estudiados y mostró que cambios lingüísticos podían alterar la clasificación. El resultado describe esos detectores, muestras y condiciones de investigación; no mide el rendimiento de todas las herramientas actuales ni permite predecir una tasa para un grupo o idioma distinto.
La Universidad de Nebraska–Lincoln desaconseja usar los detectores disponibles para validar por sí solos el trabajo estudiantil y destaca riesgos de error. Si surge una duda, el docente debe seguir el procedimiento institucional, escuchar al estudiante y valorar pruebas pertinentes, como borradores que formen parte normal de la tarea, fuentes utilizadas o una explicación de decisiones. No subas trabajos a un servicio no aprobado y no impongas una sanción automática a partir de una puntuación.
Una conversación respetuosa permite que el estudiante explique cómo desarrolló el trabajo y responda a una preocupación concreta. El docente debe distinguir entre una señal estadística y una prueba pertinente, y aplicar el procedimiento académico del centro. Esta cautela protege tanto la integridad académica como la equidad: una clasificación automatizada, por sí sola, no demuestra autoría ni intención.
Verificar afirmaciones, fuentes y resultados
El alumnado y el docente pueden comprobar una respuesta con un procedimiento sencillo: separar las afirmaciones verificables, localizar la fuente original, confirmar autoría y fecha, y comprobar que el documento respalda exactamente lo que se afirma. Para un dato científico, conviene revisar el estudio o la institución responsable; para una norma, el texto oficial y su jurisdicción. Una referencia que parece completa también puede ser inventada: el título, el autor y el identificador deben confirmarse en el registro original.
Cuando una decisión dependa de un cálculo, vuelve a hacerlo con un método adecuado. Si una herramienta sugiere código, revísalo y pruébalo en un entorno seguro, con datos de prueba y sin ejecutar instrucciones desconocidas sobre archivos personales. Si la respuesta incorpora búsqueda o recuperación de documentos, abre los documentos citados y comprueba que la frase refleja su contenido y su alcance.
El número de fuentes necesarias depende de la importancia de la afirmación y de la calidad de la fuente primaria. Una segunda fuente verdaderamente independiente puede servir para contrastar un dato relevante, pero varias páginas que repiten la misma afirmación no equivalen a verificaciones independientes. Si los documentos no resuelven una cuestión, conserva la incertidumbre en lugar de rellenarla con una respuesta convincente.
La verificación también debe ajustarse al tipo de afirmación. Una definición del curso se contrasta con el material docente pertinente; un dato científico, con el estudio o la institución responsable; una norma, con el texto oficial que corresponda a la jurisdicción. Comprobar solo el título de una fuente no basta: hay que confirmar que su contenido respalda la frase completa y sus condiciones.
Rutina de comprobación para una afirmación importante
- 01Escribe la afirmación concreta que se quiere comprobar; evita verificar una respuesta entera como si todas sus partes tuvieran el mismo respaldo.
- 02Busca el documento original o una fuente institucional competente y confirma autoría, fecha, contexto y mercado o jurisdicción aplicables.
- 03Comprueba que la fuente respalda la afirmación completa, incluidas las condiciones y límites relevantes.
- 04Repite cálculos o pruebas técnicas con un método apropiado y seguro.
- 05Registra qué se confirma, qué se corrige y qué sigue sin resolverse.
Lista de comprobación antes de asignar una tarea
Antes de publicar una actividad, el docente puede revisar si el objetivo de aprendizaje está formulado con claridad; si el uso de IA está definido para esa tarea; si el alumnado dispone de una alternativa accesible; y si las herramientas y los datos están autorizados por el centro. También debe comprobar que las instrucciones explican cómo declarar el uso, qué fuentes deben contrastarse y cómo se evaluará el trabajo.
Después, conviene verificar que la rúbrica mide el razonamiento o la destreza que se pretende enseñar y que no depende de una puntuación de detector. Si se pide una evidencia del proceso, debe ser pertinente, proporcional y conocida de antemano. Una política también necesita una vía para resolver dudas sin presuponer mala fe.
Para empezar, el docente puede rediseñar una sola tarea y observar si las evidencias solicitadas permiten comprender mejor lo que el alumnado sabe hacer. La revisión debe atender a la calidad del aprendizaje observado, al acceso, a la privacidad y a las dificultades que aparezcan; ninguna herramienta sustituye ese juicio pedagógico.
El alumnado también puede usar la política como guía antes de entregar: comprobar qué usos están permitidos, declarar la asistencia requerida, revisar las afirmaciones y citar las fuentes originales. Si una instrucción no queda clara o una modalidad crea una barrera de acceso, conviene preguntar al docente con antelación y solicitar una alternativa equivalente.
Lista final para preparar una tarea
| Comprobación | Sí / no |
|---|---|
| El objetivo de aprendizaje está claro y se puede demostrar. | |
| La política especifica qué usos de IA permite o limita esta tarea. | |
| Existe una alternativa accesible sin cuenta personal ni carga de datos privados. | |
| Las herramientas y el tratamiento de datos están aprobados por el centro. | |
| La rúbrica valora aprendizaje, fuentes, razonamiento y revisión crítica. | |
| El alumnado sabe cómo declarar el uso y cómo pedir ayuda. | |
| Un detector no se utiliza como prueba única ni como veredicto. |
Continúa explorando
Fuentes consultadas
Correcciones y transparencia
Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.
Proponer una corrección