Revisión responsable de materiales generados por IA

¡Hola! En la lección anterior adaptaste un documento de estudio para que fuera más fácil de leer, recorrer y utilizar con tecnologías de apoyo. Ahora añadimos una dificultad: ¿qué cambia si el primer borrador lo ha creado una inteligencia artificial? La estructura y el contraste siguen importando, pero también debes comprobar afirmaciones, detectar supuestos sobre las personas y proteger los datos utilizados para generar el material.

Trabajaremos con una ficha breve para una persona adulta que está aprendiendo a guardar un archivo y encontrarlo después. El objetivo no es decidir si la IA «es buena o mala», sino disponer de una lista de control que te permita corregir, descartar o entregar un material concreto. Puedes dedicar unos 40–45 minutos a la lección, incluidos los recursos.

La revisión empieza antes de generar el borrador

Imagina que quieres pedir a una herramienta de IA: «Prepara una ficha para esta persona; adjunto su entrevista inicial y una captura de su ordenador». Aunque el resultado pudiera ser útil, ya habrías compartido información que quizá no era necesaria: preferencias personales, posibles datos sobre salud, nombres visibles en la pantalla o archivos privados.

La primera comprobación, por tanto, se hace sobre lo que introduces en la herramienta. Para obtener una ficha de práctica normalmente basta con describir la tarea y el formato deseado: «Crea un borrador de ficha para una persona adulta que practicará cómo guardar un archivo en una carpeta y volver a localizarlo. Incluye instrucciones breves y una forma de comprobar el resultado». Puedes usar un caso ficticio y adaptar después el borrador sin revelar una historia personal.

Antes de introducir cualquier dato real, pregúntate si es imprescindible, si la herramienta está autorizada para ese uso y qué condiciones rigen el tratamiento de la información. Quitar un nombre no siempre anonimiza un caso: una combinación de circunstancias, fechas y detalles poco comunes puede identificar a alguien. No subas diagnósticos, entrevistas, documentos de identidad, capturas con información privada ni trabajos personales a una herramienta externa sin las garantías y autorizaciones correspondientes. Si un encargo requiere tratar datos reales, sigue el procedimiento de protección de datos de tu organización o consulta a quien tenga esa responsabilidad; el consentimiento de la persona, por sí solo, no sustituye todas las demás garantías.

La política de la Agencia Española de Protección de Datos que sigue es un ejemplo de cómo una institución organiza sus propias precauciones, no una norma interna que debas aplicar literalmente en cualquier trabajo. Fíjate en dos ideas trasladables a tu práctica: reducir la exposición de información personal y exigir revisión humana de los resultados.

La protección de datos continúa después de generar la ficha. Antes de compartirla, revisa si la IA ha reproducido información del encargo en ejemplos, títulos, nombres de archivo, comentarios o metadatos del documento. Guarda y distribuye la versión final por los canales previstos, no mediante un enlace público creado por comodidad.

Un texto convincente todavía necesita pruebas

Supongamos que el borrador dice: «Todos los programas guardan automáticamente los documentos en Descargas». La frase es clara, pero puede ser falsa. Si una persona sigue esa instrucción y no encuentra su trabajo, el problema no es solo de redacción: la ficha habrá dificultado el aprendizaje.

La IA puede producir explicaciones fluidas sin haber comprobado la aplicación concreta que se utilizará. También puede inventar referencias o presentar como universal una instrucción que solo sirve para cierta versión. Por eso, contrasta las afirmaciones que sostienen la actividad: nombres de botones, pasos, requisitos, enlaces, definiciones y respuestas propuestas. Usa la aplicación real y documentación fiable y vigente cuando corresponda. Si no puedes verificar un paso, no lo presentes como hecho.

La guía de la UNESCO ayuda a entender por qué la apariencia de seguridad no basta. Lee solo los apartados señalados; el propósito aquí no es estudiar cómo se entrenan los modelos, sino reconocer los riesgos que afectan a una ficha educativa.

Para nuestra ficha, una corrección responsable sería: «Elige dónde guardar el archivo y anota el nombre que le has dado. Después, abre esa carpeta y comprueba que aparece». Antes de entregarla, verifica que esas acciones se pueden realizar en el programa que se empleará. Si la ficha cita una fuente, abre la fuente y comprueba que existe y respalda exactamente la afirmación; una referencia con aspecto formal no es una prueba por sí misma.

La exactitud incluye la utilidad pedagógica. Una ficha puede describir correctamente un menú y, sin embargo, no ayudar a alcanzar la meta. En este caso, la evidencia importante no es que la persona haya leído los pasos, sino que pueda guardar el archivo y recuperarlo.

Accesibilidad y sesgos: comprobar la experiencia, no la intención

Volvamos al borrador. Incluye una captura del botón que hay que pulsar, pero el texto solo dice «haz clic en el icono verde». Además, propone: «Si la persona tiene una discapacidad, pídele a alguien que realice los pasos por ella». Hay dos fallos diferentes. El primero hace depender la instrucción de ver un color y una imagen; el segundo presupone que la discapacidad impide practicar la tarea.

Puedes pedir a la IA que sugiera descripciones de imágenes, versiones en texto o instrucciones más claras. Esas propuestas son borradores, no certificados de accesibilidad. Revisa si la información esencial está escrita en el cuerpo de la ficha, si los encabezados son estructurales, si el orden de lectura tiene sentido y si la versión que recibirá la persona funciona con las formas de acceso que vaya a utilizar. Si produces subtítulos, transcripciones o texto alternativo con IA, comprueba que no omiten ni alteran instrucciones importantes.

El vídeo siguiente muestra las dos caras de esa posibilidad: una herramienta que ayuda a interpretar información y un error expresado con seguridad; más adelante se plantea el problema de los documentos vistosos que se leen mal con un lector de pantalla. Observa las demostraciones críticamente: que una IA pueda interpretar algo no demuestra que un documento sea accesible para una persona.

Para corregir nuestra ficha, sustituye «icono verde» por una instrucción que identifique la función y su ubicación comprobada en el programa. Si mantienes la captura, úsala como apoyo, no como única fuente de instrucciones. Y sustituye la indicación de que otra persona haga la tarea por opciones de apoyo que no retiren la decisión ni la práctica: una demostración inicial, pasos consultables o tiempo adicional, según lo que la persona prefiera y necesite.

Revisar sesgos no consiste únicamente en buscar palabras ofensivas. Pregúntate también qué presupone el material sobre la capacidad, la experiencia digital o la forma «normal» de aprender. Una ficha para adultos no debería adoptar un tono infantil; tampoco debería imponer una única forma de participar. Evita deducir apoyos a partir de una etiqueta diagnóstica. La pregunta útil es: «¿Qué barrera presenta esta actividad y qué opciones permiten realizarla con autonomía?».

Una lista de control para decidir si la ficha está lista

La lista siguiente reúne las cuatro dimensiones de revisión. En cada punto registra Sí, No o No procede, junto con una prueba breve: qué comprobaste, en qué versión del material y qué cambiaste. Un «Sí» sin comprobación puede ocultar el mismo problema que intentabas detectar.

No todas las incidencias tienen el mismo tratamiento. Si detectas exposición indebida de datos o una instrucción esencial sin verificar, detén la distribución y resuelve el problema antes de continuar. Si falta un encabezado estructural o una descripción útil de una imagen, corrige el archivo y vuelve a probar la versión final, no solo el borrador. Cuando los cuatro controles estén satisfechos, conserva una nota breve de la revisión: material y versión, fuentes o pruebas utilizadas, cambios realizados y cuestiones que deban confirmarse con la persona destinataria.

La IA puede acelerar la creación de una primera ficha. La responsabilidad profesional está en decidir qué parte merece permanecer, qué hay que rehacer y cuándo todavía no es seguro entregarla.

Una revisión completa de material generado con IA empieza por minimizar y proteger los datos de entrada; continúa con la verificación de la exactitud, la accesibilidad y los posibles sesgos; y termina probando el archivo que realmente se compartirá. La lista de control no sustituye tu criterio ni las preferencias de quien estudiará: te ayuda a convertir ambos en comprobaciones observables.

Con esto cerramos el módulo dedicado al diseño de materiales accesibles. En el siguiente comenzarás a enseñar tareas digitales, descomponiéndolas en pasos demostrables y apoyos que puedan retirarse progresivamente para favorecer la autonomía.