Al finalizar este módulo, podrás distinguir formas de transparencia y analizar un uso de IA considerando evidencias, poder y responsabilidad.

Por qué la transparencia es un problema

Los sistemas generativos pueden producir explicaciones fluidas mientras sigue siendo difícil interpretar el proceso detallado que produjo una respuesta. Conocer la instrucción o leer una justificación no revela necesariamente las causas internas reales. Trata la explicación generada como una afirmación para examinar, no como un registro garantizado del cálculo.

Declaración de uso

¿Se usó IA, quién la utilizó y para qué parte del trabajo? Declararlo hace visible la ayuda, pero no demuestra exactitud.

Procedencia

¿Qué fuentes, versiones y transformaciones contribuyeron? El rastro documental permite verificar, aunque puede ser incompleto.

Explicabilidad

¿Se pueden describir razones o procesos de manera comprensible y fiel? Un relato persuasivo sobre una decisión no basta.

Responsabilidad

¿Quién revisa, puede modificar el resultado y responde a un cuestionamiento? Necesita autoridad y tiempo reales para intervenir.

Los principios de IA explicable del NIST distinguen una explicación comprensible de otra que refleja fielmente el proceso del sistema. En el aula, preguntar «¿por qué?» es útil, pero no reemplaza comprobar evidencias.

Un dilema escolar

Un sistema de retroalimentación con IA recomienda apoyo adicional. Ofrece una explicación ordenada, pero la escuela no puede identificar los ejemplos o criterios utilizados. El estudiante afirma que el sistema interpretó mal una variedad lingüística. Publicar «se usó IA» resuelve solo la declaración de uso. Todavía hay que examinar el trabajo original, aplicar criterios defendibles y ofrecer una revisión humana capaz de cambiar la recomendación.

Mirar más allá de una respuesta

Importan los sesgos y la representación cuando los ejemplos privilegian idiomas, identidades o supuestos culturales. Importa el acceso cuando algunos estudiantes tienen herramientas premium y otros no. La privacidad abarca cargas innecesarias y reutilización incierta. Los medios sintéticos pueden engañar sobre quién habló o qué ocurrió. La dependencia institucional de un proveedor puede afectar costos, opciones y continuidad.

La IA también plantea preguntas sobre el trabajo humano detrás de los datos y servicios, la atribución a creadores y los recursos necesarios para operar sistemas. Evita cifras ambientales por consulta sin respaldo; pregunta si el uso aporta suficiente valor educativo para justificar sus costos. Son asuntos de deliberación colectiva, no solo de redacción de instrucciones.

Permitir que el proceso sea cuestionado

Para un borrador de bajo riesgo, registra propósito, entradas permitidas, comprobaciones y revisiones docentes. Para una recomendación con consecuencias importantes, exige evidencias más sólidas, revisión humana significativa y posibilidad de impugnación. Si no hay revisión adecuada, reduce el alcance o no uses la herramienta. La guía de UNESCO ofrece un marco centrado en las personas.

Una práctica transparente podría declarar: «La IA propuso el caso inicial. Comprobé los hechos, cambié la representación de los actores y conservé la responsabilidad por la tarea». Explica una contribución sin afirmar que se conoce por completo el modelo.