Ethics Hub • Herramientas para la toma de decisiones institucionales
Herramientas para la toma de decisiones institucionales
Recursos prácticos para que las escuelas adopten la inteligencia artificial de manera responsable, transparente y segura
Las decisiones institucionales vinculadas con el uso de inteligencia artificial no deberían quedar libradas al entusiasmo individual, a promesas comerciales ni a respuestas reactivas posteriores a un incidente. Esta página reúne herramientas prácticas para que los equipos directivos y el personal escolar puedan evaluar herramientas y usos pedagógicos de IA, desarrollar pilotos acotados y seguros, comunicarse con claridad con las familias y sostener mecanismos de supervisión y rendición de cuentas en el tiempo.
Estas herramientas buscan promover criterios consistentes en toda la institución, preservando al mismo tiempo el espacio necesario para la creatividad pedagógica y la autonomía profesional docente.
Accesos rápidos: selecciona la herramienta que necesites consultar.
Esta lista puede utilizarse antes de adoptar una herramienta, aprobar un nuevo caso de uso o ampliar una práctica ya existente. Resulta aplicable tanto a:
- Herramientas (aplicaciones, plataformas o funcionalidades), como a
- Actividades (por ejemplo, una secuencia o tarea pedagógica con apoyo de IA planificada por un docente)
- ¿Qué problema se busca resolver y por qué la IA aporta valor en este caso?
- ¿Cuál es el beneficio esperado: mejora en la calidad del aprendizaje, mayor equidad, reducción de carga, accesibilidad, personalización, seguridad?
- ¿Cómo se evidenciará el éxito en términos observables o medibles?
- ¿Quiénes utilizarán esta herramienta o actividad: estudiantes, docentes, familias, personal administrativo?
- ¿Para qué edades está pensada y qué grado de supervisión requiere?
- ¿Funciona adecuadamente en distintos idiomas, acentos, perfiles neurodiversos y dispositivos?
- ¿Qué datos se ingresan o generan (prompts, archivos, historiales, analíticas, identificadores)?
- ¿Se requieren datos personales o sensibles de estudiantes? Si es así, ¿es estrictamente necesario?
- ¿Dónde se almacenan los datos, durante cuánto tiempo y quién puede acceder a ellos?
- ¿Pueden eliminarse? ¿Se utilizan para entrenamiento o mejora del producto?
- ¿Qué tipos de resultados problemáticos podrían producirse (desinformación, contenido inapropiado, manipulación, indicaciones inseguras)?
- ¿Qué resguardos ofrece la herramienta (filtros, modo seguro, restricciones, mecanismos de reporte)?
- ¿Existe una vía clara de actuación ante incidentes vinculados con protección y cuidado?
- ¿La escuela puede explicar con claridad a estudiantes y familias cuándo y cómo se utiliza IA?
- ¿Las producciones asistidas por IA se identifican cuando corresponde?
- ¿Existe una explicación sencilla sobre los límites de la herramienta y la posibilidad de error?
- ¿Podrían producirse resultados desiguales o injustos para distintos grupos?
- ¿La herramienta genera ventajas diferenciales por acceso, capacidad de prompting o disponibilidad de funciones premium?
- ¿Hay mecanismos previstos para monitorear impactos desproporcionados?
- ¿Qué decisiones requieren siempre revisión humana (evaluación, agrupamientos, disciplina, bienestar, derivaciones)?
- ¿Quién es responsable por las decisiones influenciadas por IA?
- ¿Qué registros o evidencias respaldan la revisión de dichas decisiones?
- ¿La herramienta amplía el pensamiento del estudiante o lo reemplaza?
- ¿Qué evidencias de proceso se requerirán (borradores, reflexión, defensa oral, hitos de seguimiento)?
- ¿Cómo enseñará la institución el uso responsable de IA de forma explícita?
Un recorrido institucional replicable para orientar la adopción de cualquier herramienta de IA o caso de uso significativo.
- Declaración de propósito: “Utilizamos IA para ________, con el fin de ________.”
- Definir expresamente para qué no se utilizará la IA, especialmente en decisiones de alto impacto.
- Precisar edades, destinatarios y nivel de supervisión requerido.
Valorar el caso de uso en relación con privacidad y datos, protección, equidad, transparencia, integridad del aprendizaje y supervisión humana.
- Desarrollar el piloto con un número limitado de cursos, equipos o áreas.
- Establecer un plazo definido (por ejemplo, entre 4 y 8 semanas).
- Proveer orientaciones al personal, guiones de uso y reglas claras sobre datos que no deben ingresarse.
- Definir de antemano qué evidencias se recogerán.
Recoger información sobre:
- impacto en el aprendizaje y en la calidad del trabajo pedagógico
- impacto en la carga laboral docente
- efectos en la equidad (quiénes se beneficiaron y quiénes encontraron barreras)
- incidentes, errores o situaciones de riesgo
- percepción de estudiantes y familias (claridad, confianza, inquietudes)
Si se decide avanzar:
- actualizar lineamientos y propuestas de formación
- definir normas institucionales de uso
- elaborar comunicaciones transparentes para las familias
- formalizar requisitos de supervisión humana
- establecer una frecuencia de monitoreo institucional
- realizar revisiones periódicas o renovaciones anuales
- utilizar incidentes y aprendizajes para ajustar políticas
- seguir los cambios en herramientas, comportamientos y condiciones de uso
Despliega cualquier plantilla, cópiala y adapta los campos entre corchetes según tu contexto institucional.
AComunicación a las familias (nota de transparencia)Expandir
BAcuerdo de uso aceptable para estudiantes (IA)Expandir
CProtocolo de datos y privacidad para el personalExpandir
DRequisitos de supervisión humana (no negociables)Expandir
Esta sección busca ayudar al personal a pasar de la pregunta “¿podemos utilizar IA?” a una más pertinente: “¿cómo la utilizamos de manera responsable en este contexto?”
Caso de uso 1 — Apoyo para devoluciones y corrección
Usos adecuados: redactar comentarios de devolución, generar ejemplos de referencia, sugerir próximos pasos.
Resguardos:
- la versión final debe ser revisada por el docente
- evitar el uso de datos sensibles
- preservar la voz profesional del docente
- solicitar evidencias de proceso por parte del estudiante
Evitar:
- calificación automatizada sin revisión
- utilizar la IA como árbitro final en disputas o reclamaciones
Caso de uso 2 — Tutoría y práctica
Usos adecuados: tutoría basada en pistas, preguntas de práctica, recuperación activa, andamiajes adaptativos.
Resguardos:
- verificar la calidad del contenido
- utilizar configuraciones seguras
- establecer límites apropiados a la edad
- enseñar hábitos de verificación y contraste
Evitar:
- chat abierto sin delimitación para estudiantes pequeños
- dependencia de la IA en contextos de alto impacto
Caso de uso 3 — Chatbots de aula
Usos adecuados: preguntas frecuentes, apoyo con glosarios, aclaración de consignas, orientación de recursos.
Resguardos:
- identificar con claridad que se trata de un sistema de IA
- delimitar su alcance y propósito
- ofrecer siempre una vía para consultar a una persona
- monitorear errores y posibles desinformaciones
Evitar:
- presentarlo como fuente de autoridad final
- habilitar consejos personales
- utilizarlo para acompañamiento emocional o de bienestar
Caso de uso 4 — Analíticas de aprendizaje
Usos adecuados: detectar patrones que orienten apoyos, visibilizar carga de trabajo, apoyar decisiones de asignación de recursos.
Resguardos:
- no etiquetar estudiantes como “de alto riesgo” sin contexto ni revisión
- utilizar los resultados como insumo para la indagación humana, no como conclusión automática
Evitar:
- seguimiento automatizado con consecuencias disciplinarias
- puntajes opacos o no explicables
- perfilamiento invisible para estudiantes o familias
Caso de uso 5 — Generación de contenidos
Usos adecuados: redactar materiales, adaptar niveles de lectura, producir variantes, generar ejemplos o apoyos comunicacionales.
Resguardos:
- verificar precisión y calidad
- revisar sesgos, inclusión y adecuación cultural
- respetar derechos de autor y atribución
- evitar cargar materiales propietarios o confidenciales
Evitar:
- publicar contenidos sin revisión
- replicar recursos protegidos por copyright
- utilizar IA para imitar voces, identidades o estilos de forma engañosa