Estándares – Impacto Ético y Social

Estándares de IA en Educación
Impacto Ético y Social

Propósito y alcance

Propósito
Garantizar que la IA se utilice de maneras que protejan la dignidad, promuevan la equidad, reduzcan el daño y fortalezcan una cultura de aprendizaje saludable.
Alcance
Se aplica a todo uso de IA vinculado con la escuela: actividades de aprendizaje, comunicaciones, planificación, retroalimentación, evaluación, toma de decisiones y apoyo en el hogar.

A. Estándares para estudiantes (ESI-STU)

ESI-STU-1.1 Uso respetuoso y no dañino
Estándar:
Los estudiantes usan IA de maneras que respetan la dignidad de los demás y no generan, solicitan ni comparten contenido degradante, acosador, de odio, sexual o deshumanizante.
Indicadores observables:
  • Las expectativas de IA en el aula/escuela prohíben explícitamente el acoso, el odio, la humillación y el daño dirigido.
  • Los estudiantes pueden explicar, con lenguaje apropiado para su edad, qué significa “uso dañino” y dar ejemplos.
  • Existen vías de reporte y los estudiantes pueden decir a quién informar si la IA produce contenido inapropiado.
ESI-STU-1.2 Conciencia básica sobre sesgo y error
Estándar:
Los estudiantes comprenden que la IA puede equivocarse o ser injusta y no debe tratarse como una autoridad incuestionable.
Indicadores observables:
  • Los estudiantes pueden mencionar al menos dos limitaciones (por ejemplo, “puede cometer errores”, “puede tener sesgos”).
  • Los docentes observan que los estudiantes cuestionan las respuestas en lugar de aceptarlas automáticamente en tareas simples.
ESI-STU-1.3 Honestidad básica sobre la asistencia de IA
Estándar:
Los estudiantes siguen las reglas del docente o de la escuela sobre cuándo se permite el uso de IA y no presentan como enteramente propio un trabajo generado por IA cuando se exige declaración de uso.
Indicadores observables:
  • Los estudiantes pueden describir cuándo la IA está permitida o no en al menos un contexto disciplinar.
  • Los casos de mal uso activan un proceso restaurativo de seguimiento, no solo castigo.
ESI-STU-2.1 La declaración como rutina
Estándar:
Los estudiantes declaran la asistencia de IA mediante un método simple y consistente, apropiado para la edad y la tarea (por ejemplo, “La IA me ayudó a hacer lluvia de ideas / revisar / traducir”).
Indicadores observables:
  • Se utiliza un formato estándar de declaración en las distintas materias, o bien está claramente definido por nivel/división.
  • Las muestras de trabajo estudiantil incluyen habitualmente breves notas sobre el uso de IA cuando este está permitido.
ESI-STU-2.2 Revisión de sesgo y perspectiva
Estándar:
En temas vinculados con personas, identidad, historia, conflicto o asuntos sensibles, los estudiantes aplican una revisión básica de sesgo/perspectiva antes de usar o compartir respuestas de IA.
Indicadores observables:
  • Los estudiantes usan una lista simple de verificación o preguntas (por ejemplo, “¿Quién falta aquí?”, “¿Esto podría reforzar un estereotipo?”).
  • Los docentes pueden señalar reflexiones estudiantiles que muestran conciencia sobre representación y equidad.
ESI-STU-2.3 Hábito de verificación frente a la desinformación
Estándar:
Los estudiantes verifican afirmaciones importantes antes de aceptar o compartir respuestas de IA y señalan apropiadamente la incertidumbre.
Indicadores observables:
  • Los estudiantes pueden mostrar al menos una acción de verificación (contrastar fuentes, comparar referencias, triangular información).
  • En presentaciones o trabajos, los estudiantes distinguen hechos, opiniones y afirmaciones inciertas.
ESI-STU-2.4 Respeto por el trabajo y la autoría de otros
Estándar:
Los estudiantes usan IA sin copiar, reconstruir ni apropiarse del trabajo de otros (compañeros/docentes/creadores) y siguen las expectativas de atribución.
Indicadores observables:
  • Los estudiantes pueden explicar qué cuenta como plagio y qué cuenta como asistencia aceptable.
  • La orientación escolar incluye ejemplos de trabajo apoyado por IA permitido y no permitido.
ESI-STU-3.1 Participación estudiantil en la definición de normas
Estándar:
Los estudiantes participan en la construcción y mejora de las normas de uso de IA mediante discusiones estructuradas, ejemplos y revisiones periódicas.
Indicadores observables:
  • La voz estudiantil queda documentada (acuerdos de aula, aportes del consejo estudiantil, instancias de retroalimentación).
  • Las normas se revisan al menos una vez por trimestre/semestre y se registran los ajustes realizados.
ESI-STU-3.2 Reflexión sobre dilemas éticos como aprendizaje
Estándar:
Los estudiantes participan en reflexiones éticas guiadas sobre dilemas reales vinculados con la IA (sesgo, deepfakes, persuasión, integridad, dependencia excesiva), conectados con el currículo y con la vida cotidiana.
Indicadores observables:
  • Las discusiones sobre dilemas aparecen en planificaciones de clase o en programas de tutoría/SEL.
  • Los estudiantes producen reflexiones breves que muestran razonamiento, no solo memorización de reglas.
ESI-STU-3.3 IA para el bien común (con salvaguardas)
Estándar:
Los estudiantes aplican IA en proyectos orientados a la comunidad, documentando salvaguardas éticas, pasos de verificación e impacto sobre los actores involucrados.
Indicadores observables:
  • Las rúbricas de proyecto incluyen criterios de ética y seguridad.
  • Los productos estudiantiles incluyen notas de “riesgo + mitigación” (por ejemplo, revisión de sesgos, consideraciones de consentimiento, controles de exactitud).

B. Estándares para familias (ESI-FAM)

ESI-FAM-1.1 Comprensión básica de los riesgos éticos
Estándar:
Las familias comprenden los riesgos éticos centrales (sesgo, desinformación, contenido dañino, manipulación) y las expectativas básicas de la escuela para el uso de IA.
Indicadores observables:
  • Las familias reciben un documento de orientación claro y accesible (página del manual, guía breve, video o webinar).
  • Las familias pueden identificar el punto de contacto de la escuela para preguntas o inquietudes.
ESI-FAM-1.2 Expectativas básicas en el hogar sobre respeto e integridad
Estándar:
Las familias refuerzan un uso respetuoso de la IA y la honestidad respecto del trabajo escolar, siguiendo las reglas de la escuela para el apoyo con IA.
Indicadores observables:
  • Las familias pueden expresar al menos dos expectativas del hogar alineadas con las normas de la escuela.
  • Los estudiantes informan mensajes consistentes entre el hogar y la escuela (mediante encuestas o seguimientos).
ESI-FAM-1.3 Iniciar conversaciones simples y regulares sobre IA
Estándar:
Las familias inician conversaciones simples con sus hijos sobre el uso de IA, centradas en el propósito, las emociones y la veracidad.
Indicadores observables:
  • Se proporciona a las familias, y estas utilizan, un pequeño conjunto de preguntas apropiadas para la edad.
  • Los estudiantes pueden recordar al menos una conversación en el hogar sobre el uso de IA (evidencia informal mediante chequeos de docentes/tutores o encuestas).
ESI-FAM-2.1 Diálogo familiar habitual sobre ética de la IA
Estándar:
Las familias mantienen conversaciones periódicas y prácticas sobre los impactos éticos y sociales de la IA, utilizando ejemplos reales del trabajo escolar y de la vida cotidiana.
Indicadores observables:
  • La escuela ofrece un ritmo simple de conversación (por ejemplo, consignas semanales o quincenales); las familias participan según su contexto.
  • Las familias pueden describir cómo conversan en casa sobre sesgo, desinformación o conducta respetuosa.
ESI-FAM-2.2 Acompañamiento para detectar sesgo y desinformación
Estándar:
Las familias orientan activamente a sus hijos para cuestionar las respuestas de la IA, detectar estereotipos y verificar afirmaciones importantes antes de compartirlas.
Indicadores observables:
  • Las familias usan preguntas orientadoras consistentes (“¿Podría estar mal?”, “¿Quién podría estar mal representado?”, “¿Qué deberíamos verificar?”).
  • Los estudiantes demuestran hábitos de verificación reforzados también en el hogar.
ESI-FAM-2.3 Normas del hogar alineadas con los estándares de la escuela
Estándar:
Las familias adoptan normas en el hogar alineadas con los principios de IA de la escuela (respeto, equidad, declaración, verificación, bienestar).
Indicadores observables:
  • Existe una plantilla de orientación para el hogar con normas recomendadas; las familias la adoptan o adaptan.
  • Se reduce la inconsistencia o el conflicto entre las expectativas del hogar y la escuela, según la retroalimentación recogida.
ESI-FAM-3.1 Acuerdo cocreado sobre “IA en casa”
Estándar:
Las familias cocrean un acuerdo familiar sobre IA, apropiado para la edad, que clarifica qué está permitido, qué requiere apoyo adulto y qué debe declararse o verificarse.
Indicadores observables:
  • Las familias cuentan con un acuerdo documentado, simple y no burocrático.
  • Los estudiantes pueden resumir los puntos clave del acuerdo.
ESI-FAM-3.2 Participación en el diálogo ético escolar
Estándar:
Las familias participan en el diálogo de la comunidad escolar (talleres, laboratorios de políticas, consultas) para mejorar normas compartidas y respuestas ante dilemas emergentes.
Indicadores observables:
  • Existen registros de asistencia o participación (eventos, encuestas, grupos de consulta).
  • La retroalimentación de las familias se traduce en actualizaciones visibles de la orientación o de la práctica.
ESI-FAM-3.3 Responsabilidad compartida por las normas de la comunidad
Estándar:
Las familias refuerzan normas éticas sobre IA más allá del hogar (grupos de pares, mensajería, redes sociales), apoyando una cultura comunitaria respetuosa y veraz.
Indicadores observables:
  • Las familias hacen referencia a las normas de la escuela al abordar incidentes en grupos o chats.
  • La escuela cuenta con un enfoque restaurativo consistente que las familias comprenden y apoyan.

C. Estándares para el personal escolar (ESI-PER)

ESI-PER-1.1 Ética profesional y deber de cuidado
Estándar:
El personal usa IA de maneras que protegen la dignidad del estudiante, previenen daños y sostienen la confianza; la IA no se utiliza para prácticas humillantes, coercitivas o deshumanizantes.
Indicadores observables:
  • La orientación para el personal aborda explícitamente la dignidad, la profesionalidad relacional y la prevención del daño.
  • El personal puede describir usos inaceptables (por ejemplo, mensajes que avergüenzan, manipulación, perfilado).
ESI-PER-1.2 Sin automatización no supervisada en decisiones de alto impacto
Estándar:
El personal no delega decisiones de alto impacto a la IA (resultados de calificación, decisiones disciplinarias, admisiones/selección, decisiones de dotación de personal) sin supervisión humana significativa y fundamento documentado.
Indicadores observables:
  • La política restringe explícitamente la toma automatizada de decisiones en contextos de alto impacto.
  • Cuando la IA se usa para apoyar una decisión, el personal puede mostrar notas de revisión y el juicio humano final.
ESI-PER-1.3 Conciencia sobre el riesgo de sesgo y discriminación
Estándar:
El personal reconoce los riesgos de sesgo en la IA y evita usar sus respuestas para inferir o juzgar características sensibles o para justificar un trato desigual.
Indicadores observables:
  • La formación del personal incluye escenarios de riesgo de sesgo y equidad relevantes para contextos escolares.
  • El personal puede identificar usos de “alerta roja” (perfilado, etiquetado, inferencias especulativas).
ESI-PER-2.1 Flujo de revisión documentado
Estándar:
Cuando la IA apoya la retroalimentación, el apoyo a la calificación, la comunicación o las recomendaciones, el personal aplica un flujo documentado: revisar → verificar → ajustar → registrar el fundamento.
Indicadores observables:
  • Existe un flujo simple y se utiliza consistentemente en los contextos pertinentes.
  • Los muestreos aleatorios muestran que los productos asistidos por IA fueron editados y revisados en términos de equidad, tono y precisión.
ESI-PER-2.2 Controles de equidad y no discriminación
Estándar:
El personal aplica controles de equidad para reducir impactos desiguales (lenguaje, tono, supuestos, recomendaciones), especialmente en grupos vulnerables.
Indicadores observables:
  • El personal usa listas de verificación o ejemplos para lenguaje inclusivo y detección de sesgos.
  • Las revisiones periódicas identifican y corrigen patrones que perjudican a determinados grupos.
ESI-PER-2.3 Transparencia con estudiantes y familias
Estándar:
El personal comunica claramente para qué se usa la IA, y para qué no, incluyendo límites, expectativas para los estudiantes y cómo plantear inquietudes.
Indicadores observables:
  • Existe orientación clara de cara al público (sección en el manual, comunicación a familias).
  • Estudiantes y familias pueden describir correctamente los límites clave en encuestas o grupos focales.
ESI-PER-2.4 Prioridad de la relación humana
Estándar:
El uso de IA fortalece, en lugar de reemplazar, las relaciones humanas; las comunicaciones sensibles y los contextos de alta emocionalidad se manejan con juicio y cuidado humano.
Indicadores observables:
  • La escuela desalienta mensajes sensibles totalmente automatizados (disciplina, bienestar, conflicto).
  • El personal demuestra tono relacional consistente y adecuación en sus comunicaciones.
ESI-PER-3.1 Revisión de casos éticos y práctica reflexiva
Estándar:
La escuela realiza revisiones periódicas de casos éticos (incidentes o dilemas reales) para mejorar el juicio, actualizar normas y fortalecer la capacidad del personal.
Indicadores observables:
  • Existe un espacio recurrente, trimestral o semestral, con aprendizajes y actualizaciones documentadas.
  • El personal puede referirse a cambios realizados a partir de las revisiones éticas.
ESI-PER-3.2 Codiseño de normas con estudiantes y familias
Estándar:
El personal codiseña normas de IA y prácticas de aprendizaje con estudiantes y familias, asegurando apropiación compartida y claridad entre distintos contextos.
Indicadores observables:
  • Se realizan sesiones de codiseño y sus resultados se publican o quedan visibles (normas actualizadas, ejemplos, preguntas frecuentes).
  • Se reduce la ambigüedad y disminuyen los patrones recurrentes de mal uso, según el seguimiento en el tiempo.
ESI-PER-3.3 Auditabilidad y responsabilidad
Estándar:
La escuela mantiene la responsabilidad sobre las prácticas apoyadas por IA mediante monitoreo periódico, decisiones documentadas y ciclos de mejora.
Indicadores observables:
  • La escuela puede presentar evidencia de monitoreo (muestreos, retroalimentación, análisis de incidentes).
  • Las actualizaciones de la orientación o de la formación son trazables a riesgos identificados o necesidades emergentes.