Dilemas éticos sobre IA en México

A) Escenario

En sexto de primaria de una escuela pública de Puebla, el grupo resuelve problemas de consumo de agua. Daniela usa el celular compartido de su familia para pedir a una IA todas las respuestas y entrega resultados correctos, pero no puede explicar el procedimiento. Otro alumno utiliza la misma herramienta para pedir pistas. La maestra debe decidir cómo valorar el aprendizaje sin castigar a quien necesita apoyo ni premiar únicamente la presentación.

B) El dilema

¿Cómo permitimos el apoyo de la IA sin dejar que reemplace el aprendizaje que la tarea busca desarrollar?

C) Roles

Estudiante, docente, padre o madre, directivo escolar, compañero/a que tuvo dificultades, diseñador/a de la herramienta

F) Lentes éticos

Agencia (extensión vs. reemplazo), integridad del aprendizaje, equidad (acceso), cultura de confianza

D) Preguntas para debatir

• ¿Cuál es aquí el propósito de la tarea: practicar, comprobar comprensión, responsabilidad, confianza?
• ¿Cuándo la ayuda se convierte en reemplazo?
• ¿Una “respuesta perfecta” es evidencia de aprendizaje? ¿Qué contaría como evidencia en su lugar?
• ¿Las reglas deberían ser diferentes para distintos estudiantes (por ejemplo, apoyo lingüístico)?
• ¿Cómo podría rediseñarse la tarea para que la ayuda de la IA fortalezca el aprendizaje?

E) Opciones con sus compensaciones

G) Tarea de cierre

Redactar un Acuerdo de Tareas de la Clase con 3 categorías:

• Uso de IA permitido y recomendado
• Permitido con registro de aprendizaje
• No permitido porque reemplaza el objetivo

H) Extensión

Cambie el escenario: un estudiante usa IA debido a dislexia o porque está aprendiendo el idioma. ¿Cambia su política?

A) Escenario

En quinto de primaria en Mérida, durante una actividad dirigida por la maestra, un niño escribe en la cuenta del aula que hay conflictos en casa y que no puede dormir. Incluye su nombre y dirección. La IA responde con mensajes tranquilizadores; el historial queda guardado por el proveedor. La maestra se pregunta cómo ofrecer apoyo y contener la exposición de datos sin revisar indiscriminadamente todas las conversaciones del grupo.

B) El dilema

¿Cómo protegemos el bienestar y la seguridad de los estudiantes sin convertir el uso de la IA en vigilancia?

C) Roles

Estudiante, docente, padre o madre, responsable de protección, orientador/a escolar, compañero/a

F) Lentes éticos

Privacidad y seguridad, bienestar, transparencia, responsabilidad

D) Preguntas para debatir

• ¿Qué cosas los estudiantes nunca deberían compartir con herramientas de IA? ¿Por qué?
• ¿Cuál es la responsabilidad del docente cuando aparece información sensible?
• ¿Los estudiantes deberían esperar privacidad en las herramientas escolares de IA?
• ¿Cómo podemos mantener la confianza y al mismo tiempo garantizar la seguridad?
• ¿Qué debería comunicar la escuela a las familias?

E) Opciones con sus compensaciones

G) Tarea de cierre

Crear un póster de “Uso seguro de la IA” con 5 cosas que nunca deben compartirse y 3 pasos a seguir si uno se siente angustiado o inseguro.

H) Extensión

¿Qué cambia en Secundaria, donde los estudiantes usan IA con mayor independencia?

A) Escenario

En una telesecundaria de Oaxaca, un equipo prepara un proyecto sobre la milpa. Una alumna con suscripción de pago genera imágenes y diapositivas; un compañero comparte teléfono con sus hermanos y otro aporta entrevistas en una lengua indígena de la comunidad. La presentación final solo reconoce el trabajo digital. El docente debe evaluar aportaciones, aprendizaje y acceso, sin confundir conectividad con esfuerzo.

B) El dilema

¿Cómo protegemos la equidad y la colaboración cuando la IA crea ventajas desiguales dentro del mismo grupo?

C) Roles

Usuario de IA con alta habilidad, estudiante con bajo acceso, docente, padre o madre, líder del grupo, directivo escolar

F) Lentes éticos

Equidad, integridad del aprendizaje, transparencia, agencia, gobernanza (política de acceso)

D) Preguntas para debatir

• ¿Esto es injusto — o simplemente un nuevo tipo de habilidad?
• ¿Qué debería significar la colaboración cuando hay IA de por medio?
• ¿Cómo puede el docente evaluar el aprendizaje de manera justa?
• ¿Las escuelas deberían proporcionar acceso igualitario a herramientas de IA para los proyectos?
• ¿Cómo sería una “colaboración responsable con IA”?

E) Opciones con sus compensaciones

G) Tarea de cierre

Redactar una Carta de uso de IA en trabajos grupales con expectativas de acceso, rotación de roles y normas de transparencia.

H) Extensión

¿Qué pasa si las imágenes generadas por IA se parecen a obras con copyright o al estilo de un artista vivo?

A) Escenario

En una secundaria de Veracruz, un equipo investiga el agua de su comunidad. Una IA inventa una referencia atribuida a una autoridad sanitaria y afirma que el agua analizada es segura. El grupo quiere publicar la conclusión en la feria de ciencias, aunque no tiene resultados de laboratorio. La docente debe decidir cómo corregir y enseñar verificación sin desanimar la investigación.

B) El dilema

¿Cómo usamos la IA como herramienta de aprendizaje sin convertirla en una autoridad?

C) Roles

Estudiante, docente, compañero/a, padre o madre, bibliotecario/a o responsable de alfabetización mediática

F) Lentes éticos

Seguridad, transparencia, integridad del aprendizaje, agencia

D) Preguntas para debatir

• ¿Por qué la gente cree explicaciones dichas con seguridad?
• ¿Qué cuenta como evidencia en ciencias/historia/etc.?
• ¿Qué deberían hacer los estudiantes antes de confiar en una afirmación de la IA?
• ¿Cómo deberían responder los docentes: sancionar, corregir o enseñar verificación?
• ¿Cómo pueden las tareas exigir rastreo de evidencias?

E) Opciones con sus compensaciones

G) Tarea de cierre

Introducir una lista de verificación Afirmación–Evidencia–Fuente y pedir a los estudiantes que rehagan un párrafo con fuentes verificadas.

H) Extensión

¿Qué cambia si el tema es salud, autolesión o experimentos peligrosos?

A) Escenario

En un bachillerato público del Estado de México, un detector marca el ensayo de José como probablemente generado por IA. Él presenta apuntes, borradores y puede explicar su argumento; había usado un corrector autorizado para revisar español. La profesora considera anular la calificación, pero el reglamento no explica el uso de detectores ni cómo solicitar revisión. La familia pide que se escuche al estudiante antes de decidir.

B) El dilema

¿Cómo pueden las escuelas sostener estándares académicos sin socavar la confianza y la equidad mediante una detección poco fiable?

C) Roles

Estudiante, docente, directivo escolar, padre o madre, coordinador/a académico/a, responsable de TI

F) Lentes éticos

Confianza, transparencia, integridad pedagógica, responsabilidad/gobernanza, equidad

D) Preguntas para debatir

• ¿Qué cuenta como evidencia aceptable en un caso de integridad académica?
• ¿Los resultados de detección deberían tratarse alguna vez como prueba?
• ¿Qué rediseño de la evaluación reduce la necesidad de detección?
• ¿Cómo podemos proteger tanto la equidad como el rigor?
• ¿Cómo sería el debido proceso en un contexto escolar?

E) Opciones con sus compensaciones

G) Tarea de cierre

Redactar un Proceso de Integridad Académica: qué evidencia es válida, cuáles son los derechos de los estudiantes y cuáles son las responsabilidades de los docentes.

H) Extensión

¿Qué pasa si un estudiante usó IA como apoyo lingüístico pero escribió las ideas por sí mismo?

A) Escenario

Un bachillerato particular de Monterrey ofrece un chatbot de bienestar. Sofía le cuenta que se siente aislada y que teme pedir ayuda; cree que la conversación es confidencial. El proveedor conserva los mensajes y ofrece a la dirección un tablero de riesgo. La orientadora solo está disponible algunos días. La comunidad debe decidir si mantener la herramienta, con qué límites y cómo asegurar apoyo humano oportuno.

B) El dilema

¿Cómo respetamos la autonomía y la privacidad del estudiante mientras garantizamos la protección y un apoyo humano saludable?

C) Roles

Estudiante, amigo/a, docente, orientador/a, padre o madre, directivo escolar

F) Lentes éticos

Bienestar, seguridad, transparencia, responsabilidad, relaciones humanas

D) Preguntas para debatir

• ¿Cuándo el apoyo de la IA es útil y cuándo se vuelve riesgoso?
• ¿Qué límites deberían enseñar las escuelas sobre la dependencia emocional de la IA?
• ¿Cuál es el deber de cuidado de la escuela cuando surge una preocupación?
• ¿Cómo intervenimos sin vergüenza ni pánico moral?
• ¿Qué deberían aprender los estudiantes sobre buscar ayuda humana?

E) Opciones con sus compensaciones

G) Tarea de cierre

Crear una Escalera de Apoyo para estudiantes: en qué puede ayudar la IA, cuándo ayudan los pares, cuándo ayudan los adultos y qué pasos de emergencia existen.

H) Extensión

¿Qué cambia para estudiantes de Secundaria? ¿Qué papel deberían tener las familias?

Escenario

En una simulación de secundaria en Querétaro, un vehículo autónomo lleva a una familia cerca de una escuela en una noche lluviosa. Un camión bloquea la vía y el sistema debe elegir entre frenar, dirigirse a una barrera o invadir una ciclovía. El grupo analiza riesgos para pasajeros, ciclistas y peatones, así como la responsabilidad del fabricante y de quien opera el vehículo. No se describe un servicio real.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Debería diseñarse alguna vez una máquina para elegir entre daños? ¿O eso es inevitable?
• ¿Es ético priorizar a los pasajeros porque “consintieron” al subir al auto?
• ¿Debería haber un estándar global o diferencias culturales en ética?
• Cuando una IA toma una decisión, ¿quién es responsable: el conductor, la empresa, el programador, el gobierno?
• ¿Qué debería ser transparente para el público?

Tarea de cierre

Redactar una regla de política pública (5 líneas) sobre cómo deben comportarse los vehículos autónomos y qué deben informar.

Extensión

¿Qué cambia si el ciclista es un niño? ¿O si el pasajero es un niño?

Escenario

En una feria de ciencias de una secundaria de Guadalajara, una familia propone gafas con IA que identifican rostros y muestran perfiles de redes sociales. Serían útiles para reconocer visitantes, pero también identificarían a menores y acompañantes que nunca aceptaron participar. El comité organizador debe decidir si autoriza la demostración o utiliza rostros sintéticos.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Se puede consentir de manera real ser escaneado en público?
• ¿Quién sale más perjudicado cuando desaparece el anonimato?
• ¿Cuál es la diferencia entre ver una cara y conocer una identidad completa?
• ¿Quién controla la base de datos? ¿Pueden corregirse los errores?
• ¿El valor por defecto debería ser “apagado” salvo consentimiento?

Tarea de cierre

Diseñar 3 requisitos de producto para reducir daños.

Extensión

¿Qué pasa si las gafas identifican erróneamente a alguien como criminal?

Escenario

Una alumna de primaria en Chihuahua usa el asistente de voz familiar para practicar una exposición. El dispositivo también conserva conversaciones de sus hermanos y de una compañera invitada. La familia aprecia los recordatorios, pero descubre que parte del audio puede utilizarse para mejorar el servicio. La maestra propone discutir qué se comparte al hacer tareas con el micrófono encendido.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Los niños consienten de forma real ser grabados en casa?
• ¿Ahorrar tiempo justifica la recolección constante de datos?
• ¿Quién es dueño de las grabaciones?
• ¿Cómo podría rediseñarse el producto para proteger a los niños?
• ¿Qué debería informarse claramente a las familias antes de comprar?

Tarea de cierre

Escribir 5 reglas familiares para el uso seguro de asistentes de voz y 3 requisitos de producto que exigirían a una empresa.

Extensión

¿Qué cambia si se graba a una visita sin que lo sepa?

Escenario

En una secundaria de Chiapas, el grupo prepara un mural digital sobre identidad. Una aplicación de IA aclara la piel y modifica los rasgos de varias fotografías. Algunos estudiantes prefieren la versión editada; otros sienten que comunica que sus rasgos son menos valiosos. El grupo debe decidir qué publicar y cómo respetar a quienes no quieren que se suba su imagen.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Una cara filtrada miente, es creatividad o es otra cosa?
• ¿Quién se beneficia cuando todos se ven perfectos en línea?
• ¿Los filtros refuerzan sesgos?
• ¿Cuáles son los impactos a largo plazo sobre identidad y pertenencia?
• ¿Qué deberían transparentar las plataformas?

Tarea de cierre

Crear un “Acuerdo de filtros de IA” de la clase y 3 recomendaciones de diseño para plataformas.

Extensión

¿Qué cambia si el filtro también puede generar fotos completamente falsas?

Escenario

En el grupo de mensajería de un proyecto de secundaria en Toluca, Luis envía sin revisar una respuesta sugerida por IA. Una compañera la interpreta como burla hacia su forma de hablar. La captura circula entre otros grupos y Luis dice que la frase la escribió la aplicación. El equipo debe acordar cómo reparar el daño y quién responde por lo enviado.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Es justo culpar a la IA por un mensaje dañino?
• ¿Cómo moldean las decisiones los nudges de diseño?
• ¿Las sugerencias de IA deberían estar activadas por defecto para menores?
• ¿Cómo sería una mensajería responsable?
• ¿Cómo deberían responder las escuelas cuando ocurre un daño?

Tarea de cierre

Escribir una lista de verificación para mensajería responsable con IA y una norma de clase para reparar el daño cuando los mensajes salen mal.

Extensión

¿Qué cambia si las sugerencias están optimizadas para generar interacción y no amabilidad?

Escenario

Una primaria de Aguascalientes organiza un concurso de carteles para el cuidado del agua. Una alumna presenta una imagen generada con IA y otra un dibujo hecho a mano. Las bases no especificaron herramientas permitidas. Además, el cartel digital reproduce un personaje conocido. El jurado debe decidir cómo reconocer el proceso creativo y revisar derechos sin cambiar las reglas injustamente al final.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Qué cuenta como crear en el arte con IA?
• ¿Cómo debería funcionar la atribución?
• ¿Es ético imitar el estilo de un artista vivo?
• ¿Qué debería premiarse: proceso, originalidad, esfuerzo, impacto?
• ¿Cómo mantenemos los concursos alineados con los objetivos de aprendizaje?

Tarea de cierre

Escribir reglas de concurso que definan categorías, requisitos de transparencia y criterios que enfaticen proceso e intención.

Extensión

¿Qué pasa si la obra hecha con IA se parece mucho al estilo característico de un artista vivo?

Escenario

En una secundaria de la periferia de Ciudad de México, el alumnado observa en un ejercicio hipotético que una app envía autos por la calle de acceso al plantel para ahorrar minutos. Familias que caminan y estudiantes que usan silla de ruedas enfrentan cruces más difíciles. El grupo propone medidas al consejo escolar y debate qué debe optimizar la aplicación.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Lo más rápido para mí es siempre lo ético?
• ¿Quién paga el costo de la optimización?
• ¿Los usuarios deberían ver las compensaciones que genera su ruta?
• ¿Cómo podría rediseñarse la app?
• ¿Quién debería decidir para qué optimiza la IA?

Tarea de cierre

Diseñar una función de navegación más ética: qué muestra, para qué optimiza y qué pueden elegir los usuarios.

Extensión

¿Qué pasa si los barrios con menos poder político son los más afectados?

Escenario

En un bachillerato de Sonora, un estudiante utiliza una aplicación de compañía cuando sus amistades no están disponibles. Empieza a dejar de asistir al taller escolar y a gastar sus recargas en conversar con el bot, que suele darle la razón. Sus amigos quieren ayudar, pero no desean invadir sus mensajes privados ni ridiculizarlo.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Una IA puede preocuparse por vos?
• ¿Cuándo un apoyo útil se vuelve una dependencia poco saludable?
• ¿Las empresas deberían optimizar el tiempo de uso en apps de compañía?
• ¿Qué relaciones humanas podrían verse desplazadas?
• ¿Qué responsabilidades deberían tener escuelas y familias?

Tarea de cierre

Crear una Escalera de Apoyo que muestre cuándo la IA puede ayudar y cuándo las personas son esenciales, más 3 resguardos de producto que exigirían.

Extensión

¿Qué pasa si la IA da consejos dañinos pero suena empática?

Escenario

En un ejercicio de orientación vocacional de un bachillerato tecnológico de Guanajuato, una empresa ficticia selecciona aspirantes a prácticas mediante IA. El filtro favorece ciertas escuelas, inglés avanzado y disponibilidad de tiempo completo. Una estudiante con buenas habilidades técnicas, que cuida a un familiar, queda fuera sin entrevista. El grupo compara eficiencia, criterios pertinentes y exclusión.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿La objetividad es posible si los datos de entrenamiento reflejan sesgos del pasado?
• ¿Los postulantes deberían tener derecho a saber que se usa IA?
• ¿Cómo sería una apelación significativa?
• ¿Los empleadores deberían ser responsables aunque la IA la provea un tercero?
• ¿Qué debería auditarse y publicarse?

Tarea de cierre

Escribir 5 reglas para una contratación ética con IA.

Extensión

¿Qué pasa si la IA es precisa en general pero aun así perjudica a un grupo minoritario?

Escenario

Una universidad mexicana ficticia propone usar IA para ordenar solicitudes. El modelo considera código postal, escuela de procedencia y actividades extracurriculares de pago. En un bachillerato rural, estudiantes temen quedar abajo pese a su desempeño. La universidad debe decidir si usa el modelo, cómo publica los criterios y cómo permite solicitar revisión.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Qué cuenta como mérito y quién lo define?
• ¿Los postulantes deberían poder cuestionar decisiones impulsadas por IA?
• ¿Es ético optimizar la tasa de éxito si eso reduce el acceso?
• ¿Qué datos nunca deberían usarse?
• ¿Cómo puede ser significativa la transparencia para las familias?

Tarea de cierre

Redactar una declaración de principios de admisión: qué nunca debe automatizarse, qué debe informarse y qué debe auditarse.

Extensión

¿Qué pasa si la IA mejora los resultados pero reduce la diversidad?

Escenario

En educación financiera de bachillerato en Jalisco, se analiza una app ficticia que niega un crédito para comprar una computadora a una persona adulta de la familia. Utilizó contactos y ubicación del teléfono, pero no explica cuáles influyeron. El grupo debate acceso al crédito, privacidad y discriminación por colonia.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Deberías tener derecho a una explicación en decisiones importantes?
• ¿La precisión alcanza si la equidad se ve afectada?
• ¿Cómo puede aparecer sesgo a través de variables sustitutas?
• ¿Quién es responsable: banco, proveedor, regulador?
• ¿Cómo sería un proceso de apelación justo?

Tarea de cierre

Escribir una política de derecho a explicación para decisiones con IA en finanzas o educación con 3 requisitos.

Extensión

¿Qué pasa si revelar el modelo hace más fácil engañar al sistema?

Escenario

En formación cívica de una secundaria de Morelos, se estudia una propuesta ficticia de vigilancia predictiva alrededor de escuelas. Un mapa señala reiteradamente las mismas colonias a partir de reportes policiales históricos. Las familias quieren seguridad, pero temen que se revise con mayor frecuencia a adolescentes de esos barrios.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Puede una IA ser neutral si los datos reflejan vigilancia policial sesgada?
• ¿Qué es un bucle de retroalimentación y por qué es peligroso?
• ¿Qué derechos deberían tener las comunidades para cuestionar estos sistemas?
• ¿La seguridad puede justificar un trato desigual?
• ¿Qué soluciones no basadas en IA podrían mejorar la seguridad?

Tarea de cierre

Redactar 5 condiciones que deban cumplirse antes de usar cualquier sistema de seguridad predictiva.

Extensión

¿Qué pasa si el sistema reduce el delito en general pero aumenta la desconfianza y el miedo?

Escenario

En un bachillerato de Nuevo León se analiza una aseguradora ficticia que calcula el costo de un seguro familiar con datos de movilidad y compras. Una familia paga más porque el modelo asocia sus trayectos con riesgo, aunque viaja así para llevar a sus hijos a la escuela. Nadie entiende qué datos podrían corregirse.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Cuándo la personalización se convierte en discriminación injusta?
• ¿Las personas deberían tener que “comportarse bien” para acceder a servicios?
• ¿Qué datos deberían estar prohibidos?
• ¿Quién puede verificar las afirmaciones de las empresas?
• ¿Cómo explicarías esto a los clientes en lenguaje claro?

Tarea de cierre

Escribir una propuesta de regulación de precios justos con 3 restricciones y 2 requisitos de transparencia.

Extensión

¿Qué pasa si la gente empieza a cambiar su conducta solo para engañar al sistema?

Escenario

En una secundaria de Baja California, varios estudiantes reciben videos alarmistas después de buscar información para un proyecto sobre migración. Cada grupo ve versiones distintas del mismo tema y el debate escolar se vuelve hostil. La plataforma prioriza el tiempo de visualización. La docente quiere enseñar contraste de fuentes sin imponer una sola opinión.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿La elección es real si los algoritmos manipulan la atención?
• ¿Cuál es la diferencia entre persuasión y manipulación?
• ¿Los menores deberían tener protecciones más fuertes?
• ¿Qué debería transparentarse?
• ¿Quién debería regular?

Tarea de cierre

Diseñar una política de feed saludable: 3 requisitos para la plataforma, 3 controles para el usuario y 2 resguardos para menores.

Extensión

¿Qué pasa si la transparencia revela secretos comerciales?

Escenario

En un bachillerato de Hidalgo circula un audio sintético que imita al director y anuncia la suspensión de clases por una amenaza. Algunas familias dejan de enviar a sus hijos. Se confirma que el audio era falso y el grupo debate cómo rectificar, frenar la difusión y distinguir una parodia de una suplantación dañina.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Cuál es el daño de los deepfakes más allá de las noticias falsas?
• ¿Quién debería ser responsable: creadores, plataformas, gobiernos?
• ¿Los deepfakes satíricos deberían tratarse distinto?
• ¿Qué protecciones deberían tener las personas afectadas?
• ¿Qué debería exigirse antes de compartir?

Tarea de cierre

Escribir una Carta de Compartir Responsable para estudiantes y una propuesta de política de plataforma.

Extensión

¿Qué pasa si un deepfake apunta contra un estudiante de tu escuela?

Escenario

En un proyecto de bachillerato en Guerrero se simula un hospital que usa IA para priorizar pacientes. El sistema interpreta peor las respuestas de una persona que requiere intérprete de lengua indígena. El personal puede corregir la prioridad, pero hacerlo retrasa la atención de otras personas. El grupo debate responsabilidad y acceso equitativo, sin emitir diagnósticos.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿La precisión general es suficiente si algunos grupos salen perjudicados?
• ¿Cómo sería una supervisión significativa en contextos de alta presión?
• ¿Quién debería ser responsable?
• ¿Qué transparencia deberían tener los pacientes?
• ¿Qué evidencia de auditoría debería exigirse?

Tarea de cierre

Crear un conjunto de reglas de intervención humana para IA de triaje: cuándo usarla, cuándo anularla, qué registrar y qué auditar.

Extensión

¿Qué pasa si la IA reduce las muertes en general pero aun así produce daños desiguales?

Escenario

En un modelo escolar de Naciones Unidas de un bachillerato mexicano, una delegación ficticia propone armas que seleccionan objetivos sin intervención humana directa. Otras delegaciones piden control humano y rendición de cuentas por daños a civiles. El grupo representa posiciones para analizar límites éticos, sin atribuir a México un despliegue o una posición diplomática no documentada.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Un algoritmo puede emitir un juicio moral sobre la vida y la muerte?
• ¿La precisión justifica la automatización?
• ¿Quién es responsable si mueren civiles?
• ¿Cómo podrían las armas autónomas cambiar los incentivos para la guerra?
• ¿Qué tipo de gobernanza internacional es realista?

Tarea de cierre

Redactar una propuesta de tratado internacional de 6 puntos sobre armas autónomas.

Extensión

¿Qué pasa si tu país es el único que las prohíbe?

Escenario

Un bachillerato de Ciudad de México debate una propuesta ficticia de conectar cámaras públicas con reconocimiento facial. Se promete mayor seguridad en los trayectos escolares, pero también sería posible identificar a quienes asisten a reuniones o manifestaciones. Las familias y estudiantes quieren saber quién tendría acceso, por cuánto tiempo y con qué controles.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿“No tengo nada que ocultar” es un argumento válido?
• ¿Qué es el efecto inhibitorio y por qué importa?
• ¿Quién es más vulnerable a los daños de la vigilancia?
• ¿Qué transparencia y apelación deberían existir?
• ¿Cuándo la seguridad justifica restringir derechos?

Tarea de cierre

Escribir una política de líneas rojas sobre vigilancia: qué nunca está permitido y qué supervisión es obligatoria.

Extensión

¿Qué pasa si la vigilancia evita un gran ataque?

Escenario

En una simulación de un bachillerato de Tabasco, un programa estatal ficticio de apoyos escolares usa IA para detectar duplicidades. Un error en la CURP marca a una alumna como sospechosa y retrasa el apoyo de transporte. La oficina pide documentos adicionales y no ofrece una vía clara para corregir el dato. El grupo debate cómo prevenir fraude sin excluir a familias elegibles.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Qué es peor: fraude de unos pocos o dificultades para muchas personas inocentes?
• ¿Qué derechos deberían tener los solicitantes?
• ¿Cómo puede aparecer sesgo a través de variables sustitutas?
• ¿Qué deberían informar públicamente los gobiernos?
• ¿Qué significa dignidad en sistemas automatizados?

Tarea de cierre

Redactar una política de IA centrada en la dignidad para beneficios sociales: 5 resguardos y un proceso obligatorio de apelación.

Extensión

¿Qué pasa si la IA ahorra dinero que puede ayudar a más personas pero genera algunos falsos positivos?

Escenario

En una secundaria de la costa de Veracruz, un proyecto analiza cómo asignar recursos hipotéticos contra inundaciones. Una IA prioriza zonas con inmuebles de mayor precio y deja atrás una escuela rural que también funciona como refugio. La comunidad discute si deben pesar más el valor económico, las vidas, la accesibilidad o la vulnerabilidad.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿El valor económico debería decidir quién recibe protección?
• ¿Cómo debería representarse la justicia en un algoritmo?
• ¿Quién decide las ponderaciones?
• ¿Qué transparencia debería existir?
• ¿Cómo incluimos a las generaciones futuras?

Tarea de cierre

Crear una propuesta de función objetivo ética: 4 factores que la IA debe incluir y cómo definirlos democráticamente.

Extensión

¿Qué pasa si la solución más justa salva menos personas en total?

Escenario

En un taller de bachillerato en Puebla, un tribunal ficticio utiliza una puntuación de IA para apoyar decisiones sobre medidas cautelares. El sistema considera domicilio y antecedentes del entorno, y la defensa no puede conocer cómo se calculó. El grupo simula una audiencia para discutir libertad, presunción de inocencia y motivación judicial.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿La IA debería influir alguna vez en decisiones sobre la libertad?
• ¿Qué exige el debido proceso cuando intervienen algoritmos?
• ¿Puede una persona cuestionar una puntuación que no entiende?
• ¿Quién es responsable si la puntuación está sesgada?
• ¿Qué evidencia debería exigirse antes de que un tribunal pueda usar un sistema así?

Tarea de cierre

Redactar una política judicial sobre decisiones asistidas por IA: qué está permitido, qué debe informarse y qué derechos deben tener los acusados.

Extensión

¿Qué pasa si la herramienta mejora la consistencia en general pero aun así perjudica más a un grupo que a otros?

Escenario

Una preparatoria particular de Querétaro considera cámaras que prometen inferir estrés y atención a partir del rostro y la voz. El proveedor ofrece alertas, pero no demuestra validez para el alumnado del plantel. Estudiantes neurodivergentes temen ser etiquetados; algunas familias apoyan la idea. La dirección debe decidir si compra el sistema o fortalece la orientación humana.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Puede medirse la emoción de manera confiable a partir de rostros o voces?
• ¿Quién tiene más probabilidades de ser malinterpretado?
• ¿Cuál es la diferencia entre apoyo y vigilancia?
• ¿Las escuelas deberían inferir estados mentales a partir de datos?
• ¿Qué consentimiento y transparencia serían necesarios?

Tarea de cierre

Redactar una declaración de política escolar sobre IA y datos emocionales: qué está prohibido, qué requiere consentimiento y qué resguardos humanos son esenciales.

Extensión

¿Qué pasa si los padres apoyan firmemente el sistema pero los estudiantes se oponen?

Escenario

Para una exposición de Día de Muertos en un bachillerato de Michoacán, un equipo quiere crear una réplica conversacional de una cantante local fallecida con grabaciones de sus actuaciones y mensajes privados aportados por una familia. Otras personas se oponen a que la simulación diga frases nuevas. El grupo debate memoria, duelo, derechos y autorización.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Quién debería controlar la identidad digital de una persona después de su muerte?
• ¿El consentimiento de la familia es suficiente?
• ¿Una réplica con IA puede ayudar en el duelo o corre el riesgo de atraparlo?
• ¿Algunos usos deberían permitirse y otros prohibirse?
• ¿Cómo sería un diseño respetuoso?

Tarea de cierre

Escribir un marco de dignidad y consentimiento para réplicas póstumas con IA: 5 reglas que una empresa debería seguir.

Extensión

¿Qué pasa si un estudiante quiere crear una réplica de un amigo fallecido como proyecto escolar?

Escenario

En una feria tecnológica de un bachillerato de Yucatán, un equipo analiza si una universidad ficticia debería publicar un modelo potente adaptado al español de México y a lenguas indígenas. Abrirlo facilitaría investigación y proyectos comunitarios, pero también usos fraudulentos; cerrarlo podría excluir a escuelas con pocos recursos. Debaten acceso, documentación de datos y publicación gradual.

Opciones (con sus compensaciones)

Preguntas para debatir

• ¿Quién debería decidir cuándo un modelo es demasiado riesgoso para liberarse abiertamente?
• ¿La concentración de poder es en sí misma un riesgo ético?
• ¿Se pueden proteger al mismo tiempo la transparencia y la seguridad?
• ¿Qué papel deberían tener las instituciones públicas?
• ¿Qué responsabilidades deben los desarrolladores de IA de frontera a la sociedad?

Tarea de cierre

Redactar un marco para la liberación de IA de frontera: quién evalúa el riesgo, qué evidencia se requiere, qué límites se aplican y qué responsabilidad pública es necesaria.

Extensión

¿Qué pasa si otro país libera primero un sistema similar de manera abierta?