Objetivo: interpretar evidencia sin confundir una puntuación alta con seguridad universal. “De frontera” suele referirse a modelos cercanos al límite de capacidades disponibles en un momento. No es una etiqueta permanente, un umbral universal único ni prueba de inteligencia humana. Las definiciones legales pueden tener criterios específicos.

Qué intentan medir las empresas

Capacidades: lenguaje, razonamiento, matemática, programación y herramientas. Fiabilidad: consistencia, resistencia a cambios y afirmaciones sin respaldo en tareas definidas. Seguridad: salidas perjudiciales, filtración de datos, trato injusto, uso indebido y fallos en condiciones adversarias. Algunas evaluaciones estudian capacidades peligrosas bajo control; en el curso se interpreta evidencia, no se reproducen pruebas dañinas.

Se combinan benchmarks automatizados, tareas de expertos, revisión humana y evaluación mediante otros modelos. Un juez automático permite escala, pero tiene errores y sesgos propios; su puntuación necesita validación. Los evaluadores humanos también requieren criterios y revisión de desacuerdos. Ningún método cubre todas las propiedades relevantes.

Red teaming y evaluación externa

Los equipos de red teaming buscan fallos deliberadamente con solicitudes o procesos difíciles. Descubren debilidades que pueden pasar inadvertidas en pruebas ordinarias. Sus resultados no estiman automáticamente la frecuencia del fallo en usos cotidianos. Expertos externos amplían la revisión, pero importan independencia, acceso, cobertura y libertad para publicar. “Probado externamente” no equivale a una auditoría independiente sin restricciones.

Las empresas pueden modificar entrenamiento, filtros, permisos de herramientas o condiciones de lanzamiento a partir de los resultados. El monitoreo y la respuesta a incidentes posteriores abordan problemas de implementación. Reducen riesgos concretos; aprobar pruebas no cubre todas las situaciones futuras. El índice de fichas de sistemas de Anthropic y su información de transparencia ejemplifican documentación publicada, no garantías independientes.

La documentación de seguridad de frontera de Google DeepMind describe evaluaciones de capacidades y planificación de mitigaciones, con informes y fichas. Compara alcance, umbrales y límites entre empresas; pruebas con nombres similares no necesariamente son equivalentes. La documentación empresarial es evidencia para examinar, no una certificación independiente.

Leer las condiciones detrás de una cifra

Pregunta qué versión se evaluó, en qué tareas, con cuáles solicitudes, herramientas y presupuesto de cómputo. ¿Podría el benchmark haber aparecido en entrenamiento? ¿Representa las lenguas y experiencias de la escuela? ¿El promedio oculta diferencias? ¿Cuántos casos hubo y qué incertidumbres o fallos se informan? Resultados de configuraciones distintas pueden no ser comparables.

Una comparación ficticia

A obtiene 90% en 100 preguntas breves en inglés con calculadora. B obtiene 86% en 500 explicaciones multilingües sin herramientas. Estas cifras inventadas no establecen cuál conviene para retroalimentar en un aula concreta. Compara la misma tarea, condiciones y pauta. Examina errores y consecuencias, no solamente promedios.

De la ficha técnica a la decisión escolar

Prepara tareas ficticias representativas; define éxito y errores inaceptables antes de probar. Compara con un proceso apropiado sin IA. Revisa lenguas y necesidades de accesibilidad relevantes, documenta límites y asigna supervisión humana. Un piloto escolar complementa la evidencia del proveedor; no reemplaza su evaluación de seguridad más amplia.