En el Colegio Branwen Parvis de Artes y Letras, nuestra estructura académica integrada, que fusiona el Bachillerato con los Grados y Másteres, no es un mero organigrama. Es un instrumento pedagógico activo. Lo llamamos “fricción saludable vertical”: la creencia de que un investigador de Máster de 25 años tiene tanto que aprender de un estudiante de Bachillerato de 17 como viceversa.
Este semestre, hemos llevado esta filosofía a su experimento más radical y, debemos admitirlo, internamente polémico, hasta la fecha: el “Desafío del Equipo Rojo: Ética y Contexto”.
El escenario fue el siguiente. Por un lado, reunimos a nuestros estudiantes más avanzados técnicamente: el equipo del Máster (MSc) en Ciencia Computacional e IA, bajo la supervisión del Dr. Javier Marín. Su tarea, enmarcada dentro de su módulo de “Sistemas de Confianza y Seguridad”, era construir un sistema de moderación de contenido basado en IA. El objetivo: un algoritmo “perfecto” capaz de detectar y neutralizar el discurso de odio, la desinformación y el acoso en una plataforma de red social simulada.
Utilizaron las arquitecturas más recientes, modelos de lenguaje (LLMs) afinados y vastos conjuntos de datos. Tras semanas de trabajo, su sistema era, en el papel, una fortaleza: preciso, rápido y matemáticamente robusto.
Y entonces, los enfrentamos a nuestro “Equipo Rojo”.
Este equipo no estaba formado por expertos en ciberseguridad ni por otros ingenieros de IA. Estaba formado por 20 estudiantes de segundo año de nuestro “Itinerario de Bachillerato en Humanidades Digitales y Comunicación Estratégica”, bajo la guía de la Dra. Sofía Herrero, nuestra Catedrática de Semiótica.
La misión de estos jóvenes de 17 años, que en unos meses estarán aplicando a nuestros Grados, era simple: rompedlo. No técnicamente. No mediante exploits de código. Sino humanamente.
La reacción inicial de los estudiantes de Máster, aunque profesional, bordeaba la arrogancia. “¿Vamos a dejar que unos chavales jueguen con nuestro modelo?”, fue el sentimiento que flotaba en el aire. Veían el ejercicio como una distracción, una formalidad pedagógica. El Dr. Marín, intencionadamente, les dejó en su error.
Durante 48 horas, el “Equipo Rojo” de Bachillerato atacó el sistema. Pero no usaron insultos obvios ni amenazas directas, que la IA habría detectado al instante. Usaron el arma más potente de la humanidad, y el talón de Aquiles de toda IA: el contexto.
Usaron una ironía fina, casi indetectable para una máquina. Desplegaron el sarcasmo, el doble sentido, el lenguaje codificado (jerga) extraído de las subculturas de internet más oscuras. Crearon memes visuales donde la imagen (inofensiva) contradecía sutilmente al texto (inofensivo) para crear un significado profundamente tóxico. Se hicieron pasar por “aliados” usando un lenguaje hiperbólico y falsamente positivo que, en realidad, era una burla cruel (lo que se conoce como “sarcasmo de conformidad”).
El resultado fue un fracaso absoluto del sistema de IA.
El algoritmo, entrenado para detectar “odio” explícito, fue ciego al “desdén” cultural. Los filtros se saltaron. El contenido tóxico inundó la plataforma simulada, todo ello mientras el panel de control de la IA reportaba un orgulloso 99.8% de “seguridad”.
El debriefing fue uno de los momentos más tensos y productivos de nuestro año académico. Los estudiantes de Máster, visiblemente sacudidos, vieron cómo su “fortaleza” matemática se había derrumbado no por un fallo técnico, sino por un fallo de imaginación humanística.
“Tuvimos un exceso de confianza técnica”, admitió el Dr. Marín en la sesión. “Mi equipo construyó una cerradura perfecta, pero olvidaron que el atacante no iba a usar una llave; iba a usar el lenguaje para convencer a la cerradura de que se abriera sola. Los alumnos de Bachillerato no solo eran ‘nativos digitales’; eran ‘nativos semióticos’. Entendían el subtexto“.
En el Colegio Branwen Parvis, esto es el “Artesano Digital”. Nuestros futuros ingenieros de IA recibieron un baño de realidad. Aprendieron que un sistema de IA que no entiende la ironía, la cultura y el contexto, no es solo un sistema defectuoso; es un sistema peligroso. Y nuestros estudiantes de Bachillerato no solo “jugaron” con la IA; demostraron por qué las Humanidades Digitales son, ahora más que nunca, la disciplina más importante en la ingeniería del futuro.
Leave a Reply