La inteligencia artificial, la robótica y la automatización están entrando en nuestras aulas y en la vida cotidiana de nuestros alumnos a una velocidad extraordinaria.
Aprendemos a utilizar herramientas cada vez más potentes. Enseñamos programación, pensamiento computacional, robótica, creación de contenidos con inteligencia artificial y nuevas competencias digitales.
Pero junto a una pregunta cada vez más habitual —«¿cómo funciona esta tecnología?»— creemos que la educación necesita incorporar otra:
«¿Qué consecuencias tiene la forma en que decidimos utilizarla?»
Desde Robot-Edu.es, Ingenio Triana y con el impulso de Rafael Cantillana, proponemos el Manifiesto del Contrapeso como una herramienta educativa para aquellos docentes que consideran que enseñar tecnología también significa enseñar criterio, responsabilidad y valores.
No pretende ofrecer respuestas morales cerradas.
Pretende enseñar a formular mejores preguntas.
Y eso puede convertirse en una metodología muy poderosa dentro del aula.
¿Por qué necesitamos un Contrapeso?
Una máquina puede ejecutar perfectamente una instrucción equivocada.
Un algoritmo puede encontrar la solución más eficiente a un problema y, sin embargo, producir consecuencias que nadie había considerado.
Una inteligencia artificial puede responder correctamente a la pregunta que le hacemos mientras deja sin cuestionar una premisa equivocada.
También los seres humanos podemos hacerlo.
Podemos acostumbrarnos a pensar únicamente en términos de rendimiento, costes, velocidad, productividad, resultados o estadísticas y olvidar que detrás de muchas decisiones existen personas.
El problema no está en calcular.
El problema aparece cuando solo calculamos aquello que resulta fácil medir.
Una decisión puede ser rentable y producir sufrimiento.
Puede ser legal y resultar injusta.
Puede tener buenas intenciones y generar consecuencias perjudiciales.
Puede beneficiar a una mayoría y perjudicar gravemente a una minoría que nadie ha escuchado.
El Contrapeso intenta introducir precisamente aquello que falta en el razonamiento.
¿Qué es el Manifiesto del Contrapeso?
El Manifiesto parte de un principio sencillo:
Cuando una decisión afecte a seres humanos, ningún análisis debería considerarse completo mientras sus consecuencias humanas no formen parte explícita del razonamiento.
Aplicado a la educación, esto significa enseñar a nuestros alumnos a no conformarse con la primera respuesta.
Antes de aceptar una solución debemos aprender a preguntar quién se beneficia, quién puede resultar perjudicado, qué información falta, qué consecuencias podrían aparecer y si existe una alternativa mejor.
El objetivo no es enseñar al alumno qué debe pensar.
El objetivo es enseñarle cómo pensar antes de decidir.
Convertir el Contrapeso en una rutina de pensamiento
El Manifiesto puede utilizarse como una pequeña rutina que acompañe problemas, debates, proyectos tecnológicos o actividades con inteligencia artificial.
Cuando una decisión tenga consecuencias sobre otras personas, podemos pedir al alumnado que aplique estas preguntas:
- ¿Qué queremos conseguir realmente?
Antes de discutir la solución, debemos comprender el objetivo. - ¿Quién se beneficia y quién soporta las consecuencias?
Toda decisión distribuye beneficios, costes y riesgos. - ¿Quién falta en esta conversación?
Puede haber personas afectadas que no estén representadas. - ¿Qué estamos convirtiendo únicamente en números?
Una estadística puede esconder una realidad humana. - ¿Estamos confundiendo legalidad, eficiencia o rentabilidad con justicia?
Son criterios importantes, pero no necesariamente equivalentes. - ¿Qué palabras estamos utilizando?
Algunos términos técnicos pueden ocultar consecuencias concretas. - ¿Qué podría demostrar que estamos equivocados?
Una opinión crítica debe poder enfrentarse a evidencia contraria. - ¿Qué diría alguien que piensa de forma diferente?
Comprender un argumento contrario no significa aceptarlo. - ¿Existe otra forma de conseguir el mismo objetivo causando menos daño?
El pensamiento crítico debe producir alternativas, no solamente críticas. - ¿Aceptaríamos esta solución si fuéramos quienes soportaran su peor consecuencia?
Cambiar de perspectiva ayuda a descubrir aquello que nuestra posición inicial podía ocultar.
Estas preguntas pueden colocarse en una pared del aula, incorporarse a una ficha de proyectos o utilizarse antes de entregar un trabajo.
Con el tiempo pueden convertirse en una rutina mental.
Un ejemplo sencillo para trabajar en clase
Imaginemos esta situación:
Una empresa desarrolla una inteligencia artificial capaz de sustituir parte del trabajo administrativo. Gracias a ella puede reducir costes considerablemente, pero necesita despedir a 200 trabajadores.
Podríamos pedir a una inteligencia artificial que calculase cuánto dinero ahorraría la empresa.
Pero el ejercicio educativo interesante comienza después.
¿Qué ocurre con los trabajadores?
¿Todos podrán encontrar otro empleo?
¿Tiene la empresa alguna responsabilidad respecto a ellos?
¿Debería renunciarse a utilizar la tecnología?
¿Sería posible introducirla progresivamente?
¿Podría utilizarse parte del ahorro para formar a los trabajadores?
¿Qué ocurriría si la empresa no automatizara y sus competidores sí lo hicieran?
¿Qué consecuencias tendría eso?
De repente ya no tenemos una pregunta con una respuesta evidente.
Tenemos un dilema.
Y precisamente ahí empieza el aprendizaje.
El Contrapeso no proporciona automáticamente la respuesta.
Hace visible la complejidad.
Utilizar la inteligencia artificial como herramienta de Contrapeso
La propia inteligencia artificial puede convertirse en una extraordinaria herramienta educativa para practicar este método.
En lugar de pedir simplemente:
«Dime la mejor solución.»
podemos enseñar al alumnado a pedir:
«Analiza esta decisión aplicando el Manifiesto del Contrapeso. Identifica quién se beneficia, quién podría resultar perjudicado, qué perspectivas faltan, qué supuestos estamos dando por ciertos, qué consecuencias podrían aparecer y qué alternativas existen.»
Después comienza la parte realmente importante:
analizar críticamente la respuesta de la propia IA.
¿Ha olvidado algo?
¿Presenta alguna afirmación como cierta sin demostrarla?
¿Está privilegiando una determinada perspectiva?
¿Ha confundido datos con opiniones?
¿Hay grupos afectados que no aparecen?
Así conseguimos algo especialmente valioso: el alumno deja de utilizar la inteligencia artificial solamente como una máquina de respuestas y empieza a utilizarla como interlocutor para pensar.
El docente no necesita tener todas las respuestas
Este enfoque también puede liberar al profesor de una presión innecesaria.
Educar en valores no significa que el docente tenga que convertirse en árbitro de cada dilema moral.
Puede desempeñar otro papel mucho más interesante:
crear las condiciones para que aparezcan buenas preguntas.
En un debate sobre inteligencia artificial, vivienda, redes sociales, automatización, medioambiente o privacidad, el objetivo no tiene por qué ser que toda la clase termine pensando igual.
Puede ser mucho más educativo que los alumnos aprendan a fundamentar sus posiciones, escuchar argumentos contrarios y modificar su opinión cuando aparecen mejores razones.
Eso también es pensamiento crítico.
Del aula de tecnología al resto de materias
Aunque el Manifiesto del Contrapeso nace muy vinculado a la educación tecnológica, su utilización no tiene por qué limitarse a informática o robótica.
En Historia podemos analizar leyes que fueron legales y posteriormente consideradas injustas.
En Economía podemos estudiar decisiones aparentemente eficientes y analizar quién soporta sus costes.
En Lengua podemos identificar eufemismos y estudiar cómo el lenguaje transforma nuestra percepción de un acontecimiento.
En Ciencias podemos debatir los límites de determinadas aplicaciones tecnológicas.
En Filosofía podemos analizar conflictos entre diferentes principios éticos.
En Matemáticas podemos trabajar con estadísticas y preguntar qué realidades humanas se esconden detrás de los datos.
Y en proyectos STEAM podemos incorporar una pregunta obligatoria:
¿Qué consecuencias tendría nuestra solución si realmente se aplicara?
El Contrapeso puede convertirse así en una competencia transversal.
Un proyecto tecnológico debería responder también a preguntas humanas
Cuando nuestros alumnos diseñen un robot, una aplicación o un sistema basado en inteligencia artificial podemos añadir una pequeña sección al proyecto:
Impacto y Contrapeso
Antes de presentar el trabajo deben explicar:
qué problema resuelve,
quién se beneficia,
quién podría verse perjudicado,
qué riesgos existen,
qué información recoge,
qué ocurriría si funciona mal,
qué ocurriría si funciona demasiado bien,
y qué decisiones deberían seguir reservadas a las personas.
No estamos alejando a los alumnos de la tecnología.
Estamos enseñándoles a comprenderla mejor.
No buscamos alumnos obedientes, sino ciudadanos capaces de pensar
Existe un riesgo educativo importante cuando enseñamos únicamente cómo funcionan las herramientas.
Podemos formar personas extraordinariamente competentes técnicamente que nunca hayan aprendido a preguntarse para qué utilizan aquello que saben construir.
El futuro necesitará programadores.
Necesitará ingenieros.
Necesitará científicos, técnicos, diseñadores y expertos en inteligencia artificial.
Pero también necesitará personas capaces de decir:
«Esto funciona, pero quizá deberíamos pensar mejor cómo utilizarlo.»
Esa frase puede ser tan importante como cualquier conocimiento técnico.
El Contrapeso tampoco debe convertirse en adoctrinamiento
Este punto es fundamental.
Si enseñáramos el Manifiesto como una lista de respuestas correctas estaríamos contradiciendo su propia naturaleza.
El Contrapeso debe aplicarse también a nuestras propias ideas.
Si una propuesta parece económicamente impecable, debemos examinar sus consecuencias humanas.
Pero si una propuesta parece moralmente admirable, también debemos analizar sus costes, su viabilidad y sus posibles consecuencias no deseadas.
No buscamos sustituir una visión del mundo por otra.
Buscamos desarrollar una capacidad:
detectar qué parte de la realidad estamos dejando fuera de nuestro razonamiento.
Enseñar a convivir con preguntas difíciles
La inteligencia artificial probablemente hará cada vez más sencillo obtener respuestas.
Quizá precisamente por eso la educación tendrá que dedicar cada vez más esfuerzo a enseñar algo diferente:
a formular preguntas difíciles.
¿Qué estamos intentando conseguir?
¿Quién ha decidido ese objetivo?
¿Quién paga sus consecuencias?
¿Qué información falta?
¿Podemos equivocarnos?
¿Existe otra alternativa?
¿Estamos tratando a una persona como si fuera únicamente un dato?
¿Quién no está presente cuando tomamos esta decisión?
Estas preguntas no pertenecen exclusivamente a la filosofía.
Pertenecen al futuro de la tecnología.
Una invitación a los docentes
Desde Robot-Edu.es, Ingenio Triana y Rafael Cantillana queremos que el Manifiesto del Contrapeso sea una propuesta abierta a la comunidad educativa.
Nuestra intención es desarrollar progresivamente materiales para que profesores, familias y educadores puedan incorporarlo a sus actividades.
Dilemas para el aula.
Actividades sobre inteligencia artificial.
Proyectos de robótica con reflexión ética.
Fichas de pensamiento crítico.
Situaciones para debatir.
Preguntas para analizar noticias, algoritmos y decisiones tecnológicas.
Y, sobre todo, una idea que pueda acompañar a nuestros alumnos durante mucho tiempo:
antes de aceptar una respuesta, preguntémonos qué hemos dejado fuera del cálculo.
Nuestro compromiso
El Manifiesto del Contrapeso y su aplicación educativa a la tecnología y la inteligencia artificial se impulsan desde Robot-Edu.es / Ingenio Triana, por Rafael Cantillana, dentro de un compromiso con una educación en la que tecnología y valores avancen juntos.
Queremos enseñar a los jóvenes a construir robots.
Queremos enseñarles a programar.
Queremos que comprendan y utilicen la inteligencia artificial.
Pero queremos también que sean capaces de cuestionarla.
Que sepan cuándo confiar en una máquina y cuándo preguntar.
Que puedan reconocer la enorme capacidad de la tecnología sin olvidar sus límites.
Y que comprendan algo que quizá será cada vez más importante:
una sociedad no necesita únicamente máquinas capaces de encontrar respuestas.
Necesita seres humanos capaces de hacerse buenas preguntas.
Ese es nuestro Contrapeso.
Robot-Edu.es · Ingenio Triana · Rafael Cantillana
Tecnología, educación y valores para que el futuro siga estando al servicio de las personas.
