Cada vez que le encargamos una tarea a una inteligencia artificial, modificamos también lo que estará disponible para las próximas generaciones. Un recorrido por los imaginarios que hacen parecer inevitable la automatización y por la pregunta que la educación no puede delegar: qué queremos legarles.
Isla de los inventos, Rosario, Santa Fe.
La inclusión de tecnologías digitales en la enseñanza ha sido siempre un campo de tensión Por un lado es imposible pensar una educación de calidad para la sociedad actual que no las incluya: preparar a las infancias y adolescencias para el mundo que tendrán que habitar siendo adultos implica poner en conversación la alfabetización digital y la apropiación crítica. Pero, por otro lado, estas tecnologías llegan a las escuelas a través de grandes negocios con empresas tecnológicas lo que ha dado lugar, en nuestro país particularmente pero no sólo en él, a políticas públicas fallidas, inconclusas y que, en muchos casos, sólo han significado una sobrecarga laboral para las y los docentes.
En el último año podríamos señalar dos cosas: en marzo el Jefe de Gobierno porteño, Jorge Macri, dijo en el inicio de sesiones parlamentarias que todos los estudiantes de la ciudad tendrían en sus computadoras gemini, la inteligencia artificial generativa de Google. En mayo, el Gobierno nacional presentó el Gemelo Digital Social, una herramienta de inteligencia artificial del Ministerio de Capital Humano para anticipar el impacto de las políticas sociales. Ambas cosas se presentaron diciendo que la Argentina (o la Ciudad) se adelanta al futuro. Ninguna habló de cuáles son los negocios detrás. Lo del gemelo digital no avanzó, lo de gemini si.
LA LLEGADA DISCURSIVA DE LAS TECNOLOGÍAS DIGITALES
Las tecnologías llegan rodeadas de palabras que nos hablan de ellas antes de que las conozcamos. Algunas nombran objetos que antes no existían. Otras parecen nombrar prácticas nuevas. Y algunas hacen algo más interesante: reorganizan problemas que ya conocíamos hasta conseguir que empecemos a pensarlos de otra manera. Spoiler alert: no siempre esto es una buena noticia.
Con la inteligencia artificial aparecieron Inteligencia, prompt, personalización, automatización y se incorporaron rápidamente a nuestro vocabulario cotidiano sin tiempo para desentrañar qué cosa estábamos nombrando. Podríamos considerarlas apenas palabras útiles para describir un fenómeno tecnológico. Pero cuando una tecnología se construye enteramente sobre el lenguaje, las palabras que trae consigo no son un detalle. Importa qué nombran, pero también qué relaciones intentan que construyamos entre nosotros y esos sistemas, qué saber les atribuimos y, sobre todo, qué lugar empezamos a ocupar nosotros frente a ella.
Con la inteligencia artificial aparecieron Inteligencia, prompt, personalización, automatización y se incorporaron rápidamente a nuestro vocabulario cotidiano sin tiempo para desentrañar qué cosa estábamos nombrando.
Pensemos en el prompt. Lo presentaron como una nueva técnica: aprender a darle buenas instrucciones a una máquina para obtener mejores resultados. La idea vino acompañada de manuales, cursos y fórmulas para escribir el pedido perfecto. Una de las recomendaciones más repetidas consiste en asignarle al sistema un rol: “sos un experto en…”. Parece apenas una estrategia para mejorar una respuesta, pero la escena es epistemológicamente bastante más interesante. Si el lugar del saber lo ocupa el sistema, ¿qué lugar estamos construyendo para nosotros? ¿Y qué autoridad le estamos concediendo para decidir qué cuenta como una buena pregunta, una interpretación razonable o una respuesta que vale la pena escuchar?
Pero la lógica del prompt esconde otra cuestión: aquello que no escribimos. Un prompt puede ser larguísimo y extremadamente preciso y, sin embargo, dejar abiertas las decisiones más importantes. Si le pedimos a una inteligencia artificial que diseñe una actividad para aprender algo, probablemente indiquemos el tema, la extensión o el formato. Es mucho menos frecuente que explicitemos qué entendemos por aprender, qué papel debería ocupar quién enseña, qué relaciones queremos que se produzcan entre quienes aprenden o por qué consideramos que una determinada secuencia es preferible a otra.
Esos espacios no quedan vacíos. El sistema los completa.
Un ejemplo: un docente le pide a la IA que arme una clase sobre el ciclo del agua para segundo grado, con una actividad lúdica. Indicó el tema, el grado y el formato. No dijo cuántos chicos hay en el aula, si alguno todavía no lee de corrido, qué quiere que entiendan al terminar. La IA contesta igual, con una propuesta prolija y lista para usar, pensada para un grupo que no existe.
A eso hemos empezado a llamar sesgo pedagógico: las concepciones implícitas acerca de la enseñanza y el aprendizaje que aparecen en las respuestas de los modelos aun cuando nadie las haya solicitado. No se trata de un error ocasional que una mejor versión de la tecnología vaya a corregir. Ni tampoco algo que podamos resolver con el entrenamiento individual, aunque naturalmente ayuda. Es un hecho inherente a la tecnología misma: un modelo responde a partir de regularidades construidas sobre los datos con los que fue entrenado. Y eso, como casi toda la información de entrenamiento, no está disponible.
El sesgo pedagógico fue documentado desde dos perspectivas diferentes. Por un lado, la IA tiende a diseñar actividades que le atribuyen un rol pasivo a los y las estudiantes. Por otro lado, los tipos de actividades o de planificaciones tienden a la instrucción directa, trabajo individual, fragmentación del conocimiento y verificación del aprendizaje. El modelo evidencia entonces un fuerte sesgo conductista en sus supuestos acerca de lo que significa enseñar y aprender.
La respuesta suele traer los tiempos calculados al minuto: diez para empezar, quince para la actividad, cinco para cerrar.
El sesgo pedagógico fue documentado desde dos perspectivas diferentes. Por un lado, la IA tiende a diseñar actividades que le atribuyen un rol pasivo a los y las estudiantes. Por otro lado, los tipos de actividades o de planificaciones tienden a la instrucción directa, trabajo individual, fragmentación del conocimiento y verificación del aprendizaje.
Quien dio clases sabe que esos tiempos no son sostenibles. Una pregunta inesperada, un grupo que necesita otra explicación y los 45 minutos se vuelven 90. El sistema planifica de acuerdo a un supuesto de eficiencia.
El problema pedagógico es una parte de una cuestión mayor. También hay allí un problema epistemológico. Los sistemas no solamente producen respuestas: al hacerlo, estabilizan determinadas maneras de organizar la información, establecer relaciones, reconocer evidencias y construir explicaciones. Cuando les pedimos que interpreten una entrevista, comparen posiciones teóricas o identifiquen los argumentos principales de un conjunto de textos, no estamos delegando únicamente tiempo de procesamiento. Estamos introduciendo una mediación que contiene, aunque no podamos verla completamente, una determinada idea acerca de qué significa conocer algo.
Imaginemos a una investigadora que le pide a una IA que analice veinte entrevistas a docentes. En segundos llegan tres grandes temas, algunas frecuencias y un resumen ordenado. Lo que queda afuera es lo que en investigación cualitativa es lo más rico: la duda antes de una respuesta, la contradicción entre lo que alguien afirma y lo que cuenta después, la anécdota inclasificable, el silencio. El sistema redujo la dispersión a unas pocas ideas y lo hizo con tal contundencia que dificulta la capacidad de repensar.
LOS IMAGINARIOS QUE SOSTIENEN LA SUPUESTA INNOVACIÓN
Por eso es importante comenzar a discutir bajo qué condiciones algunas transformaciones empiezan a parecernos inevitables.
Sheila Jasanoff y Sang-Hyun Kim propusieron el concepto de imaginarios sociotécnicos para nombrar las visiones de futuros deseables asociadas con la ciencia y la tecnología que consiguen estabilizarse socialmente, incorporarse a instituciones y orientar decisiones colectivas. Es importante detenerse en algo: esos futuros no se imaginan desde posiciones equivalentes de poder. Estados, empresas, organismos internacionales y otros actores tienen capacidades muy diferentes para hacer circular determinadas visiones y conseguir que un futuro particular aparezca no solo como posible o deseable, sino también como inevitable.
En el cruce entre inteligencia artificial y educación hay por lo menos tres imaginarios especialmente poderosos: personalización, eficiencia y automatización.
La personalización es un buen ejemplo de cómo funcionan. La palabra suele ser interpretada, en el ámbito educativo, bajo una demanda indiscutible: reconocer la enorme diversidad que existe entre las personas y ofrecer experiencias educativas capaces de abordarla. Pero eso no es lo que las empresas de tecnología proponen, lo que ellos llaman personalización es en realidad la duolingonización: contenidos fragmentados, aprendidos por repetición y cuya “personalización” es en realidad sólo un ajuste de velocidad. La paradoja es interesante: para personalizar a gran escala necesitamos antes volver el aprendizaje suficientemente estandarizado, comparable y predecible. Y eso, no nos ayuda a dar respuestas a la diversidad.
Pensemos en dos chicos que usan una aplicación de matemática. Uno se traba con las fracciones y el otro se aburre porque ya las domina. La aplicación dice personalizar la experiencia, pero hace otra cosa: a uno le repite el mismo ejercicio más despacio, al otro se lo acelera. Ninguno recibe una explicación distinta ni le permite reflexionar sobre el proceso de aprendizaje.
Eficiencia y automatización introducen otro desplazamiento. La promesa es conocida: la inteligencia artificial puede liberarnos de tareas, ahorrar tiempo, simplificar procesos y reducir esfuerzos.
El problema aparece cuando la capacidad técnica empieza a convertirse, casi sin discusión, en una prescripción: si la tecnología puede hacerlo, tiene que hacerlo la tecnología.
Dejamos de preguntarnos si queremos delegar una tarea y empezamos a necesitar argumentos para justificar por qué seguiríamos haciéndola.
Entonces dejamos de preguntarnos si queremos delegar una tarea y empezamos a necesitar argumentos para justificar por qué seguiríamos haciéndola.
Sin embargo, un resultado y el trabajo intelectual necesario para producirlo no son equivalentes. Escribir no es solamente obtener un texto. Sintetizar no es solamente disponer de un resumen. Investigar no es solamente reunir información. Diseñar una actividad no es solamente producir una consigna. En esos procesos establecemos relaciones, descartamos alternativas, reconocemos problemas, revisamos hipótesis y construimos criterios que después necesitamos incluso para juzgar el resultado que produce una inteligencia artificial.
LA DELEGACIÓN DE PENSAMIENTO
La externalización cognitiva, por supuesto, tampoco empezó con estos sistemas. Escribimos para no depender exclusivamente de nuestra memoria, usamos mapas para orientarnos y calculadoras para resolver operaciones que no necesitamos ejecutar mentalmente cada vez. Buena parte de la historia cultural podría leerse como una historia de las tecnologías con las que externalizamos capacidades cognitivas.
La inteligencia artificial amplía, sin embargo, el tipo de procesos que podemos externalizar. Ya no delegamos solamente almacenamiento, cálculo o recuperación de información. Podemos delegar la formulación de una explicación, la construcción de un argumento, la interpretación de un conjunto de datos, la producción de una hipótesis o incluso la evaluación de un trabajo producido por otra persona.
Algunas investigaciones recientes comenzaron a hablar de deuda cognitiva para describir uno de los posibles efectos de esa relación: obtenemos un beneficio inmediato —menos esfuerzo, mayor velocidad, un resultado disponible— y eventualmente pagamos un costo cuando necesitamos realizar por nosotros mismos aquello que dejamos de ejercitar. La evidencia todavía es incipiente y sería imprudente convertirla en una nueva certeza sobre los efectos de la IA. Pero la hipótesis permite formular una pregunta mejor que aquella, bastante banal, acerca de si la inteligencia artificial nos vuelve más o menos inteligentes. La pregunta es qué operaciones cognitivas externalizamos, bajo qué condiciones y qué hacemos nosotros mientras la tecnología las realiza.
Porque existe una diferencia importante entre delegar un proceso que conocemos y delegar uno que nunca atravesamos. En el primer caso podemos utilizar la tecnología para expandir nuestras posibilidades. En el segundo corremos el riesgo de recibir un resultado sin tener acceso a las decisiones que permitieron producirlo. Y cuanto mayor sea nuestra dependencia de esos sistemas, más —no menos— conocimientos necesitaremos para decidir cuándo confiar en una respuesta, cuándo discutirla y cuándo descartarla.
Existe una diferencia importante entre delegar un proceso que conocemos y delegar uno que nunca atravesamos. En el primer caso podemos utilizar la tecnología para expandir nuestras posibilidades. En el segundo corremos el riesgo de recibir un resultado sin tener acceso a las decisiones que permitieron producirlo.
Pensemos un momento. Podemos pedirle a un sistema que produzca un texto y a otro que lo evalúe. Podemos automatizar una actividad y automatizar también su corrección. Podemos delegar la búsqueda de información, su síntesis y finalmente la decisión acerca de qué parte de esa síntesis es relevante. Cada intervención podría funcionar de manera aislada. Pero cuando observamos la secuencia completa aparece una pregunta distinta: ¿en qué momento dejamos de automatizar tareas y empezamos a automatizar las decisiones que daban sentido a esas tareas?
Esto excede ampliamente a la escuela o la universidad. Estamos empezando a distribuir de otra manera el trabajo cognitivo entre personas y sistemas técnicos, y todavía no sabemos qué formas culturales, profesionales y educativas van a surgir de esa distribución. Precisamente por eso resulta insuficiente discutir la inteligencia artificial únicamente en términos de adopción o rechazo. La cuestión no es decidir si estamos a favor o en contra de delegar. Es decidir qué delegamos, para qué y qué necesitamos preservar para seguir siendo capaces de decidir sobre aquello que delegamos.
Y esa discusión nos devuelve inevitablemente a la educación.
QUÉ QUEREMOS LEGARLES A QUIENES VIENEN DESPUÉS}
El jardín de los niños, experiencia pedagógica para chicos y grandes
Hace años repetimos que debemos preparar a las nuevas generaciones para un futuro que no conocemos. De esa incertidumbre derivamos una lista ya familiar: flexibilidad, creatividad, pensamiento crítico, capacidad de adaptación, aprender a aprender. Probablemente todas sean importantes. Pero hay una diferencia sustantiva entre aceptar que desconocemos el mundo que otros van a habitar y concluir que, por esa razón, no tenemos nada valioso que transmitirles.
Todo currículum establece un puente entre generaciones. Decide qué conocimientos, lenguajes, historias, procedimientos, preguntas y criterios una sociedad considera suficientemente importantes como para ponerlos a disposición de quienes vienen después. Ese legado nunca llega intacto: cada generación lo discute, lo transforma, incorpora algunas cosas y abandona otras. El problema histórico del currículum, de hecho, ha sido muchas veces nuestra dificultad para dejar ir: seguimos agregando contenidos como si el tiempo disponible para enseñar y aprender fuera infinito.
La inteligencia artificial vuelve esa discusión inevitable. Habrá prácticas que perderán importancia, conocimientos que se transformarán y nuevas formas de producción cultural que tendremos que incorporar. No se trata de conservar el mundo anterior a la IA ni de defender una colección de tareas simplemente porque alguna vez las hicimos nosotros. Pero tampoco podemos aceptar que la frontera tecnológica decida el currículum por descarte: enseñar hoy aquello que la máquina todavía no puede hacer y abandonarlo mañana cuando finalmente pueda hacerlo. La pregunta educativa es más difícil: ¿qué queremos que una persona sepa hacer incluso cuando exista una tecnología capaz de hacerlo por ella?
¿Qué queremos que una persona sepa hacer incluso cuando exista una tecnología capaz de hacerlo por ella?
Responderla obliga a discutir el valor de un conocimiento más allá de su utilidad inmediata. Algunas cosas quizás necesitemos seguir aprendiéndolas porque haber atravesado esos procesos nos permite comprender el mundo, reconocer alternativas, construir criterios y decidir qué hacer cuando alguien —o algo— nos ofrece una respuesta.
No gobernamos el futuro. Pero las decisiones sociotécnicas que tomamos en el presente construyen condiciones de posibilidad para ciertos futuros y clausuran otras. Y tampoco tomamos esas decisiones desde posiciones equivalentes: las empresas que desarrollan los sistemas, los Estados que pueden regularlos, las instituciones que deciden incorporarlos y quienes simplemente los usamos no tenemos el mismo poder para determinar hacia dónde se mueve esa frontera.
Por eso la discusión sobre inteligencia artificial y educación es también una discusión política y cultural acerca de qué mundo estamos haciendo posible mientras creemos estar resolviendo problemas más pequeños.
Tal vez ahí podamos reformular la pregunta inicial. No se trata de elegir entre delegar o no delegar. Se trata de conservar la capacidad de decidir qué estamos dispuestos a delegar y qué razones tenemos para hacerlo.
Porque delegar también es legar. Aquello que decidimos dejar de hacer modifica no solamente nuestras prácticas presentes sino también lo que estará disponible para quienes vengan después.
No sabemos qué inteligencia artificial utilizará alguien que hoy tiene seis años cuando dentro de treinta tenga que enseñar, investigar, escribir, tomar una decisión pública o resolver un problema que nosotros ni siquiera podemos imaginar. Tampoco podemos entregarle un mapa de ese mundo: todavía no existe. Pero podemos, en cambio, dejarle conocimientos, preguntas, experiencias, memoria de nuestros errores y criterios para discutir los mapas que otros intenten presentarle como inevitables.
Después decidirá qué conservar, qué transformar y qué dejar ir.
Quizás esa sea una de las responsabilidades más antiguas de la educación, incluso frente a la tecnología más nueva: conseguir que quienes lleguen a un mundo que nosotros ya no conoceremos no tengan que llegar solos.
