Stuart J. Russell: “Su trabajo cambiará, pero siempre necesitaremos profesores”

Entrevista realizada por Anuliina Savolainen
UNESCO

En los últimos años, las nuevas tecnologías se han adentrado en el sector de la educación, especialmente desde la pandemia ¿El desarrollo de los programas de inteligencia artificial generativa, como el ChatGPT, marca un punto de inflexión? 

Durante la crisis sanitaria, vimos que enseñar a distancia era posible. En los últimos años, la evolución de los grandes modelos de lenguaje ha tenido un impacto enorme en la percepción que el público en general tiene de la IA generativa. Se ha producido una revolución desde el lanzamiento del ChatGPT, a finales de 2022.

Desde hace tiempo sabemos que una clase particular con un profesor puede ser entre dos y tres veces más eficaz que la enseñanza tradicional en un aula colectiva. Desde hace unos 60 años trabajamos en sistemas de tutoría basados en la IA y hasta hace muy poco estos métodos tropezaban con dos obstáculos. Primero, la IA no podía -y aún no puede- entablar una conversación con el alumno, responder a sus preguntas o establecer un vínculo personal. Segundo, la IA no comprende la asignatura que enseña: es capaz de dictar un curso de química, pero no entiende de química. Por ese motivo, aunque pudiera mantener una conversación con el alumno, no podría responder correctamente a sus preguntas.

Gracias a los grandes modelos de lenguaje informático, esa situación ha evolucionado. Ahora es posible entablar una conversación relativamente coherente en diversos idiomas. Las respuestas de los sistemas son bastante fiables cuando se refieren al contenido. Todavía es preciso colmar algunas lagunas, pero creo que, mediante un esfuerzo razonable, será posible proponer un tutor para la mayoría de las asignaturas, al menos hasta el final de la enseñanza secundaria. 

Dicho esto, sería ingenuo creer que a partir de ahora disponemos de una reserva de inteligencia arbitraria que nos permitirá solucionar cualquier problema, porque no se trata en realidad de una inteligencia general. Tiene una apariencia verosímil de inteligencia porque estos sistemas utilizan un lenguaje muy natural, pero las observaciones que generan no siempre tienen sentido.

El año 2023 constituye, desde este punto de vista, un momento crucial. Habrá un despliegue considerable de tecnologías y de variantes, pero todavía queda mucho trabajo por hacer. Y esto no es nada en comparación con lo que prometen las inteligencias artificiales generales, es decir, los sistemas inteligentes cuyo campo de aplicación es comparable con toda la gama de tareas que el ser humano puede acometer. Creo que de aquí a finales de la década podremos proponer una enseñanza individualizada a cada niño o niña del mundo.

En este contexto, ¿cuál sería en lugar de los docentes?

Su trabajo va a cambiar, pero siempre necesitaremos profesores. Una de las dificultades actuales es lograr que las IA de tutoría comprendan la naturaleza específica del rol pedagógico: no tener siempre razón y, además, no responder siempre correctamente a todas las preguntas, sino proceder de modo que el estudiante encuentre la respuesta por sí mismo. Ya hay algunos ensayos prometedores de modelos de lenguaje genérico entrenados para comportarse como profesores.

A fin de cuentas, siempre hará falta un humano para comprender cómo interactúa cada alumno con el sistema. ¿Obtiene el estudiante lo que necesita? ¿Qué parte no entiende? ¿Qué modalidad de aprendizaje le resultaría más provechosa? Los alumnos también deben aprender a colaborar y a comportarse en un marco social, y en ese contexto necesitan maestros. El modelo ideal sería el de un profesor que se ocupa de un grupo reducido de alumnos, quizá de ocho a diez, dedicando mucho tiempo a cada uno de ellos. Algo así como un guía intelectual. En ese caso, se acabaría necesitando más profesores, no menos. 

En los sistemas escolares tradicionales hay problemas de bajo rendimiento a todos los niveles. Algunos alumnos se aburren si sus capacidades son más elevadas, mientras que otros encuentran dificultades para seguir el ritmo de aprendizaje y pierden la motivación. Es duro admitir que hay estudiantes que pueden seguir siendo analfabetos tras completar un ciclo de enseñanza. El sistema escolar debería preocuparse más por la progresión individual del niño o la niña y tener en cuenta las disparidades entre los alumnos en materia de aprendizaje; una buena IA pedagógica tendría que poder adaptarse a cada estudiante rápidamente. Pero no estamos ahí todavía.

La pandemia puso de relieve la brecha digital que existe en el mundo. ¿Acaso las nuevas tecnologías aplicadas a la educación no podrían tropezar con la misma dificultad?

La situación es, en efecto, muy distinta de un país a otro. En mi opinión, esas tecnologías van a beneficiar más a los países con menores tasas de escolarización. Por supuesto que todavía hay muchos niños que no tienen acceso a un teléfono móvil o no pueden conectarse a Internet, pero estoy convencido de que asistiremos a una evolución relativamente rápida en este ámbito porque en todo el mundo, cada mes, decenas de millones de personas consiguen acceso a Internet. Y las IA de tutoría necesitan muchísima menos anchura de banda que una videollamada con un profesor.

Las mayores dificultades radican en los esfuerzos necesarios para crear contenidos y formar tutores adaptados a cada cultura y cada lengua. Además, concebir esas innovaciones tecnológicas cuesta caro. Tradicionalmente, la tecnología no se ha interesado mucho por los sistemas educativos. Para asegurar un despliegue a escala mundial, seguramente sea necesaria una iniciativa del sector público o privado incentivada y facilitada por los gobiernos. Quizá la ayuda internacional contribuya a crear sistemas escolares más eficaces. Sería una tragedia que esta meta no pudiera lograrse por la codicia de las empresas, la desconfianza de los estados, o cualquier otra razón. 

Tal y como plantean muchos de los protagonistas del sector tecnológico, será necesario regular el desarrollo de estas nuevas aplicaciones. ¿Ud. cree que nos dirigimos hacia una mayor reglamentación del uso de la IA generativa?

Actualmente está en marcha una reflexión sobre la regulación de la IA. En el ámbito de la reglamentación, la carta abierta [que pide una moratoria en el entrenamiento de las IA más potentes que la GPT-4, firmada por especialistas del sector y publicada en marzo de 2023] parece haber dado un nuevo impulso a ese proceso. La UNESCO reaccionó de inmediato e invitó a sus Estados Miembros a adoptar protecciones y a vigilar que la IA se desarrolla de acuerdo a principios éticos. Además, el gobierno de China, Estados Unidos, la Unión Europea y varias empresas del sector tecnológico, entre otros, han comprendido que es preciso actuar.

En el ámbito escolar, preocupa particularmente el tema de la evaluación del conocimiento, y muchos la consideran muy arriesgada. La protección de datos y el respeto de la vida privada también plantean aspectos cruciales. Hay que prever normas estrictas para protegerlos. Los datos podrían ser accesibles al docente y, eventualmente, al personal administrativo si, por ejemplo, existen problemas de disciplina.

Otro problema con el que tropezamos se refiere a los medios de impedir que las IA mantengan conversaciones inadecuadas con los menores de edad. Es preciso limitar de manera drástica los temas que las IA pueden abordar con ellos. Los sistemas como ChatGPT tienen un funcionamiento nebuloso, que depende de millones de parámetros, y realmente no sabemos cómo funcionan en el fondo. Muchos expertos trabajan para hallar una solución a esta delicada cuestión. En mi opinión, quizá no sea posible regularlos. 

Creo que la regulación obligará la concepción de mejores tecnologías. En esta materia, los legisladores no deben aceptar pretextos del tipo “no sabemos cómo hacerlo”. Si usted fuera una autoridad en materia de seguridad nuclear y la empresa concesionaria le dijera que no sabe cómo prevenir una explosión atómica, usted no aceptaría esa respuesta. Simplemente le prohibiría utilizar las instalaciones hasta que hubiera resuelto el problema. A pesar de todos los obstáculos, tengo la esperanza de que, a largo plazo, logremos perfeccionar tecnologías que comprendamos verdaderamente y que podamos controlar.