Tercer Milenio
En colaboración con ITA
Chat GPT, la inteligencia artificial que escribe, remueve las aulas
Impresiona ver cómo escriben los sistemas como Chat GPT, una tecnología que lleva a repensar los métodos de evaluación del conocimiento.
“Chat GPT es un modelo de lenguaje desarrollado por OpenAI que utiliza inteligencia artificial para responder a preguntas y realizar tareas conversacionales. Con su capacidad de comprensión y generación de lenguaje natural, Chat GPT puede tener un impacto significativo en el sector de la educación. Por ejemplo, puede ser utilizado para brindar asistencia personalizada y en tiempo real a estudiantes y profesores, mejorar la eficiencia en la corrección de tareas y en la evaluación, y ayudar a impulsar la investigación y el aprendizaje autónomo. En resumen, Chat GPT tiene el potencial de revolucionar la forma en que se imparte y se adquiere conocimiento en la educación".
Este párrafo no lo ha escrito un humano. Es lo que Chat GPT ha respondido a la petición: "Redacta un párrafo de introducción sobre Chat GPT y su posible impacto en la educación". Esto ahora se llama ‘prompt’: usted pregunta y él –o ella, la inteligencia artificial– responde. Si aún no lo ha probado, tendrá que esperar, porque "Chat GPT está actualmente inactivo. La gran demanda ha bloqueado su página", se disculpa. Dos meses después de su estreno ante el gran público, Chat GPT tiene más de 30 millones de usuarios y recibe aproximadamente cinco millones de visitas al día.
Diseñado para imitar el lenguaje y la conversación humana, no se arruga ante ningún reto: siempre contesta, con aparente coherencia, y es capaz de escribir, en un momento, historias, cartas, resúmenes, poesía, ensayos, diálogos, código fuente… Parece argumentar con solvencia, pero realmente esta herramienta, creada por la empresa OpenAI y abierta gratuitamente para que la probemos y validemos, no entiende lo que escribe y nadie asegura que sea cierto, aunque la clave está en que es capaz de aprender y, por lo tanto, será cada día mejor.
"Con esa campaña de dejarlo gratis, que seguramente ha superado sus expectativas, lo que creo que han querido hacer es captar nuevos datos de todos los que lo hemos estado probando para mejorarlo y entrenar a sus sucesores", señala Antonio Miguel, investigador en tecnologías relacionadas con el habla y el lenguaje del I3A, Instituto de Ingeniería de Aragón de la Universidad de Zaragoza.
Con todas sus limitaciones, ya en esta fase de pruebas Chat GPT se revela como una ventana al futuro a la que asombra asomarse. Las máquinas ya pueden producir un lenguaje escrito que suene humano. En el mundo educativo, el temor a no saber detectar si un trabajo ha sido realmente escrito por un alumno convive con las posibilidades de integrar la inteligencia artificial en la enseñanza y el aprendizaje.
Siempre que sale algún tipo de tecnología de este tipo, "la reacción es de desconfianza, especialmente si el nuevo producto facilita algunas de las habilidades y las competencias que se han de desarrollar y adquirir", señala la lingüista de la Universidad de Zaragoza Iraide Ibarretxe. Y cita entre las preocupaciones que atenazan al profesorado el temor "a que el alumnado pregunte a la máquina y simplemente haga un ‘corta-pega’, a que pueda llegar a haber una sustitución del profesor ‘real’ por uno ‘virtual’, es decir, que no se necesite al profesor para explicar y evaluar contenidos, o el peligro del sesgo, que las respuestas vayan en función de los datos con los que ha sido entrenada la máquina". No son temores nuevos y, en su opinión, lo que habría que hacer es "desarrollar nuevas maneras para integrar estos avances en el propio proceso de enseñanza-aprendizaje".
Jaime Font da clase en los grados de Ingeniería Informática y Diseño y Desarrollo de Videojuegos en la Universidad San Jorge (USJ) y le consta que sus alumnos ya están utilizando Chat GPT para crear código, pero no cree que deba verse como una amenaza: "Es una herramienta, y tener herramientas y saber utilizarlas es parte fundamental del aprendizaje y del futuro ejercicio profesional de nuestros alumnos". Pero seguramente, nada va a quedarse como estaba, ya que "es necesario que los docentes tengan en cuenta la existencia de este tipo de herramientas, para formar al alumno en su uso y para adaptar los sistemas de aprendizaje y sus evaluaciones a esta nueva realidad".
En el Grupo de Investigación en Comunicación e Información Digital de Unizar de Carmen Marta han empezado a analizar los posibles usos positivos de ChatGPT en las prácticas periodísticas y reconoce que, "más que preocupación, hay expectación por ver cómo se desarrolla el uso de esta herramienta".
Prohibir o no prohibir
Chat GPT podría aprobar los exámenes para ser médico en Estados Unidos y las alarmas han saltado en algunos lugares. Los colegios de la ciudad de Nueva York han prohibido a sus alumnos descargarse la aplicación. Ante los primeros indicios de que algunos estudiantes estaban utilizando sistemas de IA para elaborar trabajos académicos, algunas universidades australianas han tomado medidas como alejarse de la creación de texto por ordenador y volver al formato físico de los exámenes en papel. La revista ‘Nature’ ha prohibido la publicación de artículos científicos escritos por Chat GPT.
Desde el Secretariado de Desarrollo y Transformación Digital de la Universidad de Zaragoza, aluden al refrán: ‘No se le pueden poner puertas al campo’. Francisco Javier Fabra, su director, piensa que el uso de este tipo de herramientas puede resultar "muy beneficioso si transmitimos correctamente sus limitaciones y cómo interpretar la calidad de los contenidos que pueda generar esta IA. Y, por supuesto, con una buena base ética". En Unizar, "estamos muy atentos a estos avances, sus implicaciones y su repercusión, tanto a nivel educativo como social. Todavía no se ha planteado nada con respecto a su uso, primero hay que tener toda la información posible para poder tomar decisiones que afectarán a una comunidad tan grande como la universitaria".
Tampoco la USJ se plantea actualmente prohibir el uso de Chat GPT como tal, "ya que lo relevante es si ha habido plagio o fraude académico, independientemente de la herramienta utilizada" y su Reglamento Regulador del Orden y la Convivencia ya penaliza cualquier comportamiento que pretenda falsear los resultados de un examen o trabajo.
Por su parte, OpenAI ya ha creado el antídoto: una herramienta que puede determinar –aún con alguna imprecisión– si un texto ha sido escrito por un humano o es obra de una IA. También trabaja en el desarrollo de marcas de agua.
Sin duda, herramientas como Chat GPT pueden cambiar la forma de evaluar para conseguir que el alumno pueda demostrar su aprendizaje en trabajos que sean algo más que meros resúmenes o compendios de información.
La transición hacia modelos de aprendizaje más activos lleva en marcha desde hace años, "el plan Bolonia supuso un gran cambio y la aparición de herramientas como Chat GPT van a suponer otro empujón en la misma dirección", considera Font. "Las evaluaciones basadas en memorizar información cada vez están más en desuso –cree–. Memorizar es un paso intermedio para tareas de mayor nivel cognitivo como la aplicación de esos conocimientos para solucionar un problema".
Ibarretxe aporta algunas ideas: "Desarrollar tareas (y su evaluación) donde no se pueda cortar y pegar, sino emplear la información para, por ejemplo, elaborar un argumento que se tenga que exponer de forma oral o hacer que la máquina produzca contenido y que la tarea sea revisarlo y contrastarlo". Para ella, "el quid de la cuestión es saber filtrar bien la información y no perder de vista que se está interactuando con una máquina".
Sus propias limitaciones pueden ponerse al servicio de la educación. Puesto que, como destaca Carmen Marta, "la información que genera se basa en las relaciones entre términos que ha ido almacenando, mediante un entrenamiento por repetición, las respuestas que ofrece no siempre son verdaderas, pues no están verificadas". Como consecuencia, "uno de los principales retos es potenciar el pensamiento crítico de los usuarios para advertir los errores y sesgos que contiene y saber filtrarlos", convirtiéndose en un recurso de aprendizaje para conocer cómo se verifica y valida la información.
Y ya que se vuelve tan crucial el ‘prompt’, la pregunta o consulta que da pie a cada resultado de Chat GPT, Marta ve claro que ese alumnado "al que hasta ahora hemos formado para responder, a partir de ahora va a tener que desarrollar competencias relacionadas con el preguntar".
Un tutor informático llamado Chat GPT
Bien utilizada, esta puede ser una tecnología tremendamente útil: "Desde servir como ayuda para el estudiante, como si fuera un ‘tutor informático’, hasta agilizar procesos para los docentes y el personal de servicios", enumera Fabra.
Tal vez hay que romper con la tendencia a ver siempre este tipo de herramientas como el recurso del vago. A Antonio Miguel le gusta poner el ejemplo del ajedrez para ver cómo ha afectado la presencia de la IA en educación. "Cuando aparecieron los módulos que calculan jugadas de ajedrez de forma casi perfecta, hubo quien vaticinó el fin de la afición y el interés, ahora es más popular que nunca y a la gente le gusta disponer de estos módulos para afianzar sus conocimientos, le dan seguridad, porque antes para entrenar a ese nivel tenías que desplazarte a trabajar con un gran maestro en la otra parte del mundo. Ahora, hay una generación de niños que se han entrenado casi solos en su casa que están llegando a los circuitos profesionales". Con la generación automática de textos, está por inventar la forma de convertirla en un recurso educativo.
Ibarretxe la ve como "una herramienta complementaria estupenda para realizar algunas tareas educativas. Una de sus ventajas es que es muy rápido y puede ahorrarte trabajo: puede tomarse como punto de partida para seguir ampliando esa información o darte ideas de cómo diseñar unas prácticas".
Y, más allá de la educación, las posibilidades se multiplican. Miguel atisba lo que puede ayudar a crecer a empresas y ve "una aplicación potencial enorme para ayudar a nuestros mayores a acceder al mundo digital de la forma más sencilla: hablando", lo que reducirá la barrera de acceso a la información al facilitar trámites y gestiones.
Al mismo tiempo, la proliferación de textos creíbles, impecablemente escritos pero que pueden contener información incorrecta o falsa abre la puerta a nuevos desafíos éticos. Claramente, los relacionados con la desinformación, pero también con los derechos de autor e incluso la peligrosa pérdida de confianza en las comunicaciones escritas.
El vértigo es inevitable, así como preguntarse si este tipo de IA ‘creativas’ nos ayudarán a escribir mejor o, al depender de ellas, perderemos habilidades. Tenemos precedentes a menor escala, como el autocorrector ortográfico o las calculadoras.
Hoy en día, "el uso del autocorrector nos ayuda a no cometer faltas ortográficas, pero también nos acostumbra a no tener que pensar en esos errores y cuando intentamos escribir sin él, cometemos más fallos –reflexiona Jaime Font–. Se sigue enseñando a sumar o restar, aunque existan las calculadoras y las usemos para hacer cálculos". Las generaciones actuales han aprendido a crear textos sin la ayuda de Chat GPT "y no veo tanto peligro en pasar a usar estas herramientas, el mayor problema está en las generaciones futuras". ¿Qué sucederá con quienes no necesiten crear nunca un texto desde cero porque Chat GPT lo hace en su lugar?
Una palabra tras otra
Chat GPT impresiona. "No habíamos visto a una ‘máquina’ hacer algo tan creativo como producir textos coherentes", reconoce Jaime Font. Pero, en cierto sentido, es un trampantojo. Antonio Miguel matiza técnicamente: "Es una simulación: da la apariencia de lenguaje natural, pero se ha generado automáticamente".
Chat GPT es un avanzado bot especializado en el diálogo humano. Uno de los últimos ejemplos de aplicación de la tecnología Generative Pre-trained Transformer (GPT). Es un modelo de lenguaje que encadena palabras, pero no las entiende. Ha sido entrenado con gran cantidad de texto y su funcionamiento se basa en calcular las posibles palabras que vienen a continuación de una dada y devolver aquella que mayor probabilidad tiene. Ni razona ni piensa. Por ejemplo, parece tener habilidades matemáticas, pero realmente lo que sabe es completar correctamente frases como ‘nueve por tres igual a…’.
Sus construcciones gramaticales pueden ser correctas, hasta ingeniosas, pero, para la lingüista Iraide Ibarretxe, "para adaptar un texto al contexto comunicativo adecuado aún le falta tiempo –no digo que no sea posible–". En la comunicación, hay mucho que no se codifica explícitamente. "El hacer inferencias, el sacar el significado de un conocimiento compartido, de la intertextualidad…, todos estos elementos son difíciles de captar, pero los hablantes lo hacemos casi sin darnos cuenta".
-Ir al suplemento Tercer Milenio
Apúntate y recibe cada semana en tu correo la newsletter de ciencia
