Jornada sobre Inteligencia Artificial y Humanidades

 

Lunes 22 de abril de 2024

Salón de Actos “Emilia Pardo Bazán”. Edificio D. Facultad de Filología. Universidad Complutense de Madrid

Imagen realizada con Inteligencia Artificial

 

Proyecto patrocinado por la Fundación Tatiana en la III Convocatoria de Proyectos Docentes y Culturales sobre Liderazgo y Humanismo Cívico (CURSO 2023–2024)

 

Desde su lanzamiento público en noviembre de 2022, la plataforma ChatGPT ha generado un tsunami de noticias y debates en torno a sus riesgos y oportunidades y sobre cómo esta y tecnologías similares de inteligencia artificial (IA) podrían cambiar el mundo tal como lo conocemos.

Dada la capacidad de la aplicación para producir rápidamente resúmenes convincentes de conocimientos y comparaciones de diferentes puntos de vista (los tipos de tareas comúnmente asignadas en los cursos universitarios introductorios), muchos profesores universitarios y académicos se han preguntado qué podría significar su evolución para la escritura universitaria.

Algunas investigaciones están explorando el vínculo entre la escritura y el desarrollo intelectual de los estudiantes de grado.

Es urgente analizar los posibles peligros y oportunidades que presenta ChatGPT y cómo los educadores pueden utilizar la plataforma y otras tecnologías de IA para mejorar la escritura de los estudiantes.

Uno de los tipos de IA más avanzados es el modelo de lenguaje LLM (large language model), que se utiliza para realizar tareas relacionadas con el procesamiento del lenguaje natural. 

Hay varios ejemplos de modelos de lenguaje LLM

 

• Un sistema de búsqueda en internet que utiliza un LLM para comprender las consultasde los usuarios y ofrecer resultados relevantes.
• Una aplicación de traducción automática que utiliza un LLM para traducir textosde un idioma a otro de manera rápida y precisa.
• Un chatbot que utiliza un LLM para comprender y responder a las preguntasde los usuarios de manera autónoma.
• Una herramienta de análisis de sentimientos que utiliza un LLM para evaluar el contenido de opiniones de productoso servicios y determinar si son positivas o negativas.
• Un sistema de generación de texto automático que utiliza un LLM para crear contenido escritoa partir de un conjunto de pautas o temas específicos.

 

A medida que mejoran los modelos de lenguaje generativo, abren nuevas posibilidades en campos tan diversos como la salud, el derecho, la educación y la ciencia. Pero, al igual que con cualquier nueva tecnología, vale la pena considerar cómo pueden ser mal utilizadas. En el contexto de operaciones de influencia en línea recurrentes (esfuerzos encubiertos o engañosos para influir en las opiniones de un público objetivo), es preciso preguntarse: ¿Cómo podrían cambiar los modelos de lenguaje para influir en las operaciones y qué pasos se pueden dar para mitigar esta amenaza?

Creemos que es fundamental analizar la amenaza de las operaciones de influencia habilitadas por IA y delinear los pasos que se pueden tomar antes de que los modelos de lenguaje se utilicen para las operaciones de influencia a gran escala. Esperamos que nuestra investigación informe a los formuladores de políticas que son nuevos en los campos de la IA o la desinformación, y estimule la investigación en profundidad sobre las posibles estrategias de mitigación para los desarrolladores de IA, los formuladores de políticas y los investigadores de la desinformación.

El proyecto Grec-IA se centrará, principalmente, en el chatbot y en el sistema de generación de textos y tratará de analizar el impacto que tales desarrollos tienen en los ámbitos de la enseñanza y la creación textual, tanto desde el punto de vista de la emisión como de la recepción. En ese sentido, se atenderá la enseñanza, el aprendizaje, la escritura y la lectura como ámbitos desdoblados de una realidad compleja.