Cada vez más academias utilizan herramientas de inteligencia artificial para preparar clases, corregir ejercicios o crear contenidos. Pero ¿qué dice la normativa europea sobre su uso? Te explicamos qué debes tener en cuenta y cuándo es necesario informar.
La inteligencia artificial ya forma parte del día a día de muchas academias. Quizás la utilizas para preparar ejercicios de vocabulario, corregir redacciones, crear imágenes para Instagram o responder consultas de futuros alumnos.
Son herramientas que pueden facilitar muchas tareas. Pero también han abierto nuevas preguntas: ¿Hay que avisar cuando utilizamos ChatGPT? ¿Es obligatorio indicar que un contenido está generado con IA? ¿Qué ocurre con los datos de los alumnos?
Con la aplicación de nuevas obligaciones del Reglamento Europeo de Inteligencia Artificial, conocido como AI Act, es normal que surjan dudas.
La buena noticia es que no es necesario etiquetar todo lo que se crea con ayuda de inteligencia artificial. La normativa distingue entre diferentes usos y establece obligaciones concretas para determinadas situaciones.
Vamos a ver cómo afecta a las academias, con ejemplos prácticos.
No siempre. Utilizar ChatGPT para preparar una ficha de ejercicios no es lo mismo que incorporar un chatbot a la página web o utilizar una herramienta para evaluar automáticamente a los alumnos.
El AI Act no establece una obligación general de incluir la frase «creado con IA» en todos los materiales que prepares. Lo importante es saber para qué se utiliza la herramienta, cómo funciona y si sus resultados llegan directamente a los alumnos, las familias o el público.
También conviene diferenciar dos cuestiones:
Son obligaciones distintas, aunque ambas pueden aparecer en una misma actividad.
Imagina que estás preparando una clase de inglés y utilizas ChatGPT para generar ejercicios de vocabulario. O que le pides que te proponga diez preguntas para repasar un tema de matemáticas.
¿Tienes que indicar que esos ejercicios se han preparado con IA?
En principio, no. La normativa europea no exige etiquetar cada ficha o actividad que hayas creado con ayuda de ChatGPT.
Si quieres explicar a las familias que el centro utiliza inteligencia artificial como apoyo para preparar materiales, puedes hacerlo de manera general. No hace falta añadir una etiqueta a cada ejercicio.
La inteligencia artificial también puede ayudar al profesorado a revisar textos, detectar errores gramaticales o proponer comentarios para mejorar una redacción.
Pero aquí hay una diferencia importante: no es lo mismo utilizar ChatGPT como apoyo para corregir que dejar que una herramienta decida automáticamente la nota de un alumno.
Algunos sistemas diseñados para evaluar los resultados del aprendizaje pueden considerarse de alto riesgo según el AI Act. Esto no significa que todos los correctores de texto lo sean. Depende de cómo funcionan y de la finalidad para la que se utilizan.
También hay que prestar atención a los datos personales. Si compartes trabajos que permiten identificar a un alumno, entran en juego las obligaciones del Reglamento General de Protección de datos (RGPD).
Una vez realizadas las evaluaciones, puedes organizar toda esta información desde Acadesoft un software para academias que permite al profesorado preparar informes de notas, revisarlos y validarlos antes de compartirlos con alumnos y familias.
¿Utilizas ChatGPT para encontrar ideas para el blog de tu academia? ¿O para preparar el borrador de una newsletter?
No tienes que indicar automáticamente que todos esos textos se han redactado con ayuda de inteligencia artificial.
El artículo 50 del AI Act establece obligaciones de transparencia para determinados contenidos generados o manipulados con IA que se publican para informar sobre asuntos de interés público. También contempla una excepción cuando existe una revisión humana o un control editorial y una persona o entidad asume la responsabilidad de la publicación.
Las herramientas de inteligencia artificial también han llegado a las redes sociales. Puedes utilizarlas para crear ilustraciones, preparar diseños o generar recursos visuales para promocionar tus cursos.
¿Es obligatorio avisar siempre?
No. La normativa presta especial atención a los llamados deepfakes: imágenes, vídeos o audios creados o manipulados con IA que pueden parecer auténticos y representar situaciones, personas o acontecimientos que no son reales.
Pongamos un ejemplo.
No es lo mismo publicar una ilustración claramente ficticia para anunciar un curso de verano que compartir una imagen fotorrealista generada con IA y presentarla como si mostrara a alumnos reales de tu academia.
En el segundo caso pueden existir obligaciones de transparencia.
La clave está en cómo se presenta el contenido y si puede confundirse con una situación real.
Cada vez es más habitual encontrar asistentes virtuales en páginas web. Pueden responder preguntas sobre horarios, precios, cursos disponibles o procesos de matrícula.
Si tu academia utiliza un chatbot con inteligencia artificial para conversar directamente con las personas, en general debe informar de que están interactuando con una IA, salvo que resulte evidente.
Así, las familias y los futuros alumnos saben desde el principio con quién están hablando.
Y si el chatbot recoge nombres, teléfonos, correos electrónicos u otros datos personales, también será necesario cumplir las obligaciones correspondientes de protección de datos.
Otra posibilidad interesante de la IA es adaptar las actividades al ritmo de aprendizaje de cada estudiante.
Por ejemplo, una herramienta puede sugerir ejercicios de repaso para un alumno que necesita reforzar determinados contenidos o proponer actividades más avanzadas para otro.
En estos casos, hay que distinguir entre una herramienta que propone materiales al profesor y otra que evalúa el aprendizaje o interviene en decisiones educativas importantes.
La normativa puede establecer obligaciones diferentes según la finalidad del sistema.
Además, si utilizas notas, informes o información personal para generar esas actividades, tendrás que comprobar cómo se tratan esos datos y qué garantías ofrece la herramienta.
Esta es una de las cuestiones que más conviene tener presentes cuando utilizamos inteligencia artificial en una academia.
Imagina que quieres preparar un informe de seguimiento y decides copiar en ChatGPT las notas, los comentarios del profesorado y los datos de un alumno.
Aunque tu intención sea ahorrar tiempo, compartir información personal con una herramienta externa requiere comprobar que ese tratamiento cumple el RGPD.
Y esto no cambia por tener una suscripción de pago.
Tampoco basta siempre con eliminar el nombre. En determinados casos, la combinación de edad, curso, calificaciones u otras circunstancias puede permitir identificar al estudiante.
Para preparar ejemplos, ejercicios o materiales, una alternativa es utilizar datos ficticios o correctamente anonimizados cuando no sea necesario trabajar con información real.
Por otro lado, la gestión habitual de los datos de tu academia es una tarea diferente.
Matrículas, autorizaciones y la documentación administrativa en una misma plataforma.
Con Acadesoft puedes centralizar la información de tus alumnos
La inteligencia artificial puede ser una herramienta de apoyo para el profesorado, pero cuando interviene en decisiones importantes sobre el recorrido académico de un alumno, las exigencias pueden ser mayores.
El AI Act contempla como potencialmente de alto riesgo determinados sistemas destinados a evaluar resultados de aprendizaje, decidir admisiones u orientar itinerarios educativos.
Esto no significa que cualquier herramienta que utilice IA para trabajar con notas esté automáticamente clasificada como de alto riesgo.
Lo que importa es para qué está diseñada y cómo se utiliza.
Además, el RGPD establece garantías frente a determinadas decisiones tomadas exclusivamente de forma automatizada que pueden tener efectos relevantes sobre las personas.
La normativa europea también prohíbe, salvo excepciones específicas, utilizar inteligencia artificial para inferir emociones en el ámbito educativo.
El Reglamento Europeo de Inteligencia Artificial se está aplicando de manera progresiva. Por eso, no todas sus obligaciones entran en vigor al mismo tiempo.
Estas son algunas de las fechas importantes:
La alfabetización en IA no implica que todo el profesorado necesite obtener un certificado oficial específico. La preparación dependerá de las herramientas que utilice cada centro y de los riesgos asociados.
Y recuerda que algunas normas, como las relacionadas con protección de datos o determinadas prácticas prohibidas, ya son aplicables.
No hace falta preparar un documento interminable para empezar a organizar cómo utiliza la inteligencia artificial tu equipo.
Puedes comenzar con cinco cuestiones bastante sencillas:
Son pequeños pasos que pueden ayudar a utilizar estas herramientas de una manera más organizada y coherente con el funcionamiento de la academia.
No. Utilizar ChatGPT para preparar materiales didácticos no implica, por sí solo, una obligación general de etiquetar cada ficha o ejercicio. No siempre. Depende del tipo de imagen y de cómo se presenta. Determinados contenidos sintéticos que pueden confundirse con situaciones reales, como los deepfakes, están sujetos a obligaciones de transparencia. Puede utilizarse como herramienta de apoyo, pero hay que diferenciar las sugerencias que revisa el profesorado de los sistemas de evaluación automatizada. También es importante proteger los datos personales del alumnado. En general, sí. Cuando una persona interactúa directamente con un chatbot de inteligencia artificial, debe poder saberlo, salvo que resulte evidente por el contexto.
Contacta con nosotros y te haremos una demostración sin compromiso.
Te ayudamos a llevar la gestión de tu academia de forma fácil.