Cada vegada més acadèmies utilitzen eines d’intel·ligència artificial per preparar classes, corregir exercicis o crear continguts. Però què diu la normativa europea sobre el seu ús? T’expliquem què has de tenir en compte i quan cal informar-ne.
La intel·ligència artificial ja forma part del dia a dia de moltes acadèmies. Potser la fas servir per preparar exercicis de vocabulari, corregir redaccions, crear imatges per a Instagram o respondre consultes de futurs alumnes.
Són eines que poden facilitar moltes tasques. Però també han obert nous interrogants: cal avisar quan utilitzem ChatGPT? És obligatori indicar que un contingut s’ha generat amb IA? Què passa amb les dades dels alumnes?
Amb l’aplicació de noves obligacions del Reglament europeu d’intel·ligència artificial, conegut com a AI Act, és normal que sorgeixin dubtes.
La bona notícia és que no cal etiquetar tot el que es crea amb l’ajuda de la intel·ligència artificial. La normativa distingeix entre diferents usos i estableix obligacions concretes per a determinades situacions.
Vegem com afecta les acadèmies, amb exemples pràctics.
No sempre. Utilitzar ChatGPT per preparar una fitxa d’exercicis no és el mateix que incorporar un xatbot al web o fer servir una eina per avaluar automàticament els alumnes.
L’AI Act no estableix l’obligació general d’incloure la frase «creat amb IA» en tots els materials que preparis.
El més important és saber per a què s’utilitza l’eina, com funciona i si els seus resultats arriben directament als alumnes, a les famílies o al públic.
També convé diferenciar dues qüestions: informar sobre l’ús de la intel·ligència artificial i protegir les dades personals. Són obligacions diferents, tot i que totes dues poden intervenir en una mateixa activitat.
Imagina que estàs preparant una classe d’anglès i utilitzes ChatGPT per generar exercicis de vocabulari. O que li demanes que et proposi deu preguntes per repassar un tema de matemàtiques.
Has d’indicar que aquests exercicis s’han preparat amb IA?
En principi, no. La normativa europea no exigeix etiquetar cada fitxa o activitat que hagis creat amb l’ajuda de ChatGPT.
Això sí, la revisió del professorat continua sent important. Les eines d’IA poden cometre errors, proposar respostes incorrectes o generar exercicis que no s’ajustin al nivell dels alumnes.
Si vols explicar a les famílies que el centre utilitza intel·ligència artificial com a suport per preparar materials, pots fer-ho de manera general. No cal afegir una etiqueta a cada exercici.
La intel·ligència artificial també pot ajudar el professorat a revisar textos, detectar errors gramaticals o proposar comentaris per millorar una redacció.
Però aquí hi ha una diferència important: no és el mateix utilitzar ChatGPT com a suport per corregir que deixar que una eina decideixi automàticament la nota d’un alumne.
Alguns sistemes dissenyats per avaluar els resultats de l’aprenentatge es poden considerar d’alt risc segons l’AI Act. Això no vol dir que tots els correctors de text ho siguin. Depèn de com funcionen i de la finalitat amb què s’utilitzen.
També cal parar atenció a les dades personals. Si comparteixes treballs que permeten identificar un alumne, entren en joc les obligacions del Reglament general de protecció de dades (RGPD).
Un cop fetes les avaluacions, pots organitzar tota aquesta informació des d’Acadesoft. El nostre software per a acadèmies permet al professorat preparar informes de notes, revisar-los i validar-los abans de compartir-los amb els alumnes i les famílies.
Utilitzes ChatGPT per trobar idees per al blog de la teva acadèmia? O per preparar l’esborrany d’un butlletí informatiu?
No has d’indicar automàticament que tots aquests textos s’han redactat amb l’ajuda de la intel·ligència artificial.
L’article 50 de l’AI Act estableix obligacions de transparència per a determinats continguts generats o manipulats amb IA que es publiquen per informar sobre assumptes d’interès públic.
També preveu una excepció quan hi ha una revisió humana o un control editorial i una persona o entitat assumeix la responsabilitat de la publicació.
Per això, revisar el contingut continua sent fonamental, especialment quan es parla de beques, oposicions, normativa o requisits d’accés als estudis.
La IA et pot ajudar a preparar un primer esborrany, però comprovar que la informació és correcta, està actualitzada i prové de fonts fiables continua sent una part essencial de la feina.
Les eines d’intel·ligència artificial també han arribat a les xarxes socials. Les pots utilitzar per crear il·lustracions, preparar dissenys o generar recursos visuals per promocionar els teus cursos.
És obligatori avisar-ne sempre?
No. La normativa presta una atenció especial als anomenats deepfakes: imatges, vídeos o àudios creats o manipulats amb IA que poden semblar autèntics i representar situacions, persones o esdeveniments que no són reals.
Posem-ne un exemple.
No és el mateix publicar una il·lustració clarament fictícia per anunciar un curs d’estiu que compartir una imatge fotorealista generada amb IA i presentar-la com si mostrés alumnes reals de la teva acadèmia.
En el segon cas, hi pot haver obligacions de transparència.
La clau és com es presenta el contingut i si es pot confondre amb una situació real.
Cada vegada és més habitual trobar assistents virtuals a les pàgines web. Poden respondre preguntes sobre horaris, preus, cursos disponibles o processos de matrícula.
Si la teva acadèmia utilitza un xatbot amb intel·ligència artificial per conversar directament amb les persones, en general ha d’informar que estan interactuant amb una IA, llevat que sigui evident.
No cal complicar-ho. Un missatge com aquest pot ser suficient:
«Hola, soc l’assistent virtual amb IA de l’acadèmia. Puc ajudar-te a resoldre els teus dubtes o posar-te en contacte amb el nostre equip».
Així, les famílies i els futurs alumnes saben des del primer moment amb qui estan parlant.
I si el xatbot recull noms, telèfons, adreces electròniques o altres dades personals, també caldrà complir les obligacions corresponents en matèria de protecció de dades.
Una altra possibilitat interessant de la IA és adaptar les activitats al ritme d’aprenentatge de cada estudiant.
Per exemple, una eina pot suggerir exercicis de repàs per a un alumne que necessita reforçar determinats continguts o proposar activitats més avançades per a un altre.
En aquests casos, cal distingir entre una eina que proposa materials al professorat i una altra que avalua l’aprenentatge o intervé en decisions educatives importants.
La normativa pot establir obligacions diferents segons la finalitat del sistema.
A més, si utilitzes notes, informes o informació personal per generar aquestes activitats, hauràs de comprovar com es tracten aquestes dades i quines garanties ofereix l’eina.
Aquesta és una de les qüestions que més convé tenir presents quan utilitzem intel·ligència artificial en una acadèmia.
Imagina que vols preparar un informe de seguiment i decideixes copiar a ChatGPT les notes, els comentaris del professorat i les dades d’un alumne.
Encara que la teva intenció sigui estalviar temps, compartir informació personal amb una eina externa requereix comprovar que aquest tractament compleix l’RGPD.
I això no canvia pel fet de tenir una subscripció de pagament.
Tampoc n’hi ha prou, en tots els casos, amb eliminar el nom. En determinades situacions, la combinació de l’edat, el curs, les qualificacions o altres circumstàncies pot permetre identificar l’estudiant.
Per preparar exemples, exercicis o materials, una alternativa és utilitzar dades fictícies o correctament anonimitzades quan no sigui necessari treballar amb informació real.
D’altra banda, la gestió habitual de les dades de la teva acadèmia és una tasca diferent.
Matrícules, autoritzacions i la documentació administrativa des d’una mateixa plataforma.
Amb Acadesoft pots centralitzar la informació dels teus alumnes
La intel·ligència artificial pot ser una eina de suport per al professorat, però quan intervé en decisions importants sobre el recorregut acadèmic d’un alumne, les exigències poden ser més grans.
L’AI Act preveu que determinats sistemes destinats a avaluar resultats d’aprenentatge, decidir admissions o orientar itineraris educatius es puguin considerar d’alt risc.
Això no vol dir que qualsevol eina que utilitzi IA per treballar amb notes es classifiqui automàticament com a sistema d’alt risc.
El que importa és per a què està dissenyada i com s’utilitza.
A més, l’RGPD estableix garanties davant de determinades decisions preses exclusivament de manera automatitzada que poden tenir efectes rellevants sobre les persones.
La normativa europea també prohibeix, llevat d’excepcions específiques, utilitzar intel·ligència artificial per inferir emocions en l’àmbit educatiu.
El Reglament europeu d’intel·ligència artificial s’està aplicant de manera progressiva. Per això, no totes les obligacions entren en vigor al mateix temps.
Aquestes són algunes de les dates importants:
L’alfabetització en IA no implica que tot el professorat hagi d’obtenir un certificat oficial específic. La preparació dependrà de les eines que utilitzi cada centre i dels riscos associats.
I recorda que algunes normes, com les relacionades amb la protecció de dades o determinades pràctiques prohibides, ja són aplicables.
No cal preparar un document interminable per començar a organitzar com utilitza la intel·ligència artificial el teu equip.
Pots començar amb cinc qüestions força senzilles:
Són petits passos que poden ajudar a utilitzar aquestes eines d’una manera més organitzada i coherent amb el funcionament de l’acadèmia.
No. Utilitzar ChatGPT per preparar materials didàctics no implica, per si sol, l’obligació general d’etiquetar cada fitxa o exercici. No sempre. Depèn del tipus d’imatge i de com es presenta. Determinats continguts sintètics que es poden confondre amb situacions reals, com els deepfakes, estan subjectes a obligacions de transparència. Es pot utilitzar com a eina de suport, però cal diferenciar els suggeriments que revisa el professorat dels sistemes d’avaluació automatitzada. També és important protegir les dades personals de l’alumnat. En general, sí. Quan una persona interactua directament amb un xatbot d’intel·ligència artificial, ha de poder saber-ho, llevat que sigui evident pel context.
Contacta amb nosaltres i te'n farem una demostració sense cap compromís.
T'ajudem a portar la gestió de la teva acadèmia de manera fàcil.