08. Desenvolupar l'actitud ètica

Desenvolupar l'actitud ètica

Activar estratègies per actuar de manera ètica i transparent en l'ús de les eines de la IAG.

INICI

Introducció

L'actitud ètica implica prendre decisions responsables sobre com, quan i per què utilitzar eines d'IAG en entorns educatius. Va més enllà del compliment normatiu i inclou consciència crítica sobre els impactes socials, epistemològics i culturals. Suposa reconèixer que la tecnologia no és neutra: incorpora valors, prioritats i condicionants de les institucions que la desenvolupen. En aquesta píndola formativa presentarem sis reptes ètics en l'ús de les eines d'IAG i estratègies per fomentar una actitud ètica en cadascun d'aquests reptes.

Comencem

Sumari

Gestió de dades

Biaixos

Autoria i originalitat

Sostenibilitat mediambiental

Equitat i inclusió

Dependència

Reptes ètics

Gestió de dades

L'ús de la IAG a la universitat implica una enorme responsabilitat en la gestió de dades personals i acadèmiques. Els sistemes generatius funcionen a partir de grans volums d'informació, sovint sense transparència sobre l'origen, el tractament ni la finalitat de les dades. Els docents i les institucions han de garantir que l'ús d'aquestes eines respecti el Reglament General de Protecció de Dades (RGPD), especialment en contextos d'aprenentatge en línia o de retroalimentació automatitzada. La consciència crítica sobre què s'introdueix en un sistema d'IAG —textos d'estudiants, dades de recerca o continguts interns— és clau per mantenir la confidencialitat i l'autonomia digital. S'ha de garantir la privacitat i la transparència en l'ús d'informació d'estudiants, docents i institucions. Cal, doncs, una política institucional clara de governança de dades i transparència algorítmica.

Desenvolupar actitud ètica

Protecció de dades i privacitat

L'ús de plataformes d'IAG sovint implica transferència, emmagatzematge i processament de dades personals. Cal assegurar-se que les eines emprades compleixin la normativa de protecció de dades (com el RGPD), especialment quan intervenen servidors externs. Hem de fer que l'alumnat sigui conscient dels drets digitals i les normatives de protecció de dades. Possibles tasques:

• Auditoria de privacitat d'eines. Assignar una activitat per analitzar l'avís legal i la política de privacitat de les aplicacions d'IAG que faran servir. Els estudiants han d'identificar quines dades es recullen, per a què es fan servir, i els drets que hi tenen com a usuaris.

• Formació en conceptes clau. Dedicar una part d'una sessió a informar el RGPG i la LOPDGDD o la llei europea AI Act o donar accés a aquests documents perquè en siguin conscients.

lectura extra

AI Act

RGPD

LOPDGDD

Reptes ètics

Autoria i originalitat

La IAG qüestiona els fonaments de l'autoria i de la producció original del coneixement. En contextos universitaris, l'ús d'eines generatives per redactar treballs o elaborar materials pot diluir la frontera entre aportació pròpia i contingut generat automàticament. Això obliga a redefinir el concepte de creació i cocreació i a establir noves normes d'atribució i transparència en l'ús d'eines d'IAG. Els estudiants han d'aprendre a documentar com han utilitzat aquestes eines —per exemple, mitjançant una declaració d'ús de la IAG—, i els docents han de fomentar pràctiques d'escriptura reflexiva que facin valdre el procés cognitiu i crític, més que el producte final.

Desenvolupar actitud ètica

Autoria, responsabilitat i transparència en el procés d'aprenentatge

Les activitats han d'anar dirigides a explicitar què ha estat creat per l'estudiant i què ha estat generat amb IAG per promoure la transparència en el procés d'aprenentatge. Possibles activitats:

• Fitxa de traçabilitat. Proposar que amb les activitats en què s'usen les eines de la IAG l'estudiant adjunti una fitxa de traçabilitat que especifiqui el procés de cocreació. El detall de què se'ls demani (eina, prompts utilitzats, grau de modificació respecte a l'output original, etc.) dependrà de l'activitat i els objectius didàctics de la tasca.

• Creació de rúbriques de transparència. Dissenyar rúbriques per valorar tant la qualitat del contingut com el grau d'explicitació del procés i l'autoria (ús d'eines de la IAG, justificació de decisions, etc.).

Reptes ètics

Biaxios

Els models generatius reprodueixen i amplifiquen els biaixos presents a les dades amb què s'han entrenat. En l'àmbit educatiu, això pot traduir-se en continguts culturalment homogenis, androcentristes o nord cèntrics, que invisibilitzen la diversitat lingüística i epistèmica. La docència universitària ha de desenvolupar la competència crítica per identificar, mitigar i discutir aquests biaixos amb l'alumnat. Això inclou ensenyar-los a contrastar fonts, a reconèixer estereotips en les respostes de la IAG i a valorar el paper del context sociocultural en la construcció del coneixement. La IAG, usada críticament, pot esdevenir una eina per descolonitzar el pensament educatiu, no per reforçar jerarquies de saber.

Desenvolupar actitud ètica

Biaixos, desigualtats i justícia algorítmica

Els models d'IAG aprenen de dades que reflecteixen desigualtats socials, lingüístiques i culturals. Això pot reforçar estereotips, invisibilitzar minories o privilegiar determinats registres i varietats lingüístiques. Una actitud ètica implica detectar aquests biaixos, contextualitzar-los a classe i fomentar pràctiques de contrast crític amb fonts diverses. També cal considerar desigualtats d'accés: no tothom pot disposar de les mateixes eines o capacitats digitals. Possibles activitats:

• Anàlisi comparada de sistemes. Compara resultats de diferents IAG davant una mateixa consulta per veure si reprodueixen biaixos similars o diferents.
• Auditoria de biaixos. Dona respostes o resultats generats per una IA i fes que l'alumnat els examini per detectar si hi ha estereotips o discriminacions de gènere, ètniques, lingüístics o socials.

lectura extra

Reptes ètics

Sostenibilitat mediambiental

Els models d'IAG tenen un impacte ecològic considerable derivat del consum energètic dels centres de dades i de la petjada de carboni associada a l'entrenament i ús massiu dels models. En una universitat compromesa amb els objectius de desenvolupament sostenible (ODS), cal preguntar-se quin és el cost ambiental de la innovació digital i com reduir-lo. Promoure l'ús conscient, limitar la generació d'imatges o vídeos innecessaris i prioritzar eines més eficients són estratègies per avançar cap a una IAG pedagògicament significativa i ambientalment responsable.

Desenvolupar actitud ètica

Sostenibilitat i impacte ambiental

Per abordar l'impacte ambiental i fomentar una racionalitat d'ús de la intel·ligència artificial generativa (IAG) a l'aula universitària hem d'ajudar a desenvolupar una actitud responsable i sostenible. Possibles activitats:

• Pensament crític ecoètic. Integrar alguna activitat per conscienciar sobre el cost ambiental de la IAG (consum energètic, petjada de carboni, recursos naturals) i relaciona la tecnologia amb la sostenibilitat global.

• Càlcul de la petjada ecològica. Donar una tasca en què els estudiants investiguin i quantifiquin l'impacte energètic i de CO₂ d'entrenar i utilitzar models IAG.
• Projecte de solucions sostenibles. Fer grups perquè ideïn i proposin bones pràctiques per a un ús racional i responsable de la IAG a la universitat.

lectura extra

Reptes ètics

Dependència cognitiva i emocional

La facilitat d'accés i la immediatesa de la IAG poden fomentar una dependència cognitiva: l'estudiant pot delegar processos de pensament crític o creatiu en la màquina. En l'àmbit emocional, la relació amb assistents conversacionals pot generar una falsa percepció d'acompanyament o d'expertesa. Per això, la universitat ha de reforçar la competència metacognitiva i emocional en l'ús de la IA, i ajudar els estudiants a mantenir una relació conscient, equilibrada i èticament autònoma amb la tecnologia. L'objectiu és formar titulats que usin la IAG com a aliada del pensament, no com a substitut de la reflexió humana.

Desenvolupar actitud ètica

Desenvolupament de criteri i evitar la dependència

Cal fomentar un ús actiu i no acrític de la tecnologia, en què la IAG sigui vista com una eina de suport però no substitutiva del criteri docent ni de l'autonomia de l'estudiant. La dependència excessiva pot portar a la delegació de decisions importants als algoritmes. Possibles activitats:

• Ús guiat de la IAG. Planteja activitats en què la IAG s'utilitza només en certes fases o com a recurs complementari, no substitutiu del mateix raonament.

• Contrast constant humà-IAG. Incorpora activitats de comparació entre respostes obtingudes per la IAG i les alternatives construïdes pel grup o per cada estudiant per desenvolupar criteri propi.
• Autoreflexió i metacognició. Estimula la reflexió sobre l'ús personal de la IAG: quan en treus profit, on et pot bloquejar, i quins límits poses tu mateix. Pots portar a terme aquesta reflexió amb diaris d'aprenentatge.

lectura extra

Reptes ètics

Equitat i inclusió

L'adopció de la IAG pot ampliar desigualtats si no es gestiona amb criteris d'equitat. L'accés desigual a dispositius, idiomes, competències digitals o versions de pagament pot crear una nova bretxa educativa. Les institucions han de garantir que la integració de la IAG sigui inclusiva, plurilingüe i accessible, i que no reforci barreres preexistents per raó d'origen, gènere o discapacitat. A més, els algoritmes sovint privilegien llengües majoritàries, fet que pot afectar la presència de llengües minoritzades com el català en l'ecosistema digital. L'ètica de la IAG educativa passa, per tant, per la defensa del dret a una educació justa i diversa en tots els nivells.

Desenvolupar actitud ètica

Equitat i inclusió

S'ha de garantir l'accés universal i fer servir sempre eines gratuïtes, versions obertes o proveïdes pel centre, en el cas de la UB el Copilot (Microsoft). Hem d'assegurar que tot l'alumnat té el mateix accés als recursos digitals, i evitar l'exclusió per motius econòmics o d'infraestructura. Possibles activitats:

• Exploració d'eines en diferents idiomes i formats. Donar a provar eines d'IAG amb funcions d'accessibilitat (lectura en veu alta, subtitulat, adaptació visual) per mostrar com la tecnologia pot facilitar la inclusió.
• Introduir un diagnòstic inicial per conèixer les dificultats d'accés (connectivitat, dispositius, nivell de competències digitals) i planificar accions de suport adaptades.

lectura extra

Desenvolupar actitud ètica

Resum

En aquesta píndola formativa s'han tractat els reptes ètics següents amb suggeriments d'activitats per portar a l'aula. Gestió de dades: garantir la privacitatAutoria i originalitat: redefinir el concepte de cocreacióBiaixos: desenvolupar la competència críticaSostenibilitat ambiental: promoure l'ús conscientDependència cognitiva: mantenir una relació conscientEquitat i inclusió: assegurar una educació justa i diversa

Saber-ne més

Desenvolupar l'actitud ètica

Activar estratègies per actuar de manera ètica i transparent en l'ús de les eines de la IAG.

Píndola informativa elaborada per Joan-Tomàs Pujolà