Quan la IA esborra les heroïnes: quin impacte té en la nostra imaginació?
Segons un estudi, les històries generades per IA invisibilitzen els personatges femenins. Com aquests biaixos modelen la imaginació col·lectiva i el benestar?
Introducció: On són les heroïnes a les històries de la IA?
T’has preguntat mai què explica la IA als infants quan li demanes que inventi una història? Un estudi compartit per ScienceAlert revela un fenomen inquietant: els personatges femenins gairebé no hi són. Aquesta desaparició invisible no és casual, sinó el resultat d’un mecanisme real que reflecteix els nostres propis biaixos. En aquest article, explorarem què significa això per a la imaginació, la representació i la salut mental mentre creixem — i per què aquest tema afecta tant a adults com a infants.
La IA, un mirall distorsionat dels nostres estereotips
Els models d’intel·ligència artificial que generen històries s’alimenten de grans bases de textos. Aquests textos ja estan plens d’estereotips de gènere: herois masculins, líders, aventurers... Les heroïnes, en canvi, sovint queden relegades a papers secundaris. La IA, lluny de corregir-ho, encara amplifica aquest desequilibri. Quan li demanes una història neutral, gairebé sempre posa els nois al centre i fa les nenes pràcticament invisibles.
Com aprèn la IA... i fa desaparèixer les heroïnes
La IA funciona amb aprenentatge automàtic: analitza milions de textos per detectar patrons i generar contingut coherent. Però si la majoria de textos posen els personatges masculins al centre, la IA reproduirà — i fins i tot accentuarà — aquesta tendència. L’estudi citat per ScienceAlert va analitzar centenars d’històries generades automàticament. Resultat: en els relats sense indicacions específiques, els personatges femenins són gairebé absents o queden reduïts a rols tòpics. - La IA reprodueix els biaixos de les dades d’entrenament - Com més desequilibrat és el corpus original, més ho serà
Per què la representació importa des de petits... i sempre
La construcció de l’imaginari col·lectiu comença molt aviat. Veure heroïnes, personatges diversos i models diferents permet que tothom s’hi pugui identificar, somiar i atrevir-se. Quan les històries invisibilitzen les nenes, limiten l’accés a certs rols, habilitats o aspiracions. Aquest fenomen no afecta només la infància: la nostra visió del món, la confiança i la capacitat d’imaginar possibilitats arrelen en els relats que consumim al llarg de la vida. Com menys diversitat hi ha a les històries, més petit és l’univers de possibilitats.
Biaixos de la IA: efectes subtils però reals en el benestar
La repetició d’estereotips a les històries pot tenir un impacte directe en la salut mental. Sentir-se representat vol dir sentir-se legítim, acceptat i valorat. Al contrari, l’absència o la caricatura d’alguns perfils pot generar sensació d’exclusió o devaluació. Encara que siguis adult, aquests biaixos continuen influint en la percepció de tu mateix, dels altres i de les possibilitats. La IA, en amplificar aquests mecanismes, planteja la responsabilitat col·lectiva de crear continguts més inclusius.
Què diu la ciència sobre els biaixos de la IA i les seves conseqüències
La recerca en psicologia social mostra que la representació als mitjans influeix en l’autoestima, les aspiracions i la construcció de la identitat. L’estudi de ScienceAlert no és l’únic que assenyala la responsabilitat de la IA en la difusió d’estereotips. Diversos treballs acadèmics alerten que, sense intervenció conscient, els models d’IA reprodueixen i accentuen les desigualtats existents. Els científics recomanen diversificar els corpus d’aprenentatge i posar-hi filtres per reduir aquests biaixos. Però la correcció no és automàtica: cal vigilància i voluntat d’actuar des del disseny de les
Solucions concretes: com actuar davant d’aquests biaixos?
Prendre consciència d’aquests punts cecs ja és un primer pas. Aquí tens algunes idees per fomentar la diversitat als relats i limitar l’impacte dels biaixos de la IA: - Prioritza continguts diversos, escrits per autors i autores de perfils diferents - Pregunta’t sempre per la diversitat de personatges a les històries - Dona suport a la recerca i la innovació per fer la IA més inclusiva - Informa dels biaixos que detectis a les eines d’IA que utilitzes Aquests passos no ho solucionen tot, però ajuden a mantenir una mirada crítica i a obrir la porta a més pluralitat a les històries, per a tote
Com Lunaia t’ajuda a cultivar una imaginació oberta i tranquil·la
A Lunaia sabem que la salut mental també es nodreix de la diversitat de relats que consumeixes. Prendre distància dels biaixos, reforçar la confiança i viure el present són maneres d’ampliar la teva perspectiva. L’app de Lunaia t’ofereix: - Exercicis de respiració per calmar la ment davant pensaments limitants - Meditacions guiades per reforçar l’autoestima i acollir la diversitat - Un check-in diari per prendre consciència de les teves emocions i influències Descobreix tots aquests recursos a https://lunaia.me. Tenir cura de la teva imaginació i obrir-te a més possibilitats també és cuidar
Quan la IA esborra les heroïnes: quin impacte té en la nostra imaginació? · Blog Lunaia