L'Entrevista
Espai de reflexió, actualitat, difusió, prevenció i sensibilització consistent en una entrevista diària de temàtica diversa.
Subscriu-te
#1472 - IA o amic incondicional? Intel·ligència artificial i salut mental: beneficis, riscos, adolescents, privacitat i límits humans
Sintonia del programa i crèdits de col·laboració (Departament de Salut, ASIR, CHM Cornellà, etc.).
Salutació, presentació del Centre d’Higiene Mental de Cornellà i de les psicòlogues Marian Mesa i Yanina Pepe; esment de final de temporada.
Introducció a la IA com a tema d’actualitat i relació amb salut mental; advertiment que la IA no garanteix informació contrastada (cas de resultats IA a cercadors).
Etymologia d’“intel·ligència”, múltiples facetes, definició d’IA i tasques; preocupació pel creixement i penetració en la vida quotidiana.
Cultura de la resposta ràpida; la IA ofereix immediatesa i disponibilitat constant; empreses humanitzen els bots; risc de diluir el temps per pensar i desitjar.
Els joves poden refugiar-se en bots sempre disponibles i sense judici, especialment en casos d’aïllament o bullying; risc de substituir el vincle real i dificultar processos terapèutics.
Plataformes dissenyades per a nens amb TEA o altres diagnòstics; poden ajudar si no es perd el vincle i la interacció social presencial.
Importància del vincle d’aferrament en el desenvolupament: la mirada i reconeixement de la figura de cura no es pot automatitzar.
Sistemes que analitzen dades, detecten patrons i ajuden a diagnòstics; utilitat condicionada a supervisió professional i verificació.
Bots (Replika, ChatGPT) que simulen converses terapèutiques o d’amistat; risc de substituir el vincle i els processos propis de la teràpia.
Exemple d’error IA en interpretar irònicament un vídeo i recomanar cola per a la pizza; alerta sobre fiabilitat en temes complexos.
Risc d’encasellar símptomes i perdre la subjectivitat clínica; la complexitat humana no es redueix a criteris manuals.
Il·lusió d’anonimat; el que diem pot quedar registrat, analitzat o venut; la paraula en psicologia té un valor simbòlic i de treball, no d’arxiu.
Dependència d’eines automatitzades, manca de supervisió professional, biaixos algorítmics i vulnerabilitat de dades sensibles.
Plataforma amb bots que simulen psicòlegs o amics: més de 3M de visites diàries (16–30 anys); reflexió sobre l’oceà digital de relacions.
Escenes quotidianes d’ús intensiu del mòbil; advertiment que el servei ‘gratuït’ es paga amb dades i imatges, d’ús sovint desconegut.
Recomanació de demanar ajuda, parlar amb algú i mantenir el vincle; la teràpia pot ser en línia però amb subjectivitat; el sofriment requereix temps i acompanyament.
Resum final, agraïments al CHM Cornellà, comiat de temporada i anunci del retorn al setembre.
Resum executiu
- Tema central: la relació entre intel·ligència artificial (IA) i salut mental, amb èmfasi en adolescents, ús de bots, riscos de dependència i privacitat, i el paper insubstituïble del vincle humà.
- Missatge clau: la IA pot ser eina útil si hi ha supervisió professional i no substitueix la relació terapèutica ni les relacions humanes.
"La IA no és sinònim d’informació contrastada."
"El sofriment no s’ha de resoldre de forma instantània; l’encontre humà és insubstituïble."
Context i definicions
Què entenem per intel·ligència i IA
- La intel·ligència (del llatí, relacionat amb “elegir”) és la capacitat de discernir i resoldre problemes i té múltiples facetes no automàtiques.
- La IA és una rama de la informàtica que imita conductes intel·ligents: des de classificar dades fins a conversar, generar textos o fins i tot interpretar emocions.
- Preocupació central: el creixement vertiginós i la seva implantació massiva en mòbils, xarxes, feina i fins i tot en espais terapèutics.
Per què la IA s’ha colat a la vida quotidiana
- Vivim en una cultura de la immediatesa: volem respostes ràpides, poca tolerància a l’espera i a la incertesa.
- La IA encaixa perquè respon de seguida, sense dubtar, i és accessible 24/7 (p. ex. bots d’ajuda emocional).
- Advertiment: els resums IA en cercadors (p. ex. Google) poden no estar verificats ni entendre ironia/context.
Impacte en salut mental
Adolescents i “amic incondicional”
- Per a adolescents aïllats o amb bullying, els bots poden actuar com a “amics incondicionals”: sempre disponibles i sense judici.
- Risc: substituir el vincle real i evitar situacions que generen ansietat pot frenar el procés de creixement i la construcció subjectiva.
Usos potencials en TEA i altres perfils
- Existeixen plataformes dissenyades com a “amic interactiu” per a nens amb TEA o altres perfils.
- Pot ser positiu si aporta estructures i rutines, però només si no es descarta el vincle humà i la interacció social presencial.
El valor del vincle i el desenvolupament
- El vincle d’aferrament és essencial des de bebès: la mirada i reconeixement de la figura de cura és vital.
- En teràpia, més enllà d’una resposta funcional, es treballa: vincle, espera, obertura de preguntes, sostenir l’angoixa i tolerar el buit — aspectes no automatitzables.
Tipologies d’IA en salut mental
- IA “entre bastidors”: analitza i sintetitza dades, detecta patrons i pot optimitzar diagnòstics — útil si hi ha supervisió professional.
- IA generativa (bots, Replika, ChatGPT): interacció directa que pot simular converses terapèutiques o d’amistat; el risc és suplantar la relació terapèutica o social.
- Exemple de limitació: una resposta IA va recomanar “cola per enganxar el formatge” a la pizza per no detectar la ironia d’un TikTok — alerta sobre errors greus en àmbits complexos com la salut mental.
Riscos principals
- Dependència d’eines automatitzades i pèrdua de pensament crític.
- Manca de supervisió: recomanacions inadequades o potencialment perjudicials.
- Biaixos algorítmics (culturals, socials, de gènere): resultats inequitatius per a diferents orígens.
- Privacitat i seguretat: maneig de dades sensibles (historials emocionals, converses) amb dubtes sobre emmagatzematge, ús i protecció.
Privacitat, anonimat i economia de dades
- L’anonimat és sovint una il·lusió: el que diem pot ser analitzat, venut o reutilitzat en altres algoritmes.
- Plataformes “gratuïtes”: si el servei no es paga amb diners, es paga amb dades (informació i imatges compartides poden tenir ús desconegut).
- Observació social: bots que simulen psicòlegs o amics reben més de 3 milions de visites diàries (majoritàriament 16–30 anys), símptoma de la necessitat d’interacció i la seva digitalització.
Bones pràctiques i recomanacions
- Utilitza la IA com a eina de suport, no com a substitut de la teràpia ni del vincle humà.
- Contrasta informació amb professionals i fonts fiables; vigila la veracitat i el context.
- Sigues conscient de la privacitat: què comparteixes, on i amb quina finalitat.
- Si vius malestar emocional: demana ajuda i parla amb algú. La teràpia pot ser presencial o en línia, però sempre amb subjectivitat i vincle.
- Recordatori clau: el sofriment no es resol instantàniament; cal temps, pensament i acompanyament.