Els sistemes d'intel·ligència generativa determinen la vulnerabilitat de les dades personals i el nostre benestar emocional
Claudia Arjona Martínez i Laura Martínez Sánchez
La intel·ligència artificial forma part de la nostra vida quotidiana cada cop més. Segons el darrer informe del Ministeri d’Economia, Comerç i Empresa d’Espanya, quatre de cada deu empreses del sector de la comunicació fan ús de la intel·ligència artificial. Aquesta pràctica s’ha accelerat des del llançament de ChatGPT fa dos anys. Tanmateix, el funcionament de les plataformes d’intel·ligència generativa tenen implicacions en altres àmbits econòmics, legals i ètics.
“Els sistemes d’intel·ligència artificial generativa es basen en l’aprenentatge. ChatGPT, per exemple, l’han entrenat amb tot el contingut que hi ha a Internet, encara que no sigui fiable o hagi estat contrastat”, expressa Pedro Meseguer, informàtic de l’Institut d’Investigació en Intel·ligència Artificial a la UAB. Els sistemes generatius creen xarxes neuronals basades en la informació que l’usuari li proporciona. Cadascuna de les seves connexions està relacionada a un pes i un codi numèric que s’activa segons els paràmetres o queries formulats.
No obstant això, els sistemes generatius com ChatGPT presenten una capsa negra de processament, atès que “en l’actualitat, és impossible retrocedir a l’origen i les fonts de les seves explicacions”. El buit legal ha provocat demandes per part d’autors com George R. Martin, escriptor de Joc de Trons, qui afirma que ChatGPT ha utilitzat la seva novel·la sense permís per a entrenar-se.
Pedro Meseguer destaca que “la intel·ligència artificial s’està beneficiant de la propietat intel·lectual externa per a entrenar-se i perfeccionar-se, però aquests autors no reben cap royalty ni benefici econòmic a canvi. Alhora, la manca de transparència provoca que els mateixos usuaris no sàpiguen l’origen de la informació, de manera que es poden produir més errors.” Per aquest motiu, noves eines com Explainable AI pretenen mostrar quines són les connexions que s’activen a la xarxa neuronal.
Infografia sobre el funcionament de la capsa negra. Creació: Claudia Arjona Martínez
La intel·ligència artificial generativa està canviant el funcionament de diversos sectors com la psicologia. Segons l’estudi titulat AI in relationship counselling: Evaluating ChatGPT's therapeutic capabilities in providing relationship advice de la Universitat de Lausanne, ChatGPT pot donar-nos consells útils sobre com millorar les relacions. No obstant això, encara presenta dues limitacions importants: la falta de profunditat emocional i la capacitat d'abordar situacions difícils de manera adequada.
Pedro Meseguer desaconsella “fer servir aquestes eines d'IA generativa per a consulta psicològica. D'una banda, perquè al sistema li estàs donant molta menys informació que si tenim una conversa amb un humà, metge, psicòleg... D'altra banda, perquè no tens cap bondat de la garantia de les dades”.
A més, segons la World Compliance Association, el processament de dades massives és un component essencial per a l'aprenentatge d'aquestes tecnologies, de forma que es podrien generar vulnerabilitats davant d'usos indeguts o fugues d'informació. Meseguer opina que “la IA generativa s'alimenta de dades i pot donar resultats molt espectaculars i incerts. Si està recollint dades confidencials, pot tenir implicacions sensibles a la privacitat de l’usuari.”
Actualment, hi ha diverses tendències preocupants respecte dels usos de la intel·ligència artificial. “Està el problema de les armes autònomes, que ja estan en funcionament als conflictes bèl·lics. El reconeixement facial per al control de la població ja es pot col·locar, per exemple, a les estacions de metro i la via pública. Les distopies sempre són possibles si existeix la tecnologia necessària perquè es puguin implementar”, comenta Meseguer.
L’ètica és el mecanisme per a determinar quins són els usos lícits de la intel·ligència artificial generativa. No obstant això, l’ús de dades personals i la humanització de la IA poden vulnerar les bones pràctiques de la tecnologia.
Aquest contingut és una activitat formativa de l'assignatura Periodisme Científic i de Salut, sota la supervisió de la professora Mireia Camacho.
