Josep Puyol-Gruart: “el gran problema de la IA és la cadena de responsabilitats”

En Josep Puyol-Gruart va estudiar Telecomunicacions a la UPC i després el doctorat en Informàtica a la UAB. Ara mateix investiga a l'Institut d'Investigació d'Intel·ligència Artificial (IIIA) a la UAB. El concepte de IA està present a les nostres vi...


07/02/2023 10:45 · Per Malena Crespo

Josep Puyol-Gruart, expert en IA | Foto cedida a Comunicación Científica


En Josep Puyol-Gruart va estudiar Telecomunicacions a la UPC i després el doctorat en Informàtica a la UAB. Ara mateix investiga a l'Institut d'Investigació d'Intel·ligència Artificial (IIIA) a la UAB. El concepte de IA està present a les nostres vides des de fa uns anys, però no és una ciència que hagi sorgit ara.

 

La IA és una ciència molt antiga?

Depèn de com ho vegis, es remunta a Turing i a la Segona Guerra Mundial. Però clar, 80 anys amb una ciència no són res. El que passava era que feien molta teoria d'IA i els ordinadors eren molt i molt lents. Era una cosa incipient. Aleshores moltes coses que es van plantejar avançaven i d'altres quedaven aparcades. Hi va haver un moment que van intentar vendre d'alguna manera la idea que es podia fer traducció automàtica. Per exemple del rus a l'anglès, perquè hi havia l'època de la guerra freda. I això va ser un fracàs. Llavors la intel·ligència artificial en general, tant a principis com avui dia, també ens serveix per entendre la nostra pròpia intel·ligència. Nosaltres d'ençà que naixem podem reconèixer a la mare, els nostres familiars i això no és tan senzill com perquè ho faci una càmera, per exemple. Amb aquests vuitanta anys hem anat avançant. El que sí que ha avançat molt de pressa i és exponencial és la potència dels ordinadors. Encara que no tot és potència, la potència és una part, després necessites fer els programes bé. I ara comencen a haver-hi aplicacions comercials que tenen utilitat. És un mercat enorme, hi ha molts diners pel mig. Comencen a entrar moltes empreses potents com Google, Amazon, que han fet un boom i ara només es parla d'això. I els periodistes han de filtrar el què és la veritat i el que és l'exageració o el que és intentar vendre coses.

 

Tot i aquest interès de les grans empreses, molta gent està preocupada pels perills de la IA. Per exemple, si un sistema de IA es "torna boja", existeix alguna "marxa enrere" per suspendre el sistema? Com els drons aeris a les guerres.

En principi sí. Tu l'has de programar perquè tingui això. Pensa que ni un dron, ni qualsevol aparell d'aquests entén el món, no pensa. Ell segueix uns programes. Les màquines fan el que el seu programa fa. El que passa és que tu pots deixar-los molt lliures amb moltes coses, però no significa que després ells decideixin per si mateixos. Quan un sistema és molt complex, pot fer el boig. Però no perquè vulgui el sistema, sinó perquè tu no pots fer una comprovació exhaustiva de totes les possibilitats a l'hora de fer un programa. N'hi ha tantes que no hi ha temps físic al món per a provar-les totes. Llavors què fas? Te la jugues, deixes que la cosa evolucioni per si mateixa i a veure què passa. És a dir, no tens un control total. No vol dir que el dron o un míssil es pugui "tornar boig", sinó que pot tenir un funcionament que tu no havies previst.

 

Clar, però agafant el que dius del míssil, si jo en programo un, alhora que falli, la culpa és meva. Però amb intel·ligència artificial, si un míssil va malament, de qui és la culpa?

Molt bona observació. Se'n parla molt dins de la intel·ligència artificial perquè abans només hi havia aquests matemàtics, més endavant es van posar els enginyers a fer aparells, després també els tecnòlegs, ara els inversors... la gran cosa que els impedeix avançar amb els cotxes autònoms, per exemple, és la responsabilitat. Amb sistemes tan complexos és molt difícil explicar el perquè de les coses. Les dimensions ètiques són molt importants; abans eren fantasies, però ara comencen a cobrar vida. Però rere de tot això també estan les lleis. Per exemple, si demanes un crèdit en un banc, la intel·ligència artificial et pot dir que no pots optar al crèdit, però no et detalla el perquè. Una persona real si et detallarà el perquè. Això, per exemple, està prohibit perquè hi ha una llei que diu que la persona ha d'estar en el cercle final de decisions. Amb tot, el gran problema de la IA és la cadena de responsabilitats.

 

Parlant de responsabilitats, hi ha el tema de la privacitat. A la IA, s'usen moltes dades personals?

Aquesta és una de les altres dificultats. Clar que s'utilitzen, però hi ha unes lleis que dictaminen la protecció de dades. Perquè després, amb els sistemes d'aprenentatge, poden fer comparacions. De fet, avui dia és molt difícil passar desapercebut, al final la intimitat ha desaparegut.

 

Quina és l'actualitat tecnològica? Què s'està investigant?

Com sempre de tot, però ara hi ha més gent que treballa –perquè el mercat també ho porta– en la qüestió de l'aprenentatge automàtic. Màquines que poden aprendre coses molt bé, però no saben explicar el perquè. Ara s'està intentant que detallin "els perquès".

 

Amb tot el que hem parlat, com definiries la IA?

És molt difícil. Però si som capaços de definir la intel·ligència humana, podem definir l'artificial, que és fer-ho amb màquines. S'ha de buscar capacitats. Una màquina que sigui autònoma, com tu, que ets una persona que depèn de tu mateixa. Busques alternatives enfront un problema, t'adaptes, aprens de les situacions i de l'entorn. Nosaltres considerem intel·ligent aquest tipus de comportament. Totes aquestes coses que considerem intel·ligents, si ho fan màquines, com també reconèixer cares o tenir memòria, ho podem posar dintre la intel·ligència artificial.


UABmèdiaUABmèdia newspaper-variantnotícies radioràdio play-circleplay Més...més...