Lluís Nacenta: "La intel·ligència artificial sempre serà una mena de súper lloro”

Amb motiu del curs ‘La intel·ligència artificial i el seu impacte en la cultura’, del qual se n’han fet dues edicions al llarg del mes de juny a causa de l’alta demanda, hem conversat amb Lluís Nacenta, un dels grans experts del nostre país al voltant d’aquesta qüestió. Aquest és el resultat apassionant de l’entrevista que va concedir-nos.

 

La conferència inaugural de l’última edició del Sónar abordava la Intel·ligència Artificial i el seu títol era ben explícit: Generating Panic [2]. Hem de sentir pànic davant de la IA?

Jo crec que no, tot i que és una reacció totalment lògica, perquè hi ha usos de la IA que ens donen motius d’alarma. Crec que s’ha d’estar informats i prendre la paraula en el debat sobre com s’utilitza i es desenvolupa la IA, i reaccionar a aquest pànic, que podria ser raonable, amb informació i dades, i també amb articulació social i política per posar límits a aquests usos que són abusius.

 

El filòsof xinès Yuk Hui, que ha reflexionat extensament sobre el paper de la tecnologia [3], ha manifestat recentment [4] que l’oposició entre la intel·ligència humana i l’artificial es planteja de manera molt ingènua. No podem dir que siguin la mateixa cosa, però segons el seu parer aquesta oposició ens situa en un cul de sac. Què en penses? Hi ha una sola intel·ligència còsmica que s’expressa de manera diferent o moltes intel·ligències diverses?

 

Comparteixo totalment la posició de Yuk Hui, en el sentit que la separació entre la intel·ligència anomenada natural i la intel·ligència sintètica o artificial és forçada. L’ús que fem els humans de la tecnologia és a la manera de pròtesis, és a dir, nosaltres construïm eines que són extensions, complements, reforços i externalitzacions dels nostres sentits, de la nostra memòria i de la nostra imaginació. Nosaltres treballem, pensem, imaginem i recordem de manera complementària a aquestes eines. No és veritat que la intel·ligència humana estigui separada de les eines que l’assisteixen. Aquesta separació és totalment falsa. D’altra banda, l’anomenada intel·ligència artificial està plena d’intervenció humana. Els sistemes més sofisticats d’intel·ligència artificial tenen el treball de molts humans que l’assisteixen constantment perquè facin les coses que volem de manera correcta. Pel que fa a la segona part de la pregunta, jo estic convençut de la diversitat de les intel·ligències. Hi ha molts exemples en el regne animal i vegetal que demostren que el fet d’observar l’entorn i prendre decisions en base a la informació de manera estratègica no és una cosa exclusivament humana. Però fins i tot en els humans les intel·ligències són múltiples. Coneixem moltes persones que podem qualificar d’intel·ligents i que tenen actituds molt diferents. Per tant, em sembla que considerar que la intel·ligència és només una em sembla una aproximació molt limitada.

 

Lluís Nacenta @CCCB

 

De fet la frontera entre l’artificialitat i allò natural cada cop és més difusa... Sembla que encara no hem resolt els problemes de la intel·ligència “natural” i ja estem llançant-nos a la piscina de l’artificial...

 

Una de les coses més interessants de la intel·ligència artificial és fer-la servir per comprendre la intel·ligència en general, perquè no tenim clar què entenem per intel·ligència, ja que és una cosa que es pot definir de moltes maneres diferents. Encara que la intel·ligència artificial ens sembli tan potent en termes generals és molt més limitada que la humana. I per tant ens serveix com a prototip. Fer un artefacte que pretén imitar alguns aspectes de la intel·ligència humana ens serveix per anar entenent com funciona el cervell humà, que és una cosa de la que en sabem molt poc, ja que és un dels aspectes del nostre organisme que ens és més desconegut.

 

Justament en relació al que acabes de dir, Jordi Torres, en un dossier sobre intel·ligència artificial [5] publicat recentment a Qüestions de vida cristiana, sosté que una de les limitacions que presenten les intel·ligències artificials és que, malgrat la seva capacitat per fer càlculs complexíssims en mil·lisegons, els manca el sentit comú, entès com a bagatge de factors psicològics, biològics i experiencials que ens permeten prendre decisions en entorns d’incertesa. Hi estàs d’acord?

 

Totalment d’acord. Jordi Torras és un gran expert amb qui he tingut el plaer de col·laborar i de qui he après molt. No puc estar-hi més d’acord. Una prova interessant d’això és com és de costós i difícil dotar els sistemes d’intel·ligència artificial d’alguna cosa propera al sentit comú. Els hem d’aportar una enorme quantitat d’informació i una enorme capacitat de correlacionar aquesta informació perquè arribin a disposar d’una mica del sentit comú que els humans tenim gairebé m’atreviria a dir per naturalesa. El sentit comú què vol dir? Adonar-se de coses que se’ns fan evidents a la intel·ligència i a la sensibilitat humanes, però que si les haguéssim d’explicar potser ens costaria molt o ens perdríem en una argumentació dialèctica que no ens duria enlloc. Són coses que se’ns fan evidents als humans. Un exemple: totes les persones tenim els mateixos drets i totes les persones som iguals de dignes, no importa on haguem nascut, qui siguin els nostres pares, de què treballem o la riquesa que tinguem. Això és una cosa de sentit. Ara bé, si no tens sentit comú podries arribar a qüestionar una cosa que és evident per a qualsevol ésser humà que sigui sensible.

 

En relació a l’acumulació de dades, fa la impressió que un dels instruments més coneguts de la IA, el ChatGPT ha millorat molt en els últims temps, a base d’un procés d’acumulació de dades i d’eliminació d’informacions inexactes, a través de l’assaig i error. Pot ser important la nostra aportació a l’hora de polir la informació o bé és irrellevant en un context de milions o bilions de dades?

 

És fonamental aquest procés. Per això deia abans que la intel·ligència artificial i la humana no estan separades, perquè quan et fixes en una t'adones que està plena de l’altra. En aquest cas, el que podríem anomenar intel·ligència artificial, i el ChatGPT en seria un cas conegut i potent, està ple d’intervencions humanes. Aquesta última versió del ChatGPT-4o, que s’ha anunciat a bombo i platerets amb els OpenAI, fa coses com connectar-se a Internet per buscar informació. I això no és intel·ligència artificial, ja existia abans. Tu li deies qui era Eugeni d’Ors i sabia qui era, tot i que es podia equivocar en l’any de naixement. S’equivocava en dades perquè aquest sistema no era capaç de connectar-se a la Viquipèdia. I ara li han afegit aquestes correccions a posteriori justament pel que dèiem abans, perquè tingui una mica més de sentit comú i sigui més realista. Però el que fa bàsicament és connectar-se a Internet i fer-hi consultes. Si això és un gran avenç de la tecnologia, a mi que m’ho expliquin...

 

Ets llicenciat en matemàtiques i a més pianista. Tens un doble vessant científic i humanista, però com arribes al món de la IA?

 

Hi arribo perquè el  món de la computació, i en concret el món de l’algorísmica i la computació sempre m’han interessat. Penseu que els algorismes d’intel·ligència artificial no són nous, ni molt menys. Ara han esclatat perquè la computació ha arribat a un nivell de potència que fa que aquestes tècniques es puguin desenvolupar i agafar molta rellevància. Però jo, a primer de matemàtiques, vaig estudiar xarxes d’autoaprenentatge, i de fet en programàvem. En aquell moment eren xarxes que no eren tan potents com ara a causa de les limitacions. És un interès que sempre he tingut. M’interessa moltíssim l’art algorítmic i també la relació entre la capacitat dels humans de programar, d’escriure codi i programar computadores, que vol dir bàsicament crear sistemes generatius que evolucionen al llarg del temps, i també m’interessa el món de l’art, en concret l’art generatiu. I la intel·ligència artificial generativa té a veure amb algorismes que evolucionen al llarg del temps d’una manera que no estava plenament prevista per la persona que l’ha programat. I d’aquí ve el meu interès per aquest camp.

 

Un dels problemes de la IA és la creació d’informacions falses o inexactes, que sovint porten a conclusions errònies i precipitades, sense contrast previ. En un món de fake news desbocat que comporta això?

 

Comporta un perill. És el pànic a què al·ludíem al principi. La IA utilitzada de manera irresponsable pot produir mentides tremendament convincents. De fet mentides gairebé impossibles de distingir de la veritat. I no només pel que fa als textos. Mentir en els textos és una cosa vella. Ara ja es pot produir un vídeo teu amb la teva cara, amb la teva veu, amb el moviment dels teus llavis i fins i tot amb la teva gestualitat natural, dient qualsevol bajanada. Això és possible avui dia per poc que hi hagin quatre vídeos teus a YouTube, que ara tots pràcticament tenim. Per tant, això són decisions polítiques i socials. Però tot depèn de com es faci. També podria ser una cosa molt interessant per al cinema i la ficció. El problema és quan es fa amb voluntat de desinformació. I això s’ha fet. No seria cap bajanada dir que l’auge tan preocupant de l’extrema dreta ve de la gran capacitat que tenen els mitjans digitals de distribuir de manera convincent mentides, mitges veritats i veritats esbiaixades. Per la xarxa circulen gran quantitat de continguts racistes, masclistes, classistes i tot el pitjor de l’espècie humana, gràcies a aquesta gran capacitat que té aquesta tecnologia d’explicar mentides de manera convincent. Això és un perill real i s’hi han de posar límits. S’ha de tenir clar que la intel·ligència artificial ben utilitzada seria un gran factor per recórrer la xarxa i descobrir-hi mentides. També es podria utilitzar de manera beneficiosa, però no és com s’està utilitzant de manera generalitzada, ni molt menys.

 

Parlem ara de la cultura. Sabem que la IA impactarà de manera forta en la generació de continguts. De fet ja ho estem experimentant en el camp del guionatge, de l’art i de la música. Què podem esperar en els pròxims anys?

 

Ja està tenint un impacte gran en la cultura. Per què? Perquè el  món de la cultura sempre ha estat a l’avançada de la transformació dels llenguatges i de les transformacions dels mitjans de comunicació. Això ja està passant i encara passarà més. Està bé que el món de la cultura s’espanti, perquè hi ha coses de la IA que com hem dit al principi generen pànic, i justificadament, tot i que seria molt important per mi que el món de la cultura prengués un rol protagonista en el desenvolupament i l’ús d’aquesta tecnologia. Perquè aquesta tecnologia afectarà la cultura molt fortament. I és responsabilitat dels seus professionals i de les persones que estimen la cultura, que bàsicament inclou tothom, perquè sempre hi ha un aspecte de la cultura que t’agrada, és una responsabilitat -insisteixo- fer que la intel·ligència artificial no danyi la cultura i la faci més mediocre, més estandarditzada, més precaritzada, sinó que la faci més rica i interessant, i que sigui una eina de popularització de la capacitat de crear cultura.

 

En el camp de la música han aparegut plataformes d’IA, com Amper Music. I artistes com l’alemany Mario Klingemann [6] ja treballen amb la IA per tal de crear les seves obres. Tanmateix Klingemann considera que la IA encara depèn de la influència humana per produir sentit. Els humans escullen les dades, el disseny i afinen els resultats. La intel·ligència artificial podrà ser plenament creativa algun cop?

 

No.

 

Categòric...

 

Ho tinc claríssim. No, no és creativa. És generativa. Però tot depèn del que entenguem per creació. Pot ser creativa en el sentit que pot aportar coses que no són exactament iguals al que existia abans. En aquest sentit molt modest sí que pot ser creativa. Si tu li demanes que escrigui un conte que passi a Barcelona a l’estiu i que tingui a veure amb un taxi, això ho farà. I aquest conte no existia abans. En aquest sentit podem dir que sí que és creativa. Però aquest conte serà un refregit de tot de coses que la IA té a les seves bases de dades. Però la creativitat humana és molt més que això. La creativitat és en l’art, en l’esport, en l’economia, en la política... Hi és a totes bandes. Messi, o bé Aitana Bonmatí, no son només uns gran futbolistes, son uns creadors. Son gent que han fet coses que abans eren impensables. En tots els camps de l’activitat humana hi ha persones creadores. I què vol dir això? Per mi una persona creadora és algú que fa quelcom que abans era una cosa inimaginable. Una creació, per mi, és una cosa que canvia el panorama, que el transforma perquè introdueix elements que abans eren inconcebibles. I això la IA és incapaç de fer-ho, per naturalesa. Per com opera i com està programada, la IA serà sempre una mena de súper lloro, sempre repetirà, amb un nivell de sofisticació tan alt com vulgueu, aquelles coses que té a les seves bases de dades.

 

Un exemple de recreació estil lloro. La IA ja ha creat una versió de Frank Sinatra cantant Smells Like Teen Spirit de Nirvana [7]. I la cosa ja és per treure’s el barret. Però és una recreació...

 

És molt convincent. La IA és molt sofisticada i té una gran capacitat de reproduir detalls. Però jo no estic disposat que algú consideri que això és creatiu. Jo tinc un concepte més elevat del que és la creativitat.

 

Posem-nos en el lloc d’un gestor cultural. Com afectarà la IA la seva feina diària? Què li diries a un professional que encara veu lluny tot aquest món?

 

Li diria que s’hi aproximi amb curiositat, sense prejudicis i amb sentit crític. Si els professionals de la cultura no prenem la paraula en el debat de la  IA i no hi som actius en el seu ús, la IA entrarà en el món de la cultura de manera irresponsable. La tecnologia dona a les persones que la desenvolupen la idea errònia que poden fer coses que no saben fer. Un enginyer informàtic pot arribar a pensar que pot fer música, perquè és capaç de dissenyar algorismes que fan música. Però fer música i fer-la bé és molt difícil, i requereix el coneixement, la sensibilitat i l’entrenament d’un músic. Encara que una companyia tecnològica pugui desenvolupar un algorisme que toqui el violí, això no vol dir que aquest algorisme sigui capaç de crear una cançó bella, o un quartet de corda interessant d’escoltar. Mentre les companyies tecnològiques creen violins sintètics els músics hi han de ser, per tal que la música que fan aquests violins sintètics continuï sent interessant. En el món de la gestió també, perquè hi ha una part tècnica en la IA, pel que fa a l’arxiu i la classificació, que és molt important en el món de la cultura. O també en el camp dels drets, que ara estan totalment esbudellats, perquè el copyright ha saltat pels aires a causa que la IA en fa un ús totalment indiscriminat. Aquí és molt important que la gent de la cultura hi sigui, per dir quins són els drets que s’han de defensar en relació als agents culturals, de les persones que estan creant ara mateix, però també d’aquells bens del passat que ens han estat llegats i que són importants de preservar i de conèixer. I aquí els professionals de la cultura han de ser-hi i han de treballar. I lluny de tenir por han de tenir voluntat de conèixer-la. És una qüestió també de curiositat. La IA no és mecànica quàntica, és fàcil de conèixer-la i tots podem entendre com funciona si ens hi posem. I és responsabilitat nostra fer-ho. Les tecnologies són com l’aigua, ho acabaran omplint tot. Per tant, més val que nosaltres fem de jardiners i diguem on ha d’anar l’aigua. Els qui abans vivíem en el jardí de la cultura hem de tenir agència per decidir per on volem que vagi aquesta aigua, perquè sinó, entrarà a sac com un tsunami.

 

Abans esmentaves Eugeni d’Ors. Però per acabar, tot parafrasejant Torras i Bages, aquí va l’última pregunta: Catalunya serà robòtica o no serà?

 

Això no és veritat en cap lloc del món. Però en canvi els catalans en sabem moltíssim d’informàtica. La Viquipèdia en català està entre les millors del  món, no per quantitat, però sí per qualitat i fiabilitat dels seus articles. A més la cultura catalana té aquesta arrel anarquista de l’associacionisme, dels centres esportius, dels grups de diables, dels castellers... És una societat molt articulada i això també té la seva vessant informàtica. És una cultura on hi ha servidors, programadors i defensors del software lliure. Jo no crec que Catalunya serà robòtica o no serà, però sí que crec que Catalunya és molt robòtica i això és un dels seus punts forts. I no només pel Mobile World Congress, sinó per moltes coses que fem molt bé en el camp de la cultura digital.

 

_______________________________________________________________________