Les xarxes i els robots esdevenen ‘socials’: cal un debat ètic

La invenció d’internet i la irrupció dels telèfons mòbils han propiciat l’aparició de les xarxes socials. Un fenomen difícil de preveure fa tan sols un parell de dècades. Com tampoc ho era que els robots sortissin de l’àmbit estrictament laboral per donar pas als anomenats robots socials, que cada vegada veurem més en entorns quotidians: assistint a discapacitats i persones grans, fent de recepcionistes o dependents en centres comercials, com a guies en fires i museus, actuant com a companys de joc de joves i adults, i, fins i tot, exercint de mainaderes i mestres de reforç.
 

Les tecnologies informàtiques i robòtiques suposen un pas més en la transformació social que va començar amb la revolució industrial, però hi introdueixen una diferència qualitativa. Ja no es tracta merament de mecanitzar feines pesades i repetitives a les fàbriques i oficines, o que els electrodomèstics alliberin temps que les persones puguin utilitzar de manera més creativa i plaent. La diferència rau en què aquestes noves tecnologies incideixen en el cercle social i de relació entre les persones, és a dir, entren en l’esfera de les emocions i dels sentiments.

Això fa aflorar un seguit de qüestions ètiques que no tenia sentit plantejar per a altres tipus de màquines. Per exemple, un malalt podria creure que el robot que el cuida es preocupa realment pel seu benestar i delegar-li totes les decisions. O un nen podria pensar que el seu company robòtic és un veritable amic. Un portàtil de feina sabria quan i on l’usuari ha estat més productiu i podria compartir aquesta informació amb altres dispositius per optimitzar el rendiment o bé per a altres finalitats, amb o sense el consentiment del propi usuari. Per no parlar de la capacitat de manipulació dels anomenats influencers i dels possibles mals usos de la gran quantitat d’informació que compartim a les xarxes socials, que pot ser utilitzada per a l’assetjament escolar o immobiliari, i per a xantatges i intimidacions de tota mena, sovint des de l’anonimat i amb un abast molt superior al que podria donar-se en el món físic.

L’any 2013, als EUA, associacions tan prestigioses com l’Association for Computing Machinery (ACM) i l’Institute of Electrical and Electronics Engineers (IEEE) van aprovar conjuntament un pla d’estudis per a les carreres d’enginyeria i informàtica[1] en què s’incloïa una assignatura d’ètica aplicada a la tecnologia, on cada vegada més es tracten temes d’ètica en internet i en la robòtica (matèria que s’ha batejat com “roboètica”). Els aspectes més debatuts són els que afecten els àmbits militar i mèdic, juntament amb els de privacitat, responsabilitat legal i fractura digital. Les qüestions de caire afectiu, psicològic i social, com les esmentades més amunt, només ara comencen a plantejar-se amb la popularització de les xarxes socials i la robòtica assistencial.

Si el desenvolupament tecnològic ja acostumava a anar per davant de l’anàlisi de les seves implicacions socials, ara que les innovacions són constants i s’integren en un obrir i tancar d’ulls en la quotidianitat, podríem dir que estem assistint en temps real a un experiment d’abast mundial, sense estudi previ. L’acceleració és tal que resulta difícil predir a pocs anys vista la incidència que la hiperconnectivitat i la creixent interrelació amb màquines tindran en l’evolució de la societat, de l’economia i en la vida de les persones. Per això, quan s’intenta establir un debat ètic o impartir un curs com els esmentats més amunt, sovint es recorre a la ciència-ficció. Si no es disposa de models acurats que permetin fer prediccions fiables, una opció raonable és imaginar diferents escenaris futurs possibles i discutir-ne els pros i els contres perquè els estudiants o els contertulians es puguin formar una opinió ben fonamentada.
 

Hi ha diverses obres de ficció que tracten amb encert qüestions de caire afectiu, psicològic i social lligades a la tecnologia, i n’afavoreixen la discussió. Voldria destacar les sèries Real Humans i Black Mirror, les pel·lícules Robot and Frank, Surrogates i Her, així com les novel·les The wind-up girl, The lifecycle of software objects i Lágrimas en la lluvia, per esmentar-ne algunes. Jo també he volgut contribuir al debat amb la novel·la Enxarxats [2], que toca temes com les estratègies de persuasió que apliquen els influencers, la utilització de robots com a mestres de reforç a l’aula, el disseny de jocs d’ordinador amb impacte cívic, o la creació d’un avatar compilant les nostres contribucions a la xarxa que ens garanteixi una certa immortalitat digital. A banda de la trama de ficció de la novel·la, en un apèndix s’inclouen enllaços a webs i resums d’articles per als lectors que vulguin saber-ne més.
 

A tall d’exemple, un joc d’impacte social pioner és Evoke [3], que insta jugadors de tot el món a resoldre reptes, especialment de les comunitats d’Àfrica. S’anima els participants a aprendre sobre els països en desenvolupament, actuar sobre la base d’aquest coneixement i utilitzar la creativitat per imaginar un bon futur per al planeta. A través de la narració d’un còmic com a línia argumental, els jugadors han de completar desafiaments com ara la lluita contra la fam al món, l’ús d’energies renovables, la potenciació del paper de la dona o un pla d’accés igualitari a l’aigua potable. Per aconseguir l’objectiu, els jugadors poden utilitzar «superpoders» com són la col·laboració, la valentia, l’enginy i l’emprenedoria. Altres jocs d’aquest tipus són A Force More Powerful [4], en què els jugadors han d’empescar-se estratègies no violentes per superar situacions d’opressió en una comunitat, o Participatory Chinatown [5], que pretén ajudar els residents d’aquest districte de Boston a millorar el desenvolupament futur del seu veïnat. Molts d’aquests jocs permeten als usuaris aprendre sobre problemes socials, però, fins ara, n’hi ha pocs que hagin aconseguit resultats mesurables en el món real.

D’altra banda, aplicacions que ofereixen bé el suïcidi digital o bé, l’invers, la immortalitat digital són Suicide Machine [6], Dead Social [7], Eter9 [8] i Eternime [9]. Utilitzant tècniques d’Intel·ligència Artificial, Eternime i Eter9 poden recollir els pensaments, les històries i els records d’un usuari, i crear un avatar que es convertirà en el seu alter ego digital: podrà xatejar amb altres persones com si fos ell mateix, publicar continguts, comentar i, fins i tot, molt temps després que hagi mort, respondre a gran part de les preguntes que li facin. Segons el fundador d’Eter9, no volen preservar les banalitats de la vida d’una persona, sinó crear un llegat que permeti als seus besnéts interactuar amb el besavi... i més enllà.

En conjunt, són eines que tenim a l’abast i que, en poc temps, poden capgirar la reputació d’una persona, transformar un barri, modificar el mercat de treball i les relacions no només laborals, sinó també familiars i afectives, o canviar el que s’entén per l’herència que deixa una persona en morir. Els científics i tecnòlegs comencen a interessar-se per com les humanitats poden ajudar a posar les bases d’aquest debat tan necessari, i també els mitjans de comunicació i la societat en general hi dediquen cada vegada més atenció. Prova d’això és que diversos països ja han aprovat codis ètics per als fabricants, programadors i usuaris de robots, i una directriu comuna és no fer els robots més «humans» del necessari per evitar induir a l’engany. Amb aquesta directriu s’intenta donar resposta a la primera de les qüestions llistades a continuació, que són algunes de les més representatives entre les moltes que cal abordar.

• Com evitar que xatbots i robots siguin confosos per éssers vius i els col·lectius més vulnerables dipositin en ells tota la confiança i hi deleguin les decisions?
• L’excessiva exposició dels infants a companyia mecànica els dificultarà desenvolupar l’empatia i altres capacitats afectives?
• En el cas de dades mèdiques o de seguretat, quan ha de prevaler el bé comú sobre la privacitat de les dades personals?
• Com compatibilitzar la presa de decisions automàtica amb la llibertat i dignitat humanes?
• És lícit dissenyar dispositius/programes perquè creïn addicció i dependència?
• Com evitar que siguin usats per controlar les persones?
• Cal limitar el poder i l’abast de manipulació dels anomenats influencers?
• Com pal·liar la fractura digital, i altres fractures socials que se’n deriven?

En definitiva, la creixent interconnectivitat entre persones a les xarxes socials i amb tot tipus de dispositius i robots en la vida quotidiana planteja un seguit de reptes —tant d’investigació tecnocientífica com d’humanitats i ciències socials— amb un elevat potencial per marcar el futur, i que confiem propiciaran un interessant debat social i ètic.

*******

_________________________________________

[1] ACM/IEEE Computer Science Curricula [10]

Inicieu sessió  [11]o registreu-vos  [12]per a enviar comentaris