Aquest febrer, amb motiu del Mobile World Congress sentirem a parlar, i molt, de tecnologia, de nous estris, de perspectives de creixement, del negoci de les grans empreses tecnològiques… Ara bé: en el món digital hi ha també pensament ètic?
Hi ha diversos autors que defensen que sí, que en el món de la tecnologia cada cop apareixen més elements de reflexió ètica. I alguns s’agrupen sota la corrent de l’humanisme digital. Li comencem preguntant a Joan Clotet que precisament es defineix com a “humanista digital”. Què és un humanista digital?
JOAN CLOTET — Quan parlem d’humanisme digital, per mi vol dir posar les persones al centre. És a dir, persones, que som tots –ciutadans, clients, consumidors i treballadors–, i que necessitem entendre què passa i què passarà per adaptar-nos als canvis en un món que es mou cada cop més de pressa. Llavors, quan fem referència a l’humanisme digital, estem connectant amb el mateix humanisme renaixentista que al segle XV va sorgir d’una preocupació pel funcionament del món i el paper de les persones en aquella època. I ara, al segle XXI, aquest humanisme digital vol dir considerar les persones des del primer minut en qualsevol estratègia i decisió d’àmbit públic o d’àmbit privat que faci servir tecnologia digital i que miri de mitigar els riscos i equilibrar sempre les decisions en benefici de tots els grups d’interès. D’aquesta manera, la tecnologia digital ens és positiva, ja que serveix per resoldre problemes i millorar la vida de les persones. Jo també emmarco el concepte amb el suport necessari a les persones per formar-les i acompanyar-les en els canvis i transicions que s’esdevenen per aquesta digitalització progressiva que té la nostra vida diària.
Carme Torras no sé si es defineix també com a “humanista digital”, però sí que sé que d’alguna manera és favorable a aquest concepte i que també el promou.
CARME TORRAS — A mi m’agrada ampliar-lo una mica i dir-ne tecnohumanisme o humanisme tecnològic, perquè hi ha tecnologies que no són digitals i també formen part de les nostres vides, com ara tecnologies analògiques, les que teníem fins fa poc. I ho veig com ha dit en Joan: es tracta d’una evolució de l’humanisme que engloba el desenvolupament tecnològic. Jo ho entenc com per fer-nos créixer no només com a persones, sinó també com a humanitat, com a col·lectiu. És un concepte ampli i vull pensar que aglutina aspectes positius dels moviments com el posthumanisme o el transhumanisme i que evita els biaixos del que podríem anomenar individualisme cyborg. Tot plegat per superar les visions distòpiques del futur que sovintegen ara. Jo soc molt aficionada a la ciència-ficció i últimament les distopies predominen moltíssim mostrant com les màquines al final ens portaran a l’extinció. Amb aquestes teories jo no hi crec en absolut. No crec en la singularitat tampoc, és a dir, la idea que les màquines superaran les persones. Primer deien que seria el 2030 i ara, com que ja veuen que no es complirà, parlen del 2050.
Per tant, tant l’un com altre contradieu aquesta tesi d’un futur dominat per les màquines i en el qual l’home perd la capacitat de governar-se. Per què hi ha aquest imaginari creixent de la mecanització de la societat i que les màquines ens han d’acabar governant?
J.C.— La tecnologia en sentit ampli comença per la roda, per dir una cosa molt antiga, un estri que es va fer servir per fer coses que abans no eren possibles. Llavors, aquestes tecnologies han anat reconeixent-se com a positives però a vegades han tingut efectes perniciosos que no hem vist a temps. Quan ens anem sofisticant i especialment quan entrem en l’era digital, comencen a fer tasques que abans només érem capaces de fer les persones i, entrant ja en el món cognitiu i d’intel·ligència artificial, comencen a proliferar decisions i accions que fins fa poc només fèiem els humans. Aquest fet, d’alguna manera ens incomoda i el vivim com una amenaça. Per no parlar del fet que en les últimes setmanes s’han donat a conèixer tecnologies d’intel·ligència artificial generativa que demostren com pots obtenir d’una manera molt ràpida textos, imatges, fotografies, programari… només amb unes quantes instruccions gens tècniques des d’una eina oberta i aparentment gratuïta. En la mesura que veus que la tecnologia digital és capaç de fer coses que fa quatre dies només fèiem les persones, venen moltes reflexions, sobre qui pren realment les decisions, i també de quin tipus de converses cal tenir a temps per entendre i anticipar (a més d’aquests beneficis que anem a buscar) quins són els riscos i els efectes no tan positius que també porta l’ús de la tecnologia digital.
“No crec en la singularitat, la idea que les màquines superaran les persones. Primer deien que seria el 2030 i ara, com que ja veuen que no es complirà, parlen
del 2050”
I com podem combatre aquestes amenaces a les quals feia referència ara en
Joan Clotet, Carme Torras? Com a societat com podem oposar-nos a aquesta sensació d’amenaça?
C.T. — Potser recreant l’ideal de la utopia? M’explico: des de la ciència-ficció estem massa abocats a construir mons futurs que no ens agraden, posem massa èmfasi en els riscos. Jo crec que s’ha de posar èmfasi en tot el que la tecnologia ens dona i fer-ho amb una visió ètica. En la comunitat de recerca en Robòtica i Intel·ligència Artificial, ja fa deu anys que ens preocupen aquests temes dels riscos de les tecnologies que estem creant. Això va fer que sorgís una disciplina que és la roboètica (que també es podria anomenar tecnoètica) i que cada vegada es regula més. És a dir, el Parlament Europeu ja ha regulat molt la intel·ligència artificial. Jo ho conec més en l’àmbit de la robòtica, però em consta que també és així en l’àmbit de la intel·ligència artificial i de la informàtica en general, sobretot de processament de dades. I, a banda de la regulació, cada vegada hi ha més iniciatives de formació en tecnoètica. Jo mateixa he impartit un munt de cursos i de formació a tots els nivells. No ho he fet a Primària, però també m’agradaria que es fes. Sí que ho he fet a Secundària i també dins l’àmbit universitari, en especial a les persones que estan desenvolupant aquestes tecnologies, és a dir, als graus d’enginyeria, d’informàtica… Provo de formar el pensament crític perquè sàpiguen els riscos que hi pot haver. Es parla molt dels biaixos que es generen, per exemple, quan s’agafen grans quantitats de dades històriques: hi ha baixos naturals. Cal que els investigadors o els programadors que desenvolupen aquests algorismes en siguin conscients.
“En lloc de tenir por a la tecnologia, se li ha de preguntar: Això que està apareixent, a mi com m’ajuda a fer millor el que faig? O també: De quina manera m’amenaça?
A l’inici d’aquesta conversa fèiem referència, ara que se celebra el Mobile World Congress, al fet que es parla de tot d’aspectes vinculats a la tecnologia i que en general tot el discurs és sobre les oportunitats econòmiques de negoci que genera. Trobeu a faltar en el marc d’aquest congrés una reflexió més profunda sobre la tecnologia?
J.C. — Recordo que ja l’any 2017 al Mobile World Congress de Barcelona es feia un congrés paral·lel que s’enfocava exclusivament a això. Es tractava d’una iniciativa internacional que vaig conèixer per casualitat i que es feia coincidir precisament per complementar aquesta oferta. El fet és que aquest debat jo crec que està obert i cada cop més. El món digital, com deia la Carme, el desenvolupen persones i, per tant, tenim l’oportunitat que la reflexió i el debat es produeixi. El que passa és que potser aquests debats no es fan sempre a temps, ja que la tecnologia avança molt de pressa i sovint ens adonem tard dels interessos de les persones i de les organitzacions que la desenvolupen, les quals no sempre són tan transparents com desitjaríem. I això no es resol només contractant filòsofs a Google, sinó que cal fomentar una mentalitat general que reclami un debat més divers i a temps sobre l’impacte i els riscos d’escollir determinats productes i serveis digitals. Ara, certament, la conversa se centra massa en l’eficiència, el creixement, els guanys… i els altres temes o no es comenten en aquell moment o es comenten tard. A mi em sembla que des de fa uns anys el debat està una mica més present, sobretot amb la voluntat d’entendre millor certs efectes negatius de la tecnologia en la nostra vida diària. Jo prefereixo pensar, com deia la Carme, que cada cop pensem la tecnologia més amb esperit crític: el tema de l’omnipresència de les xarxes socials, el poder de les dades, els avenços de la intel·ligència artificial… Com més digital sigui el món, més ha de brillar aquest vessant més humanista. I, per fer-ho, se l’ha d’ajudar: la tecnologia cada cop serà a l’abast de més organitzacions i a millor preu així que la diferència la faran sempre les persones.
Suposo que el fet que hi hagi grans empreses que a vegades tenen un PIB més gran que molts països del món… d’alguna manera dificulta que es pugui generar un debat social sobre aquestes qüestions, ja que la seva presència és abassegadora…
C.T. — Sí, però desenvolupen productes i serveis perquè la gent els compra. Jo sempre dic que el consumidor té molt més poder del que es pensa. És a dir, ens sentim tots molt manipulats perquè Google i Amazon fan això o allò, però som nosaltres els qui els alimentem. Llavors, la qüestió és tenir una mica de formació (moltes vegades les pors i els riscos i la sensació d’estar manipulats ve del fet que desconeixem com funcionen les coses en l’aspecte tècnic). De fet, per exemple, la societat finesa fa anys va desenvolupar un curs obert a tothom que va tenir molt èxit i es va traduir a tots els idiomes de la Unió Europea. També a Catalunya, s’ha traduït dins de la iniciativa de Smart Catalonia i s’ha desenvolupat el curs CiutadanIA en el marc de l’estratègia Catalonia.AI. De manera que, si ens formem una mica, el poder del consumidor és gran. I no sé si en Joan Clotet té la mateixa percepció, però en el Mobile World Congress sempre hi ha l’activitat paral·lela Mobile Week més local on jo gairebé cada any he participat en alguna sessió relacionada amb l’ètica de la intel·ligència artificial. De manera que, tant per part dels mitjans com de la societat en general, hi ha molt interès per saber-ne més i per informar-se. Cal incidir en el fet que la gent s’informi i es formi.
J.C. —A vegades el coneixement està segmentat i, com deies, la formació és vital. Aquesta iniciativa finesa que va ser fantàstica, també ofereix que les persones tinguin l’interès d’entrar en camps que potser els semblen molt llunyans o només per a especialistes. Crec que la idea d’aproximar postures amb propostes com aquestes ajuda a sortir una mica de les etiquetes. És a dir, cal saber una mica de tecnologia, ja que ens envolta tots en la nostra vida diària i a vegades hi ha coses que nosaltres mateixos tenim el poder de canviar. Cal entendre que som persones i que vivim en digital i, per tant, tenim l’oportunitat de preguntar a qui en sap més que nosaltres i actualitzar els nostres coneixement i competències constantment. Cada vegada tenim més coneixement gratuït i democratitzat, de manera que és més una qüestió d’iniciativa i de temps, i cal fomentar-ho més, cal aproximar els mons. Cal combinar les capacitats i sensibilitats perquè cada vegada tot està més barrejat.
“Hi ha un llenguatge que ens permet arribar al fons de la persona, empatitzar-hi i sentir com se sent… això hem de tenir en compte que les màquines no ens ho poden donar mai”
Necessitem un paper més proactiu dels governs perquè puguin contrastar aquesta influència de les grans marques tecnològiques?
C.T. — Jo crec que ja n’hi ha molta, de feina feta per part dels governs. Per exemple, el govern català ja fa dos anys i mig, durant la pandèmia, va crear l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya. S’han endegat algunes iniciatives com, per exemple, donar una insígnia ètica a productes i serveis. Hi ha uns qüestionaris d’autoavaluació, ja que una empresa que vol fer un producte que sigui ètic ha de saber amb què el valoraran. De manera que, amb aquest qüestionari, es poden avaluar ells mateixos i saber si el producte que s’està desenvolupant és ètic o no. A més, totes les universitats tenen un comitè d’ètica, el CSIC també… I això que dic és dins l’àmbit català i espanyol, però també hi és a escala internacional. Precisament penso que el problema és compatibilitzar-ho, ja que n’hi ha moltes, de guies ètiques. Per exemple, també hi ha associacions professionals com l’Institute of Electric and Electronic Engineers (IEEE), que és l’associació d’enginyeria més gran del món, i que també ha fet un document molt ben detallat (de gairebé 500 pàgines) en dotze àmbits d’aplicació de l’ètica, ja que cada àmbit requereix una legislació diferent. Hi ha moltíssimes iniciatives, i el que cal és familiaritzar-s’hi.
Joan Clotet, potser precisament el que cal és fer un pas endavant i dir “anem a pensar aquesta qüestió”?
J.C. — Sens dubte, abans comentàvem l’evolució de la intel·ligència artificial generativa de les darreres setmanes. En lloc de tenir-li por, se l’ha de provar, s’ha de preguntar, s’ha de reflexionar… Això que està apareixent, a mi com m’ajuda a fer millor el que faig? Com m’amenaça? Quines oportunitats apareixen? Com evoluciona la meva feina? Fa vint anys que usem les xarxes socials de manera natural; ara hi ha tecnologies més sofisticades que, amb els anys, també assumirem amb més normalitat. S’ha de fer un pas endavant. Jo també tinc una visió bastant tecnooptimista, potser és perquè vinc de la tecnologia, he treballat durant més de trenta anys en l’àmbit de la tecnologia i m’he enfocat cap a les persones. Sempre defenso que cal ser proactius i que intentem veure-ho amb una mentalitat oberta, sense posar-nos barreres. És més, encara que sembli provocador, cal delegar en la tecnologia tot allò que siguem capaços de delegar, cal ser proactius i veure si les podem delegar a la tecnologia. I preguntareu: per què? Per perdre la feina? De cap manera, si no per tenir més espai i més temps per exercir com a éssers humans i desenvolupar la nostra capacitat d’empatia i d’intel·ligència relacional, de creativitat i de moltes coses que ara per ara la tecnologia no pot replicar i que marquen la diferència.
“Pot semblar provocador però hem de delegar en la tecnologia tot allò que puguem, precisament per tenir més espai i més temps per exercir com a éssers humans”
Carme Torras: creu que a les persones d’aquest moment ens costa fer aquest pas més enllà perquè tenim por de perdre coses?
C.T. — Sí, penso que la por és el que t’impedeix posar-t’hi, però quan coneixes una mica més les coses, no les veus tan perilloses. Si ara ens quedéssim sense rentadora, estaríem tots desesperats! La tecnologia ens treu aquestes feines o les hi deleguem. A canvi, nosaltres, hem de potenciar les nostres capacitats humanes, el que ens fa realment éssers humans: la creativitat, l’empatia, les converses en profunditat… Jo sempre dic que el llenguatge, aquest que tenen també els models generatius, en general, és un llenguatge purament utilitari. Ara, aquest llenguatge que ens permet arribar al fons de la persona i entendre-la i empatitzar-hi i sentir com se sent… i això hem de tenir molt clar que les màquines no ens ho poden donar mai. De manera que hem d’afavorir aquests valors humans i les capacitats que només nosaltres tenim, en comptes de robotitzar-nos. Vull dir que crec que el millor sortirà de la combinació de les grans prestacions d’unes màquines molt més ràpides que nosaltres, amb una millora de les capacitats humanes. De manera que, com en Joan, també soc optimista.
Joan Clotet: Format en Direcció d’Empresa i en Direcció Estratègica a la Barcelona School of Management (UPF) i en programes de gestió i lideratge a ESADE i IESE. Coach executiu per ICF i màster en Digital Business (The Power MBA). Té 35 anys d’experiència en àrees de consultoria, sistemes d’informació, des de 2020 actua com a consultor independent. Membre de la comissió consultiva de la Fundació Factor Humà. És l’autor del podcast ‘Humanismo Digital’.
Carme Torras: Doctora en informàtica i professora d’investigació a l’Institut de Robòtica (CSIC-UPC), el 2020 va rebre el Premi Nacional de Recerca per les seves contribucions a la robòtica social. És vicepresidenta del Comitè d’Ètica del CSIC i membre de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya. Escriptora de novel·les de ciència-ficció, els seus títols aborden dilemes ètics suscitats per les tecnologies digitals.
