Aquest expert en física quàntica i autor del libre ‘Ética para máquinas’ afirma que el gran repte del segle XXI és establir la relació entre homes i robots.
Actualment ja convivim amb robots?
En general, la gent queda fascinada amb els robots, però no és conscient que el 99,9 per cent de la Intel·ligència Artificial no té aspecte de robot. De fet, les nostres vides estan dramàticament condicionades per la IA que no és robòtica. Actualment es fa servir IA per tasques tan comunes com la purificació de l’aigua de les ciutats, el reconeixement de persones perilloses, el triatge d’escombraries a les plantes de reciclatge, el control de dades de viatgers, trobar parella per Internet, etc.
Quan la IA s’aplica la robòtica?
La robòtica només s’aplica a les tasques que porten un moviment associat. De fet, la majoria dels robots tenen un nivell d’intel·ligència baix perquè la majoria no necessiten ser intel·ligents, sinó repetir mecànicament una mateixa feina molt ben feta.
Per què ens fascinen tant els robots?
Aquesta fascinació és molt antiga. A Descartes, al segle XVI, se li va morir una filla de cinc anys i va construir un autòmat similar a ella. A l’època de la Il·lustració, pensadors com Diderot, es plantegen si l’home és una màquina. Malgrat aquesta fascinació, els robots amb aspecte de persona són un 0,001 per cent de les investigacions. És més important fer nanorobots introduïts a un cos humà i que controlats per radiofreqüència poden distribuir medicació de forma precisa, que fer una màquina amb cos humà que digui “bon dia, senyor”. De fet, existeix la Teoria del Valle Inquietante: els robots ens fan gràcia, però quan aquests agafen forma antropomòrfica ens provoquen rebuig i por.
Amb forma humana o no, els dilemes a l’entorn de la robòtica i la IA estan servits.
Tota Intel·ligència Artificial aporta una discussió ètica profundíssima. No hi ha cap part de la IA que no tingui rellevància filosòfica i ètica. I, en aquest sentit, cal apuntar dos fets previs: encara no hi ha hagut una reflexió social sobre el tema, però tampoc un procés de legislació dins dels parlaments. Aleshores ens trobem amb realitats al·legals. Per exemple, un aspecte molt bàsic de la IA que no està legislat és el tractament de les teves dades quan estàs en un procés de compra. La gent que programa això fa el que vol i les víctimes d’aquesta il·legalitat sempre són les persones menys preparades: la gent gran i els joves.
Deia que mancava reflexió social…
En temes de ciència això és molt habitual. Quan la biologia va tenir la capacitat de manipular el genoma humà o de clonar, els parlaments no solament encara no havien legislat sobre el tema, sinó que la societat tampoc hi havia ni pensat. L’absència de reflexió en el camp de la ciència és espectacular. El meu món és el de la mecànica quàntica i ara estem fent un ordinador quàntic, una màquina d’una potència inversemblant. Però s’ha fet alguna reflexió sobre què farem després amb aquesta màquina? Doncs, no.
Respecte la manca de legislació: la política sempre anirà un pas per darrera de la ciència?
Absolutament. La tasca dels científics és millorar la vida de les persones, generar coneixement i transmetre’l a societat. La tasca dels polítics, en canvi, és legislar i modernitzar l’administració. Però tinc la impressió que hi ha hagut una deixadesa de les seves funcions respecte l’àmbit de la ciència. En ciència necessitem lleis del segle XXI i no del segle XIX. Els reptes polítics dels segle XXI no són les diferències entre dretes i les esquerres –que són mínimes–, sinó la longevitat, és a dir, l’envelliment de la població i, sobretot, la relació entre humans i màquines; com assimilem aquesta tecnologia que arriba de forma galopant.
S’ha fet alguna cosa al respecte?
Existeixen una mínimes recomanacions. Aquest abril la Unió Europea va fer públiques les línies directrius de com legislar a cada país la relació entre humans i IA. És un document marc, però correcte. Per exemple prohibeix que una màquina interactuï amb una persona sense comunicar-li prèviament que és una màquina, perquè s’ha comprovat que és molt fàcil enganyar els humans a través de veus sintètiques.
Com ens hem d’imaginar aquesta relació entre homes i màquines?
Segurament no ens relacionarem amb robots, sinó amb veus de màquines. D’aquí uns anys les cent mil dones vídues que avui viuen soles a Barcelona ja no rebran la trucada d’un fill o d’una filla, sinó la trucada d’una veu sintètica molt ben preparada. També és molt possible que les nostres accions que siguin transaccions es formulin a través de màquines programades. I, en aquesta nova societat, s’han de definir noves regles del joc.
Si ens hem de relacionar amb les màquines, aquestes han de tenir una ètica i moral pròpies o s’han de programar segons l’ètica i la moral humana?
Aquest és el gran debat. Un apunt previ. Les màquines tindran autonomia; no hi haurà cap humà darrera d’elles prenent decisions. Una màquina es fa perquè generi resultats i per això ha de poder prendre decisions. Això ja passa ara i cada vegada passarà més. Els cotxes autònoms en són l’exemple més clar. Hi ha gent que té por i diu que passaran grans desgràcies. Tot el contrari. Perillós és veure com aparquen els americans! Els humans davant d’un volant són molt més perillosos que una màquina. A la llarga es prohibirà que els humans tinguin cap control sobre les màquines.
D’acord, fora les visions apocalíptiques. Però què passa amb els dilemes ètics?
Totes les decisions tenen conseqüències ètiques i, per tant, cal veure com es programen. A dia d’avui, com que això no està regulat, aquests temes es decideix en els equips de les grans empreses. En aquest punt entrem en el camp de la filosofia. Nosaltres som hereus dels pensadors clàssics, molt útils com a lectura però molt inútils a l’hora de programar. Poso un exemple: tenim una IA programada per garantir la seguretat d’un banc. Els imperatius categòrics de Kant diuen: “No facis als altres el que no vulguis que et facin”. Un dia, però, entra un atracador drogat i mata diverses persones. La IA té la capacitat d’abatre l’atracador. Si seguim la lògica kantiana aquest no hauria de morir. Però, i si continua matant?
Una màquina es fa perquè generi resultats i per això ha de poder prendre decisions. Això ja passa ara i cada vegada passarà més. Els cotxes autònoms en són l’exemple més clar
Aquí tenim el dilema.
Aleshores també hi ha l’utilitarisme d’Stuart Mill: “Fes el que sigui millor per la majoria a llarg termini”. Si la majoria són els vius, l’atracador ha de morir. Per tant, l’ètica històrica planteja solucions diferents davant d’un problema concret. I el programador ha de decidir què fer. Fins i tot hi ha altres propostes com acceptar la jurisprudència –revisar cas per cas sense tenir grans principis–, deixar que sigui la pròpia IA la que aprengui sola i difereixi quin és el comportament òptim, etc.
Això es posa en pràctica?
I, tant. Un exemple de jurisprudència. Als Estats Units, el Departament de Justícia, va encarregar un programa d’IA que assisteix els jutges en dos dictàmens: la presó preventiva i la fiança. Un jutge no pot conèixer un milió d’exemples previs per prendre una decisió; en canvi, un programa basat en la IA i en base a casos passats pot fer una recomanació. Aquest programa avui assisteix els jutges nord-americans. La decisió, final, encara és humana –del jutge–, però ara ha de justificar més la seva decisió. En la mateixa línia, també hi ha programes d’IA que assisteixen a metges.
Cada moment té unes circumstàncies específiques. Si només decideix la màquina es poden tenir en compte totes les variables?
Hi ha decisions que s’han de prendre en microsegons i no hi ha possibilitat que un humà aparegui. Aquests serien el casos del cotxe autònom o de l’atracament. Hem d’acceptar que aquestes decisions tan curtes de temps seran preses per una màquina. No podem estar a tot arreu, no tenim aquesta capacitat. Tingues en compte que tota aquesta conversa que estem mantenint actualment no té cap traducció a la legislació vigent. Ni tan sols s’ho han plantejat!
Un altre debat és si les màquines tindran emocions. Què en pensa?
La discussió sobre aquest tema comença l’any 1950 amb el científic i matemàtic anglès Alan Turing. Ell escriu un article basat en la pregunta: Poden les màquines ser intel·ligents? A l’inici, però, ja apunta que la pregunta és errònia, perquè la qüestió hauria de ser: un humà és capaç de distingir si una màquina és intel·ligent? És a dir, el tema no és “si una màquina és intel·ligent”, sinó si “sembla que ho és”. I, per saber si estàs parlant amb una màquina o amb un humà, s’inventa el Test de Turing.
I ara ens “ho sembla” que les màquines tenen emocions?
Això no té una resposta ràpida. La gent es fa amic d’un gos o d’un gat, oi? De fet, hi ha persones que estimen més la seva mascota que a un altre humà. Fins i tot hi ha persones que tenen llaços d’afecte amb objectes inerts. Sembla que els humans estem disposats a creure, a estimar i a relacionar-nos amb qualsevol forma d’existència. Això demostra que la idea que els homes només podem sentir amor per éssers molt intel·ligents és falsa. Així doncs, si a les nits sents una veu sensual, que et parla, que té memòria, que et dona consells, que et pregunta com et sents, etc. Què fas? En aquesta situació, el debat sobre si aquesta veu té ànima resultarà irrellevant perquè nosaltres la tractarem com si realment en tingués. No ho posarem en dubte. Per tant, si aconseguim simular les emocions, el debat és clar.
I, actualment, en quin nivell estem en la simulació d’emocions?
Estem molt més avançats del que la gent es pensa, per això s’han fet avisos perquè les màquines especifiquin prèviament que ho són. Avui les recerques més desenvolupades en IA són sobre la simulació d’emocions.
Hem de limitar el progrés per ètica?
L’evolució és imparable. Ens avisaran que les veus són artificials, però les seguirem escoltant, perquè ens diran coses agradables.
Les nostres relacions no són gaire bones si ens alegrem de la conversa que podem tenir amb una màquina…
Seria millorar que els adults trobessin parella de forma natural. Potser sí, però actualment més de la meitat de la població troba parella per Internet. Aquesta és la realitat. Internet ens dóna la possibilitat de triar més, d’adaptar-nos, de ser tímids… Hem de pensar que la majoria de gent, passats els trenta anys, no té una gran vida social. Per tant, si una veu ens permet tenir una relació, pagarem per escoltar-la.
Avui les recerques més avançades en IA són sobre la simulació d’emocions.
Ens avisaran que les veus són artificials, però les seguirem escoltant, perquè ens diran coses que ens agradaran
