No fa gaire, un grup d’empresaris, tecnòlegs i científics va publicar una declaració fent referència als avenços de la intel·ligència artificial (IA). “Mitigar el risc d’extinció provocat per la IA hauria de ser una prioritat global al costat d’altres riscos d’escala social, com les pandèmies o la guerra nuclear”, es pot llegir en el manifest.
En una primera lectura em va sobtar tant dramatisme, però superada la primera impressió em va sobrevenir la desconfiança. No és més que una campanya de màrqueting, vaig pensar, orquestrada precisament pels que han estat desenvolupant aquesta tecnologia durant els últims anys, per assegurar-se el seu domini i marcar el ritme d’implantació d’aquesta nova eina.
“Max Horkheimer, afirmava que ‘si la teoria es redueix a un mer instrument, tots els mitjans teòrics destinats a transcendir la realitat es converteixen en un despropòsit metafísic’”
Penseu que la IA promet revolucionar el mercat de treball, l’atenció personalitzada en salut, el transport, les inversions, la gestió de la informació i la producció de coneixement, la publicitat… Però com que arriba massa d’hora i el públic s’està adonant dels seus defectes, cal frenar-la, no fos cas que es perdés l’hegemonia de Silicon Valley en matèria tecnològica.
Amb els dies, em sembla que entenc una mica millor a què es referien. Atenció a la notícia: “Un dron amb intel·ligència artificial ‘mata’ el seu instructor en una simulació”. Atès que la IA no té consciència ni ètica que limiti els seus actes, ara mateix l’únic que “pensa” és a maximitzar els seus resultats. Així, si la seva missió és matar tants esquirols com sigui possible i un instructor, arribat el moment, impedeix a un dron continuar matant, la decisió més encertada a ulls de la màquina serà desfer-se d’aquest impediment per seguir acumulant punts.
D’això a la facultat en dèiem raó instrumental i no són pocs els autors que s’han dedicat a pensar-hi. Un dels més coneguts, Max Horkheimer, afirmava que “si la teoria es redueix a un mer instrument, tots els mitjans teòrics destinats a transcendir la realitat es converteixen en un despropòsit metafísic” sense cap mena de validesa ni importància.
La màquina no se n’amaga. A la pregunta, quins mites fas servir per interpretar el món, el chatGPT respon: “Com a model de llenguatge d’intel·ligència artificial no faig servir ni interpreto mites per comprendre el món. El meu coneixement en basa en les dades de text amb les quals he estat entrenat. (…) No tinc la capacitat d’adoptar creences, interpretar el món o utilitzar mites com a marc per comprendre la realitat”.
Però en quina mena de món viuríem si eliminéssim les nostres experiències, les nostres creences i les interpretacions que en fem? Els relats simbòlics que ens expliquem des de fa segles ens ajuden a entendre millor la realitat i, el que és més important, a donar un sentit a la nostra manera d’actuar. Sense relats, el món passa a ser un reguitzell de dades empíriques sense context que només respon a un objectiu concret: la maximització de resultats. I a qui afavoreix aquesta manera de procedir? Oh, sorpresa, als que dominen els mitjans de producció i l’opinió pública.
No és veritat que no hi hagi cap mena de mite darrere la IA. El mite del progrés, el de l’acumulació, el de la neutralitat… influeixen en la direcció del món des de fa temps. I són precisament els que animen aquesta nova “intel·ligència”. Mitigar-ne el risc d’extinció voldria dir reprendre el debat de si la natura és aquí per servir-nos o si les persones podem ser tractades com a percentatges i càlculs sociològics. És moment, doncs, de revifar el debat sobre la importància dels mites. Oblidar-los sí que ens abocaria a l’extinció.
Cristian Palazzi és doctor en Filosofia, expert en Bioètica i Filosofia Social
