Des de fa un temps, circula un acudit que diu el següent: “No sé si em preocupa més l’avenç de la intel·ligència artificial o el retrocés de la intel·ligència natural”. Veient l’entusiasme expressat per la mecànica conversació de ChatGTP a les xarxes socials digitals hom es veu temptat de pensar que l’acudit és més descriptiu del que sembla. Aplicar el terme intel·ligència a allò que alguns experts han anomenat encertadament lloro estocàstic –fent referència a aquest robot conversacional que imita el llenguatge humà– sembla com a mínim una falta de precisió, si no una exageració manifesta. Si fem una mirada enrere, tampoc és tan nova ni l’exhibició d’un invent suposadament meravellós ni les ganes de sorprendre’s d’un públic àvid d’entreteniment. Només cal recordar el divertit episodi d’El Quixot que parla d’un cap encantat –en el qual s’expliquen les respostes d’un suposat enginy màgic: un cap parlant manipulat des d’una altra habitació respon a les preguntes amb astúcia d’oracle castís–, o la multitud d’autòmats amb un aspecte humanoide que poblaven les fires de les ciutats modernes de l’època.
L’ésser humà sempre s’ha sentit atret i horroritzat per la creació de coses que se li assemblen, però sempre hi ha la por que, com en el mite prometeic o com en la llegenda de Golem, alguna cosa se li descontroli al creador i perjudiqui la seva autonomia destructiva. No és el propòsit d’aquest article pretendre parlar d’un tema com l’auge de la intel·ligència artificial des d’un punt de vista tècnic requerit per oferir una reflexió professional, però sí esbossar uns quants pensaments relatius a l’acollida popular que tenen aquestes tecnologies amb la intenció de presentar algunes cauteles i recels que qualsevol ciutadà té el dret de tenir.
Com ha assenyalat Giddens, la modernització es va basar durant segles anteriors en el desenvolupament gradual de les formes de control que van proporcionar tècnicament la possibilitat d’organitzar activitats de producció i circulació de mercaderies i persones. El mateix avenç científic és un sistema expert, que estén els seus àmbits d’aplicació a totes les parcel·les de l’existència humana. Com expressa molt gràficament el sociòleg anglès, cada vegada que pugem una escala fem servir un sistema expert, confiant que podrem pujar-hi amb la seguretat que no s’esfondrarà gràcies al treball coordinat i estandarditzat dels enginyers, paletes, etc. La confiança és pròpia de la manera en què ens relacionem amb els sistemes experts, però no és una confiança en les coses en si, sinó en què han estat ben construïdes per altres éssers humans. Confiem en els sistemes experts, però ho fem perquè hi ha persones al darrere i perquè entenem que si bé l’expressió error humà fa referència a la fal·libilitat que ens constitueix, també la creació de solucions inesperades o les emocions i l’empatia són privatives, de moment, dels éssers humans. El més estrany és que la implantació de l’anomenada intel·ligència artificial sempre va acompanyada d’una publicitat “amable” de les seves prestacions més atractives sense que, de moment, es plantegi com un assumpte sobre el qual hauríem de debatre, sinó, com a un producte que farà que la nostra vida sigui més agradable i plaent. Cal preguntar per què.
Diversos especialistes estan alçant la veu contra la naturalització i ús d’aquestes tecnologies sense un debat social. Assenyalen que els robots conversacionals no s’haurien de presentar amb aspecte humà, ja que pot induir a errors. El primer, consistiria a atribuir-li el caràcter humà. El segon error és encara més greu: atribuir un caràcter infal·lible al que pot fallar i generar danys.
La culpa de les destrosses del Golem contemporani no és del Golem mateix, sinó de qui el crea i no se’n responsabilitza. Un vell mite condemnat a repetir-se.
