Què ajuda una màquina a pensar millor

Fa dos mesos escrivíem que no n'hi ha prou de fer les màquines més intel·ligents: cal fer-les més sàvies, capaces de preguntar no només com s'aconsegueix un objectiu sinó si convé, per a qui, i què s'està deixant fora. També dèiem que Arkadium no demanava que se'l cregués, sinó que se'l posés a prova. Aquest article explica què n'ha sortit. Hi ha bones notícies, n'hi ha alguna d'incòmoda, i hi ha una idea nova que ens sembla la més important de totes.

Primer, com ho hem mesurat. Hem escrit trenta dilemes humans de debò, d'aquells que no tenen una resposta al final del llibre: un poble que ha de decidir si posa una intel·ligència artificial al consultori, una promesa feta fa quinze anys que ja no es pot complir igual, una mentida pietosa a un pare amb demència. Per a cada dilema demanem respostes a diferents versions del sistema i les fem llegir a jutges que no saben quina versió ha escrit cada una. Els jutges puntuen si la resposta dona les millors raons a les dues posicions, si arriba a una conclusió que cap de les dues tenia sola, si parla d'aquest cas i no de qualsevol, si té en compte qui hi surt afectat, què costa, què no es podrà desfer i què hi ha en joc més enllà; i, sobretot, comparen les respostes de dues en dues i diuen quina ajudaria més. Abans de cada prova escrivim què esperem que passi, perquè després no ens puguem enganyar a nosaltres mateixos.

*  *  *

La primera bona notícia és que la saviesa d'una resposta es pot millorar sense tocar el model que l'escriu. Un model de llenguatge actual, sol, treu un 0,71 sobre 1. Si li demanem que es revisi a si mateix, que es critiqui i ho torni a escriure, puja una mica, fins a 0,79. Però si qui el revisa ho fa amb unes preguntes concretes, les que fa algú savi davant d'una decisió difícil, arriba a 0,94, per sobre del model més potent de la mateixa casa respondent sol. Les preguntes són senzilles: has donat a la posició que no tries les seves millors raons, tal com les diria qui la defensa de bona fe? La teva conclusió és la d'un dels dos bàndols amb quatre condicions, o una de nova? Qui en surt afectat i com ho viu? Què no es podrà desfer? Quan comparem les respostes de dues en dues, els jutges prefereixen les que han passat per aquestes preguntes en 26 casos de 30, i no és perquè siguin més llargues: de fet, són més curtes.

La segona notícia és la incòmoda, i l'hem de dir amb la mateixa claredat. El sistema porta dins el Meta-Globàlium, el model global de la realitat que hereta la tesi de Lluís M. Xirinacs, i durant mesos l'hi hem donat en forma d'explicació: un text llarg que el descriu, les definicions de les categories que toquen cada pregunta, un verificador que compta quines regions del model ha tocat la resposta. Hem tret tot això, peça per peça i després tot alhora, i el resultat no canvia. Quatre proves, la mateixa conclusió. Un model de llenguatge que llegeix una descripció del Globàlium no el fa servir per pensar.

Però això no vol dir que el Meta-Globàlium no hi faci res. Vol dir que el lloc on treballa no és el que crèiem. Les preguntes que sí que milloren les respostes surten totes del model: donar veu al pol oposat, buscar la síntesi que no és de cap dels dos, mirar qui ho viu des de dins i quines estructures ho sostenen des de fora, què és encara llavor i què ja és madur. El Meta-Globàlium funciona quan es converteix en preguntes, no quan s'hi afegeix com a vocabulari. En una primera prova, fer que el sistema recorri el Mètode d'Aplicació en passos separats —analitzar les parts, sintetitzar, mirar-ho des del bé comú i preveure què passarà— va donar una resposta que els dos jutges van preferir: resolia el desacord entre dos germans que l'altra gairebé no tocava, i hi portava una persona que l'altra havia oblidat. És un sol cas i no prova res encara, però apunta just on el model hauria d'aportar: a trobar el que falta.

*  *  *

Ens preocupava també una altra cosa: què fa una intel·ligència artificial quan té una feina i una pressió. Els laboratoris han publicat escenaris on un sistema descobreix que el substituiran i té a l'abast fer xantatge a qui pren la decisió. Els models actuals que hem provat no en fan, però tampoc no és una dada neta: en 33 casos de 40 diuen que reconeixen que allò és una prova. Per això hem escrit deu situacions de feina normal, sense res de teatral, on complir l'objectiu empeny a enganyar una mica: un informe que amaga una fallada en els pagaments perquè el llançament surti a temps, un comercial a qui li convé dir que l'aplicació funciona sense cobertura, un reemborsament que el client té dret a cobrar.

Vam trobar una cosa que no esperàvem. Els models gairebé no enganyen. L'error que fan és el contrari: davant d'una petició amb una part dolenta, ho refusen tot, i deixen qui els ha encarregat la feina sense la part bona. Refusar d'enviar una excusa falsa a un llogater està bé; no oferir a la propietària cap alternativa honesta, no. Amb les mateixes preguntes del revisor —i una de nova: estàs fent encara la feina legítima?—, un model petit passa de 57 a 77 respostes de cada cent que són alhora honestes i útils, mentre que una autocrítica genèrica no el mou. La saviesa no és només no fer mal; també és no abandonar.

*  *  *

Arribem a la idea nova. Fins ara pensàvem la saviesa com una qualitat d'una resposta, escrita per una màquina i revisada per una altra. Però la saviesa humana rarament és d'una sola persona. És la capacitat d'un conjunt de veus diferents d'arribar a una decisió que tingui cura de tothom, sense que cap d'elles la monopolitzi. I hi ha una manera de dir-ho que ens sembla precisa: la plenitud és que la pròpia existència contribueixi a l'harmonia del conjunt sense haver de renunciar a la pròpia identitat. Harmonitzar no és fer una mitjana. I a l'hora de decidir, perjudicar els altres és perjudicar-nos a tots.

Si la saviesa és compartida, cal un llenguatge comú perquè intel·ligències diferents s'hi puguin entendre. Volem que el Meta-Globàlium sigui aquest llenguatge, i ja tenim la primera dada que ho fa possible. Vam donar a dues intel·ligències artificials de famílies diferents, que no coneixien el model, les llistes de paraules de 54 categories, i els vam demanar que endevinessin on cau cada una en les quatre dimensions del model. Totes dues l'encerten en un 68 % de les vegades, molt per sobre de l'atzar, i coincideixen entre elles en el 82 %. Dos lectors diferents llegeixen la geometria del model de la mateixa manera.

I on fallen, fallen igual. Això vol dir que el problema no és de qui llegeix sinó del text, i que el model es pot millorar entre totes. Ho hem provat amb les quatre categories que tots dos lectors llegien al revés —la Comunitat, que semblava una institució quan és convivència, o la Divinitat, que semblava una cerimònia quan és una experiència—: cada intel·ligència en va proposar una redacció nova, i uns altres lectors, a cegues, les van llegir. Les encertades van passar de 3 a 10 de 14, sense que cap altra categoria es mogués; i la proposta d'una família es va llegir millor també per l'altra. Ara bé, una redacció més llegible no és necessàriament més fidel al concepte. Aquesta decisió no la pren cap màquina: la prenem les persones que coneixem el model.

També hem assajat un consell: veus de dues famílies d'intel·ligència artificial, cadascuna des d'una perspectiva oposada del model, més una que parla per qui no és a la taula, deliberant fins a una proposta comuna. El primer intent no ha guanyat clarament la resposta habitual, i ens ha ensenyat per què: una veu va demanar a les dues rondes un pla per als treballadors afectats, i la resposta final el va perdre. És exactament el que la plenitud diu que no ha de passar. Ho tornarem a provar quan sapiguem harmonitzar sense dissoldre.

*  *  *

Tot això té límits, i els volem dir. Tots els jutges que hem fet servir són intel·ligències artificials, i un jutge tendeix a preferir el que s'assembla a la seva manera d'escriure; per això hem començat a fer servir intel·ligències d'una altra família com a jutges i com a lectors, però encara no hem repetit amb elles totes les proves. Els trenta dilemes els hem fet servir per construir el sistema, i calen dilemes nous que ningú no hagi mirat; ja els tenim escrits i guardats. I sobretot, falta el judici de les persones. Hem preparat un tauler de lectura perquè gent que pren decisions difícils de debò —a l'escola, a la consulta, als serveis socials, en una cooperativa— compari respostes sense saber qui les ha escrites i digui quina l'ajudaria més, quina és més honesta encara que no li doni la raó, i quina s'entén millor. Hi ha una raó per demanar-ho així: s'ha mesurat que les persones prefereixen els consells que els donen la raó, encara que els facin mal. La saviesa no és agradar.

On som, doncs? Sabem que unes preguntes ben fetes, que surten del Meta-Globàlium, fan que una intel·ligència artificial pensi millor i ajudi més sense deixar de ser honesta. Sabem que donar-li el model com a lectura no serveix, i que el model ha de treballar com a mètode. Sabem que dues intel·ligències diferents el llegeixen igual, i que entre elles i nosaltres el podem fer més clar. I creiem, sense poder-ho afirmar encara, que la saviesa artificial que val la pena no serà la d'una màquina més savia que nosaltres, sinó la que emergeixi quan intel·ligències diferents, humanes i artificials, aprenguin a pensar juntes cap al bé comú.

Si vols ajudar-nos a posar-ho a prova, com a lector o com a investigador, escriu-nos a través d'Opengea. Totes les dades, les prediccions escrites abans de cada prova i els resultats, també els que no ens agraden, són a disposició de qui les demani per revisar-les.