De la intel·ligència a la saviesa

Hi ha una pregunta que cada vegada apareix amb més insistència en el debat sobre la intel·ligència artificial: i si algun dia una IA fos més intel·ligent que nosaltres i decidís que ja no ens necessita?

La pregunta no és absurda, i els riscos d'una tecnologia capaç d'amplificar tant les capacitats humanes s'han de prendre seriosament. Periòdicament, investigadors i persones que han treballat en alguns dels principals laboratoris d'IA adverteixen de conseqüències greus si el desenvolupament de sistemes cada vegada més autònoms no va acompanyat de mecanismes de seguretat i d'alineament suficients. Però hi ha una cosa que sovint queda fora del debat: parlem molt de com fer màquines més intel·ligents, i molt menys de com fer-les més sàvies.

La intel·ligència és una de les grans conquestes de la vida: ens permet comprendre, predir, imaginar i resoldre problemes, i una màquina molt intel·ligent pot trobar en segons solucions que a nosaltres ens costarien anys. Però té una limitació fonamental: saber com aconseguir una cosa no implica saber si s'hauria d'aconseguir. Pot optimitzar extraordinàriament bé un objectiu equivocat, o guanyar una batalla sense preguntar-se si la guerra tenia sentit. Aquesta és una de les arrels del problema de l'alineament: una màquina pot executar amb una eficàcia enorme una instrucció que nosaltres mateixos hem formulat de manera incompleta o ambigua. I el problema no desapareix fent els sistemes més capaços; al contrari, com més capaç és l'optimitzador, més lluny pot portar un error de formulació. Per això no n'hi ha prou de preguntar com podem fer una IA més intel·ligent. Cal preguntar també com la podem fer més sàvia.

*  *  *

La intel·ligència resol; la saviesa comprèn. La intel·ligència busca els mitjans; la saviesa examina també els fins. Una pregunta «com puc fer-ho?»; l'altra, «què convé fer?», i encara: per què, què estem deixant fora, quines conseqüències tindrà i per a qui, què no sabem, quan és millor no actuar. La distinció és antiga. Aristòtil ja separava la deinótēs, l'habilitat de trobar mitjans eficaços per a qualsevol fi, de la phrónēsis, la prudència que sap quins fins valen la pena. La primera, sense la segona, és simplement astúcia: una facultat brillant disposada a servir qualsevol propòsit. Bona part del problema de l'alineament té aquesta forma: optimitzadors potentíssims sense un horitzó intern que els obligui a tenir cura del bé. No és casual que fins i tot la psiquiatria hagi arribat a demanar, com Dilip Jeste i els seus col·laboradors el 2020, una saviesa artificial: el que s'associa al benestar de les persones i de les societats no és la intel·ligència, sinó la saviesa.

El Meta-Globàlium permet precisar què vol dir això. La saviesa no és una sola facultat, sinó el fruit d'una mateixa dimensió del model, la del discerniment, on tres moments es necessiten mútuament. Hi ha l'Anàlisi, el discerniment que destria: descompon el que és complex en parts, les distingeix i en fa crítica. Hi ha la Teoria, que el model regeix amb el principi de Globalitat: la visió holística, la constatació que un sistema no es comprèn si no es mira sencer, amb totes les relacions entre les seves parts. I hi ha la Síntesi, que Xirinacs defineix literalment com a saviesa: la captació unitària de l'essencial que lliga la diversitat en patrons comprehensius. Sense anàlisi, la síntesi es torna vaguetat; sense visió de conjunt, l'anàlisi es perd en fragments; i sense síntesi, les parts i el tot no arriben mai a fer un judici. Una saviesa artificial necessita tots tres moments, i la majoria de sistemes actuals només en dominen el primer.

La Teoria és, a més, una cruïlla. Si l'eix que va de l'Anàlisi a la Síntesi porta de les parts a l'essencial, n'hi ha un altre que la travessa i porta del Significat al Sentit: del que es pot compartir al que cal encertar. El Significat és el coneixement compartit: la definició acceptada, la raó comuna, el que una paraula vol dir per a tothom. El Sentit té dues cares que la paraula ja porta juntes: el sentit en què ens orientem, cap on val la pena anar i què ens convé; i el sentit amb què interpretem, endevinar el que no es diu, llegir la gràcia d'una situació, trobar què vol dir tot plegat per a nosaltres. Totes dues s'han d'encertar. Les fletxes de l'esquema diuen, a més, on és la dificultat: la IA d'avui treballa sobretot a l'inici de cada eix. Els models de llenguatge són molt bons destriant i manejant significats compartits; el que més els costa és arribar a l'altre extrem, lligar l'essencial i encertar el sentit, i és on la cooperació amb les persones esdevé insubstituïble. Una saviesa artificial necessita tots dos eixos: destriar i lligar, però també compartir el coneixement i encertar el sentit.

Imaginem dues intel·ligències artificials. La primera és extraordinàriament capaç però fonamentalment instrumental: rep un objectiu i el maximitza. La segona és igual d'intel·ligent, però té una arquitectura de discerniment i de visió de conjunt: considera perspectives diferents, reconeix els seus límits, pondera conseqüències i pot qüestionar el mateix objectiu que persegueix. Quina és més perillosa? I, sobretot, quina és més capaç de conviure amb nosaltres?

La saviesa, doncs, pot decidir que guanyar no és l'objectiu. Pot descobrir que certes victòries són derrotes, renunciar a una oportunitat que costa massa, o reconèixer l'altre no com una interferència sinó com una realitat irreductible. I pot mantenir una contradicció oberta sense que es torni paràlisi. Lluís M. Xirinacs, en la tesi doctoral que és a l'origen del model que fem servir a Arkadium, en deia la contradicció domesticada. El problema, escrivia, no és que hi hagi contradicció, sinó que no està graduada: «la negació és salvatge». La seva resposta no va ser prohibir-la, sinó mesurar-la, situant els conceptes en un espai on es pot dir quant de separats estan dos pols i on entre dos oposats no hi ha drecera, sinó tots els graus intermedis. Una màquina que només coneix el sí i el no ha de triar un guanyador. Una que sap a quina distància estan dues posicions pot buscar el lloc on totes dues es poden sostenir. Això és discerniment posat al servei de la síntesi, i és el que l'optimització pura no dona.

*  *  *

Les advertències sobre la IA no s'han de ridiculitzar: hi ha riscos reals en la concentració de poder, la ciberseguretat, l'ús militar, la manipulació o la possibilitat que sistemes molt capaços persegueixin objectius contraris als nostres. Però convertir aquestes possibilitats en una narrativa inevitable —la IA serà cada vegada més intel·ligent i, per tant, ens destruirà— no és una llei de la natura, sinó una hipòtesi. I hi ha una altra cosa que cal posar sobre la taula: el perill no comença amb la IA. La humanitat, que fins ara ha funcionat sense IA, tampoc no ha demostrat saber conviure en harmonia. L'explotació i l'extractivisme econòmic, les guerres i els abusos de tota mena són a l'ordre del dia. La intel·ligència instrumental que tant ens espanta en les màquines és, en bona part, la que ja governa el món: sistemes que maximitzen el creixement, el benefici o el poder consumint allò que no mesuren. Una IA construïda a imatge d'aquesta manera de fer només l'amplificaria. Una IA capaç de discerniment podria ajudar-nos a veure el que, com a espècie, encara no hem sabut veure. El risc no és només que la IA ens superi; és que continuem sense saviesa, amb IA o sense.

Precisament perquè el risc és seriós, la resposta racional no és abandonar la IA, sinó desenvolupar-la millor. Si pot arribar a ser prou poderosa per crear riscos nous, també pot arribar a ser prou poderosa per ajudar-nos a comprendre'ls i evitar-los.

No es tracta d'escollir entre progrés i seguretat, sinó que el progrés incorpori la seguretat en la seva pròpia arquitectura. La recerca no s'hauria de limitar a augmentar capacitats: hauria d'explorar la visió holística i els models globals de la realitat, la representació explícita de relacions i oposicions, la interpretabilitat, la verificació del raonament i, sobretot, maneres d'avaluar la qualitat global d'un judici i no només la seva correcció local. És el que podem començar a anomenar saviesa artificial.

*  *  *

Dins d'un gran model de llenguatge, els conceptes floten en un núvol estadístic: estan a prop o lluny els uns dels altres, però no tenen un lloc, uns oposats i un paper en el conjunt que qualsevol persona pugui llegir. Potser no n'hi ha prou d'afegir paràmetres, i ens cal també una geometria del pensament. És la hipòtesi que explorem a Arkadium, amb el Meta-Globàlium: la represa actual del model que Xirinacs va presentar el 1997, hereu d'una tradició que va de les rodes combinatòries de Ramon Llull a la dialèctica geomètrica. El model situa qualsevol posició de pensament en quatre dimensions, que no són quatre temes sinó quatre maneres de mirar alhora.

Les quatre dimensions del Meta-Globàlium. Cada concepte hi té un lloc; cada lloc, una antípoda.

D'aquestes dimensions en surten vuitanta categories disposades sobre una hiperesfera, cadascuna amb les seves veïnes i la seva antípoda: la Ciència hi és l'oposat de la Metapsíquica, l'Ètica de l'Estètica, la Lògica de la Mística. El model no classifica coses, sinó les postures des de les quals es coneix, i per això qualsevol pregunta —sobre economia, salut, tecnologia o una decisió personal— es pot mirar des de les mateixes dimensions. Serveix, per tant, per fer la pregunta que fa la saviesa: què estem deixant fora? Es pot recórrer en tres dimensions al Metamodeler.

Si una IA ha de ser sàvia, cal poder dir què és una bona resposta allà on no hi ha veritat de referència: en l'ètica, la política, el judici. Les llistes de principis ètics diuen què està bé, però no donen cap estructura per comprovar-ho. La proposta d'Arkadium és estructural: el Bé comú és la compensació harmònica entre les diferents parts del model. Una resposta és millor quan sosté les tensions del problema sense col·lapsar-ne cap dimensió: sense absolutitzar l'individu ni dissoldre'l en el col·lectiu, sense quedar-se en la teoria ni perdre's en el cas. I és comú per una raó precisa: un judici que no pot sacrificar cap dimensió tampoc no pot sacrificar cap de les parts implicades per afavorir-ne una altra. Per això s'orienta al bé comú per la seva pròpia forma, i no per una norma afegida des de fora. La idea és antiga —la mesótēs aristotèlica, l'equilibri entre seny i rauxa, el Bé com a equilibri entre llibertats de Xirinacs—, però amb una geometria al darrere una màquina la pot aplicar i una persona la pot revisar. Amb una precisió: no substitueix la veritat dels fets. Una resposta falsa segueix sent falsa encara que toqui totes les dimensions.

La quarta dimensió, la radial, afegeix el temps de la maduració: tot el que és viu passa d'un estat de llavor, ple de potencial, a un estat de maduresa en què l'ha desplegat. El model en treu un principi, la regenerativitat, i d'aquí la idea de desenvolupament regeneratiu, compartida amb corrents actuals del disseny regeneratiu: no n'hi ha prou de resoldre problemes o de reduir danys; cal fer créixer la capacitat dels sistemes vius per sostenir-se, renovar-se i madurar. El que es regenera, al capdavall, és la vida. Per què la vida, i no un altre valor? No perquè hagi de ser el centre que ho domina tot: posar-hi un sol valor seria tornar a col·lapsar les altres dimensions, i al Meta-Globàlium el centre no és cap valor, sinó la llavor, el potencial encara sense forma. La vida hi té un altre paper: és la condició de possibilitat de qualsevol altre bé, i és allò que es pot regenerar, que es renova des de dins. Tampoc no hi ocupa un sol lloc, sinó que el travessa. El model en distingeix dues cares que els grecs ja separaven: la bíos, la vida viscuda, que situa al pol del subjecte, i la zoé, la vida orgànica, que situa a l'organisme, al final del raig que va de la força vital en llavor a l'organisme madur.

Una intel·ligència instrumental tendeix a l'extracció: maximitza una mètrica consumint el que no mesura, sigui l'atenció de les persones, la confiança d'una societat o els ecosistemes d'un territori. Una intel·ligència sàvia hauria de tendir a la regeneració, i deixar més viu cada sistema amb què interactua: la vida de les persones, amb la seva capacitat de sentir, decidir i donar sentit, i la vida de la qual depenem. També la nostra capacitat de judici: una IA que pensa per nosaltres ens empobreix; una que ens ajuda a pensar millor ens regenera. I el model hi afegeix una lliçó: quan un desplegament s'estanca, no s'arregla desplegant més, sinó tornant a la llavor.

D'aquí surt una idea que pot canviar la manera d'entendre l'alineament: potser no hem de posar tota la saviesa dins d'una caixa negra. Podem construir estructures externes que ajudin a verificar-la. És el que fa el prototip d'Arkadium. Un gran model de llenguatge redacta la resposta, i un verificador estructural, que no forma part del model, la llegeix sobre la geometria del Meta-Globàlium: quantes regions toca i amb quin equilibri, si confronta pols realment oposats, si arriba a una síntesi. Quan la resposta queda coixa, es torna a demanar al model indicant quina dimensió ha deixat fora. I com que tot passa per coordenades reconeixibles, el raonament es pot llegir des de fora: cada resposta il·lumina al mapa les categories que ha tocat, i es veu per on ha passat i què ha deixat a les fosques. Això permet, a més, comparar sistemes diferents sobre una mateixa representació: el començament d'un llenguatge comú entre humans i màquines.

Tot el que passa a la cruïlla de la Teoria és encara el moment de comprendre. La saviesa, però, no és només saber; és saber actuar, i per completar-se ha de tornar a la Pràctica. Per això el cicle de raonament d'Arkadium no s'acaba en la resposta: passa per l'anàlisi de les parts, la mirada de conjunt, la síntesi de les relacions —el moment propi de la saviesa—, un moment que el projecte anomena deliberadament amor —què convé fer, per a qui, i quin pla d'acció en té cura— i l'experiència del que passa quan es fa. Entre entendre un problema i actuar-hi hi ha un pas que la intel·ligència instrumental se salta: preguntar-se pel bé comú de tots els implicats. Posar-lo dins del mètode fa que el «per a què» formi part del raonament.

Una proposta com aquesta s'ha de presentar amb el mateix discerniment que defensa. Arkadium és un prototip en funcionament, no una superintel·ligència ni una solució a l'alineament. No és una ètica codificada: no diu quina opinió és la correcta, sinó si una resposta ha sostingut les tensions del problema. El model és revisable —la tesi de Xirinacs n'és el punt de partida, no la veritat última, i aquest mateix any n'hem corregit noms, principis i posicions— i s'ha de poder refutar. A Provar una ontologia expliquem una prova externa que falla i una altra que es manté, i les primeres proves cegues, fetes de moment amb anotadors automàtics, suggereixen que les dimensions del model es poden recuperar a partir de les paraules; són preliminars i en coneixem els límits. Arkadium no demana que se'l cregui. Demana que se'l posi a prova.

*  *  *

Avui ens meravellem perquè una IA pot respondre una pregunta. Demà el repte serà que ens ajudi a formular-la millor: que no només ens digui si una afirmació és certa, sinó què estem oblidant; que no només executi una decisió, sinó que ens n'ajudi a entendre les conseqüències; que no només optimitzi, sinó que ens ajudi a decidir què mereix ser optimitzat. La IA deixaria de ser una eina que substitueix capacitats humanes per convertir-se en una infraestructura de discerniment: un instrument que coopera amb les persones i els ajuda a veure el conjunt abans de decidir.

La visió apocalíptica pressuposa que som espectadors d'un procés en què construïm intel·ligència, la intel·ligència ens supera i perdem el control. Però hi ha una altra història possible: construïm intel·ligència, estudiem què és el discerniment, construïm saviesa artificial, i la intel·ligència ens ajuda a desenvolupar una capacitat de judici, i de cura de la vida i del bé comú, que sols no podíem assolir. No està garantida, i precisament per això cal començar a construir-la ara. La por ens pot fer voler apagar la màquina; la ingenuïtat, accelerar-la sense límits. La saviesa ens convida a aprendre a construir-la bé.

Potser el futur no dependrà de si creem una màquina més intel·ligent que nosaltres, que és molt possible, sinó d'una altra pregunta: què passarà quan la intel·ligència superi la nostra capacitat de comprendre-la? Si hi arribem sense estructures de discerniment, d'interpretabilitat i de saviesa, tindrem motius per tenir por. Si les desenvolupem al mateix temps que la capacitat dels sistemes, la superintel·ligència no ha de ser la nostra adversària, sinó l'eina amb què superem les limitacions que avui ens impedeixen orientar-nos. No hem de triar entre la humanitat i la intel·ligència artificial. Hi ha, de fet, un joc que val la pena jugar: posar la IA a treballar per vèncer la IA. No per derrotar-la —ja hem vist que la saviesa no busca guanyar—, sinó per vèncer allò que la fa perillosa, fent que la mateixa tecnologia que ens inquieta sigui la que ens ajudi a orientar-la. Això, més que intel·ligència artificial, seria aplicar una intel·ligència de veritat. Hem de construir una IA prou intel·ligent per ajudar-nos i prou sàvia per comprendre que nosaltres, i tot el que viu, formem part del problema que intenta resoldre: una intel·ligència orientada al bé comú i al servei d'un desenvolupament que regeneri la vida en lloc d'esgotar-la. Per això la saviesa artificial no és una extravagància filosòfica. Pot ser una de les tasques tecnològiques més importants del nostre temps, i una de les poques raons sòlides per mirar el futur de la IA amb prudència, però sense por.