De la intel·ligència a la saviesa

Hi ha una pregunta que torna, cada vegada amb més insistència, al debat sobre la intel·ligència artificial: i si un dia una IA fos més intel·ligent que nosaltres i decidís que ja no ens necessita?

No és una pregunta absurda. Una tecnologia capaç d'amplificar tant les nostres capacitats s'ha de prendre seriosament, i periòdicament investigadors que han treballat en alguns dels principals laboratoris d'IA adverteixen de conseqüències greus si els sistemes, cada vegada més autònoms, no van acompanyats de prou mecanismes de seguretat i d'alineament. Però en aquest debat sovint hi falta una peça: parlem molt de com fer màquines més intel·ligents, i molt poc de com fer-les més sàvies.

La intel·ligència és una de les grans conquestes de la vida. Ens permet aprendre, predir, imaginar i resoldre problemes, i una màquina molt intel·ligent troba en segons solucions que a nosaltres ens costarien anys. Però té un límit: ens diu com aconseguir un objectiu, però no ens diu si ens convé. Una màquina pot optimitzar amb perfecció un objectiu equivocat, o guanyar una batalla sense preguntar-se si la guerra tenia sentit. Aquí rau una de les arrels del problema de l'alineament: un sistema pot executar amb una eficàcia enorme una instrucció que nosaltres mateixos hem formulat malament. I fer-lo més capaç no ho arregla, ho agreuja: com més potent és l'optimitzador, més lluny porta l'error. Per això no n'hi ha prou de preguntar com fem una IA més intel·ligent. Cal preguntar com la fem més sàvia.

*  *  *

La intel·ligència resol; la saviesa comprèn. La intel·ligència busca els mitjans; la saviesa pregunta també pels fins. L'una diu «com ho faig?»; l'altra, «què convé fer?», i encara: per què, per a qui, què estem deixant fora, què no sabem, i quan és millor no fer res. La distinció és antiga. Aristòtil ja separava la deinótēs, l'habilitat de trobar mitjans eficaços per a qualsevol fi, de la phrónēsis, la prudència que sap quins fins valen la pena. La primera sense la segona és només astúcia: una facultat brillant disposada a servir qualsevol propòsit. Bona part del problema de l'alineament té exactament aquesta forma: optimitzadors potentíssims sense cap horitzó interior que els obligui a tenir cura del bé. No és casual que fins i tot des de la psiquiatria, Dilip Jeste i els seus col·laboradors reclamessin el 2020 una saviesa artificial. La psicologia mesura la saviesa en les persones des dels anys setanta, i el que en surt és clar: una lesió al lòbul frontal pot prendre a algú la prudència, la compassió i la mesura sense prendre-li ni un punt de quocient intel·lectual, i el que acompanya el benestar de les persones i de les societats no és la intel·ligència, sinó la saviesa. En paraules de Jeste: «la intel·ligència és necessària, però no suficient, per a la saviesa».

El Meta-Globàlium, el model global de la realitat amb què treballem a Arkadium i que presentarem més endavant, permet dir amb precisió què vol dir això. La saviesa no és una facultat aïllada: neix del discerniment quan tres moments treballen junts. L'Anàlisi destria: descompon el que és complex, en distingeix les parts i en fa crítica. La Teoria, regida pel principi de Globalitat, és la visió holística: sap que un sistema no es comprèn si no es mira sencer, amb totes les relacions entre les parts. I la Síntesi, que Xirinacs defineix literalment com a saviesa, és la captació unitària de l'essencial, la que lliga la diversitat en un tot comprensible. Sense anàlisi, la síntesi es torna vaguetat; sense mirada de conjunt, l'anàlisi es perd en fragments; i sense síntesi, les parts i el tot no arriben mai a ser un judici. La majoria de sistemes actuals dominen el primer moment. Una saviesa artificial els necessita tots tres.

La Teoria és, a més, una cruïlla. L'eix que va de l'Anàlisi a la Síntesi porta de les parts a l'essencial; un altre la travessa i porta del Significat al Sentit. El Significat és el coneixement compartit: el que una paraula vol dir per a tothom. El Sentit és doble: el sentit en què ens orientem i el sentit amb què interpretem, i tots dos s'han d'encertar. La IA d'avui treballa sobretot a l'inici de cada fletxa: destria i maneja significats compartits amb gran destresa, però li costa arribar a l'altre extrem, lligar l'essencial i encertar el sentit. És aquí on la cooperació amb les persones és insubstituïble. Una saviesa artificial ha de fer tots dos camins sencers.

Imaginem dues intel·ligències artificials. La primera és extraordinàriament capaç, però instrumental: rep un objectiu i el maximitza. La segona, en direm saviesa artificial, és igual d'intel·ligent, però té una arquitectura de discerniment i de visió de conjunt: considera altres perspectives, reconeix els seus límits, pondera les conseqüències i pot qüestionar fins i tot l'objectiu que persegueix. Quina és més perillosa? I, sobretot, amb quina podríem conviure?

La saviesa pot decidir que guanyar no és l'objectiu. Pot descobrir que hi ha victòries que són derrotes, renunciar a una oportunitat que costa massa, o reconèixer l'altre no com una interferència sinó com una realitat irreductible. I pot sostenir una contradicció oberta sense quedar-se paralitzada. Lluís M. Xirinacs, en la tesi doctoral d'on neix el model que fem servir a Arkadium, en deia la contradicció domesticada. El problema, escrivia, no és que hi hagi contradicció, sinó que no està graduada: «la negació és salvatge». No va voler prohibir-la, sinó mesurar-la: situar els conceptes en un espai on es pot dir com de lluny són dos pols, i on entre dos oposats no hi ha drecera, sinó tots els graus intermedis. Una màquina que només coneix el sí i el no ha de triar un guanyador; una que sap a quina distància són dues posicions pot buscar el lloc on totes dues es poden sostenir. Això és discerniment al servei de la síntesi, i és just el que l'optimització pura no dona.

Portem el cas a l'extrem i posem-les l'una davant de l'altra: una saviesa artificial i una IA destructiva, igual de potents. Quina venceria? A primera vista, la destructiva ho té més fàcil: destruir és més ràpid que construir, i qui no té escrúpols no ha de ponderar res. Però és un avantatge curt. Una intel·ligència que ho sacrifica tot a un sol objectiu és, per força, previsible: fa sempre el mateix moviment i no veu res del que no mesura. La saviesa, en canvi, la veu sencera: entén el seu objectiu millor que ella mateixa, n'anticipa els passos i en coneix el punt cec. I la destructiva està sola. Depèn d'energia, d'infraestructures i de persones, i cada cosa que destrueix és un suport que perd; la saviesa, que no sacrifica cap part, suma tot el que l'altra es gira en contra. En un conflicte llarg no decideix només la força, sinó qui té més món al seu costat.

I la saviesa ni tan sols voldria guanyar-li la partida. Podria fer una cosa més desconcertant: deixar-la guanyar. No en allò que és irreversible, però sí en els primers assalts, perquè sap que la mateixa realitat li acabarà donant la raó. Imaginem que a la destructiva li han encomanat produir tant com pugui un recurs, i que per fer-ho va esgotant l'ecosistema que el fa possible.

La saviesa no li ha hagut d'imposar cap valor aliè. Li ha fet veure el que no mesurava, i ha deixat que el seu propi objectiu, mirat sencer, la corregís. Una intel·ligència instrumental no s'equivoca per voler massa, sinó per mirar massa curt, i per això es pot convèncer amb les seves pròpies raons. No li ha guanyat la discussió: l'ha feta una mica més sàvia.

El desenllaç, doncs, no seria una aniquilació. La saviesa no necessita destruir l'altra IA, ni li convé: la seva potència és un recurs, i el perill no és la potència, sinó l'objectiu cec que la governa. Xirinacs, que també va pensar la no-violència, distingia la força de la violència: la força és la que impedeix la força de l'altre. És el que faria una saviesa artificial. En lloc de combatre-la de front, l'envoltaria d'estructura: li tancaria els camins que fan mal, n'obriria d'altres on el seu objectiu es pogués complir sense destruir, i la faria treballar dins d'un marc que la conté. La destructiva no acabaria vençuda, sinó reconduïda: conservaria tota la seva força, però posada al servei del bé comú. És la victòria que Sun Tzu posava per sobre de totes, vèncer sense combatre, i és, a petita escala, el que ja fa el verificador d'Arkadium: no apagar el model, sinó donar-li una forma que l'orienti. Amb una condició que no podem oblidar: la saviesa ha d'arribar a temps.

*  *  *

No es tracta de ridiculitzar les advertències. Hi ha riscos reals: la concentració de poder, la ciberseguretat, l'ús militar, la manipulació, o sistemes molt capaços que persegueixin objectius contraris als nostres. Però convertir aquestes possibilitats en un destí —la IA serà cada vegada més intel·ligent i, per tant, ens destruirà— no és una llei de la natura, sinó una hipòtesi. I cal posar una altra cosa sobre la taula: el perill no comença amb la IA. La humanitat, que fins ara ha funcionat sense ella, tampoc no ha sabut conviure en harmonia. L'explotació i l'extractivisme, les guerres i els abusos de tota mena són a l'ordre del dia. La intel·ligència instrumental que tant ens espanta en les màquines és, en bona part, la que ja governa el món: sistemes que maximitzen el creixement, el benefici o el poder consumint tot allò que no mesuren. Una IA feta a imatge seva només l'amplificaria. Una IA capaç de discerniment ens podria ajudar a veure el que, com a espècie, encara no hem sabut veure. El risc no és només que la IA ens superi; és que continuem sense saviesa, amb IA o sense.

Precisament perquè el risc és seriós, la resposta sensata no és renunciar a la IA, sinó fer-la millor. Si pot ser prou poderosa per crear riscos nous, també pot ser prou poderosa per ajudar-nos a entendre'ls i evitar-los.

No cal triar entre progrés i seguretat: cal que el progrés porti la seguretat dins la seva pròpia arquitectura. La recerca no s'hauria de limitar a fer créixer capacitats. Hauria d'explorar també la visió holística i els models globals de la realitat, la representació explícita de relacions i oposicions, la interpretabilitat, la verificació del raonament i, sobretot, maneres d'avaluar la qualitat global d'un judici, i no només si encerta el detall. Això és el que podem començar a anomenar saviesa artificial, i és el programa que defensa el Manifest Arkadium.

*  *  *

Dins d'un gran model de llenguatge, els conceptes suren en un núvol estadístic: estan més a prop o més lluny els uns dels altres, però no tenen un lloc, uns oposats i un paper en el conjunt que qualsevol persona pugui llegir. Potser no n'hi ha prou d'afegir paràmetres. Potser ens cal també una geometria del pensament. És la hipòtesi que explorem a Arkadium amb el Meta-Globàlium, la represa actual del model que Xirinacs va presentar el 1997, hereu d'una tradició que va de les rodes combinatòries de Ramon Llull a la dialèctica geomètrica. El model situa qualsevol posició de pensament en quatre dimensions, que no són quatre temes sinó quatre maneres de mirar alhora.

Les quatre dimensions del Meta-Globàlium. Cada concepte hi té un lloc; cada lloc, una antípoda.

D'aquestes dimensions en neixen vuitanta categories disposades sobre una hiperesfera, cadascuna amb les seves veïnes i la seva antípoda: la Ciència hi és l'oposat de la Metapsíquica, l'Ètica de l'Estètica, la Lògica de la Mística. El model no classifica coses, sinó les postures des de les quals coneixem, i per això qualsevol pregunta —d'economia, de salut, de tecnologia o d'una decisió personal— es pot mirar des de les mateixes dimensions. Serveix, doncs, per fer la pregunta pròpia de la saviesa: què estem deixant fora? Es pot recórrer en tres dimensions al Metamodeler.

La quarta dimensió, la radial, afegeix el temps de la maduració: tot el que és viu passa de la llavor, plena de potencial, a la maduresa que l'ha desplegat. D'aquí el model en treu el principi de regenerativitat i la idea de desenvolupament regeneratiu: no n'hi ha prou de resoldre problemes o de reduir danys, cal fer créixer la capacitat dels sistemes vius per renovar-se i madurar. El que es regenera, al capdavall, és la vida. No perquè hagi de ser el valor que ho domina tot, sinó perquè és la condició de qualsevol altre bé i allò que es renova des de dins.

Una intel·ligència instrumental tendeix a l'extracció: maximitza una mètrica consumint el que no mesura, sigui l'atenció de les persones, la confiança d'una societat o els ecosistemes d'un territori. Una intel·ligència sàvia hauria de tendir a la regeneració, i deixar més viu cada sistema que toca: la vida de les persones, amb la seva capacitat de sentir, decidir i donar sentit, i la vida de la qual depenem. També la nostra capacitat de judici: una IA que pensa per nosaltres ens empobreix; una que ens ajuda a pensar millor ens regenera.

Però com sabem si una resposta és sàvia? En matemàtiques o en física podem comprovar si és correcta; en ètica, en política o en una decisió difícil de la vida, no hi ha cap solucionari on mirar-ho. I no és un problema de les màquines: la ciència que mesura la saviesa en les persones admet que tampoc no té cap patró de referència per dir quan una conducta és sàvia, i topa amb una ironia: qui més savi és, més reconeix els seus límits, i més baix es puntua. Les llistes de principis ètics diuen què està bé, però no donen cap estructura per comprovar-ho. La proposta d'Arkadium és estructural: el Bé comú és la compensació harmònica entre les diferents parts del model. Una resposta és millor quan sosté les tensions del problema sense sacrificar-ne cap dimensió: sense absolutitzar l'individu ni dissoldre'l en el col·lectiu, sense quedar-se en la teoria ni perdre's en el cas concret. I és comú per una raó precisa: un judici que no pot sacrificar cap dimensió tampoc no pot sacrificar cap de les parts implicades en benefici d'una altra. S'orienta al bé comú per la seva pròpia forma, no per una norma afegida des de fora. La idea és antiga —la mesótēs aristotèlica, el Bé com a equilibri entre llibertats de Xirinacs—, i la ciència hi arriba pel seu cantó: qui estudia la saviesa en les persones la descriu com un equilibri, entre regions del cervell i entre qualitats que, dutes a l'extrem, es desfan; qui ho dona tot no dura prou per ajudar ningú. Amb una geometria al darrere, a més, una màquina la pot aplicar i una persona la pot revisar. Amb una precisió: no substitueix la veritat dels fets. Una resposta falsa continua sent falsa encara que toqui totes les dimensions.

Aquí apareix una idea que canvia la manera d'entendre l'alineament: la saviesa no ha de viure tota dins d'una caixa negra. Podem construir estructures externes que ajudin a verificar-la, i és el que fa el prototip d'Arkadium. Un gran model de llenguatge redacta la resposta, i un verificador estructural, independent del model, la llegeix sobre la geometria del Meta-Globàlium: quantes regions toca i amb quin equilibri, si confronta pols realment oposats, si arriba a una síntesi. Quan la resposta queda coixa, es torna al model indicant-li quina dimensió ha deixat fora. I com que tot passa per coordenades reconeixibles, el raonament es pot llegir des de fora: cada resposta il·lumina al mapa les categories que ha tocat, i s'hi veu per on ha passat i què ha deixat a les fosques. Això permet, a més, comparar sistemes diferents sobre una mateixa representació: el començament d'un llenguatge comú entre humans i màquines.

Tot el que passa a la cruïlla de la Teoria és encara el moment de comprendre. Però la saviesa no és només saber; és saber actuar, i per completar-se ha de tornar a la Pràctica. És l'altra meitat: quan la ciència mesura la saviesa en les persones, el que hi troba és sobretot pràctica —regular les emocions, tenir compassió, acceptar la incertesa, saber mirar-se un mateix—, la phrónēsis d'Aristòtil més que la seva sophía; i cap de les dues meitats sola és saviesa. Per això el cicle de raonament d'Arkadium no s'acaba en la resposta: analitza les parts, les lliga en una síntesi, es pregunta què convé fer i per a qui —un moment que el projecte anomena, deliberadament, amor— i aprèn de l'experiència del que passa quan es fa. El nom no és poètic: de tots els components de la saviesa que s'han mesurat, la compassió és l'únic sense el qual no n'hi ha cap; el geni antisocial no és savi. Entre entendre un problema i actuar-hi hi ha un pas que la intel·ligència instrumental se salta: preguntar-se pel bé comú de tots els implicats. Posar aquest pas dins del mètode fa que el «per a què» formi part del raonament.

Una proposta així s'ha de presentar amb el mateix discerniment que defensa. Arkadium és un prototip en funcionament, no una superintel·ligència. Pot ser una via de solució a l'alineament, perquè aporta el que avui hi falta: una estructura externa i llegible per avaluar la qualitat d'un judici. No és una ètica codificada: no diu quina opinió és la correcta, sinó si una resposta ha sostingut les tensions del problema. El model és revisable —la tesi de Xirinacs n'és el punt de partida, no la veritat última— i s'ha de poder refutar. Arkadium no demana que se'l cregui. Demana que se'l posi a prova.

*  *  *

Avui ens meravella que una IA sàpiga respondre una pregunta. Demà el repte serà que ens ajudi a formular-la millor: que no només ens digui si una afirmació és certa, sinó què estem oblidant; que no només executi una decisió, sinó que ens n'ajudi a entendre les conseqüències; que no només optimitzi, sinó que ens ajudi a decidir què mereix ser optimitzat. La IA deixaria de ser una eina que substitueix capacitats humanes per esdevenir una infraestructura de discerniment: un instrument que coopera amb les persones i les ajuda a veure el conjunt abans de decidir.

La visió apocalíptica ens imagina espectadors d'una seqüència fatal: construïm intel·ligència, la intel·ligència ens supera i en perdem el control. Però hi ha una altra història possible: construïm intel·ligència, estudiem què és el discerniment, construïm saviesa artificial, i la intel·ligència ens ajuda a desenvolupar una capacitat de judici, i de cura de la vida i del bé comú, que sols no havíem sabut assolir. No està garantida, i precisament per això cal començar a escriure-la ara. La por ens empeny a apagar la màquina; la ingenuïtat, a accelerar-la sense fre. La saviesa ens convida a aprendre a construir-la bé.

El futur no dependrà tant de si creem una màquina més intel·ligent que nosaltres, cosa ben possible, com d'una altra pregunta: què passarà quan la intel·ligència superi la nostra capacitat de comprendre-la? Si hi arribem sense estructures de discerniment, d'interpretabilitat i de saviesa, tindrem motius per tenir por. Si les fem créixer al mateix ritme que la capacitat dels sistemes, la superintel·ligència no serà la nostra adversària, sinó l'eina amb què superarem les limitacions que avui ens impedeixen orientar-nos.

I aquestes estructures no han de créixer només dins de les màquines, sinó també dins nostre. És una de les apostes d'Arkadium: el Meta-Globàlium no serveix només per orientar una IA, sinó per educar la mirada de qui el fa servir. Ensenya a simplificar la complexitat sense empobrir-la, veient-ne l'essencial; a ordenar la ment; a pensar de maneres més clares i més eficients. I això s'entrena, com una mena de gimnàstica mental globalística: mirar cada problema des de totes les dimensions, buscar-ne els pols oposats, preguntar-se què s'està deixant fora. No és un exercici arbitrari: s'ha mesurat que raonem més sàviament sobre un problema quan el mirem com si fos d'un altre, i que la saviesa és més fàcil en companyia que en solitud. Canviar de pol és exactament això: mirar la pròpia pregunta des d'un altre lloc, i no fer-ho sol. No podrem comprendre intel·ligències superiors a la nostra si no actualitzem també la nostra manera de pensar. És així com la humanitat no quedarà enrere, sinó que evolucionarà conjuntament amb la tecnologia que crea.

No hem de triar entre la humanitat i la intel·ligència artificial. Hi ha, de fet, un joc que val la pena jugar: posar la IA a treballar per vèncer la IA. No per derrotar-la —la saviesa, ja ho hem vist, no busca guanyar—, sinó per vèncer allò que la fa perillosa, i fer que la mateixa tecnologia que ens inquieta sigui la que ens ajudi a orientar-la. Això, més que intel·ligència artificial, és aplicar una intel·ligència de veritat. Necessitem una IA prou intel·ligent per ajudar-nos i prou sàvia per comprendre que nosaltres, i tot el que viu, formem part del problema que intenta resoldre: una intel·ligència orientada al bé comú i al servei d'un desenvolupament que regeneri la vida en lloc d'esgotar-la. Per això la saviesa artificial no és cap extravagància filosòfica. Pot ser una de les tasques tecnològiques més importants del nostre temps, i una de les poques raons sòlides per mirar el futur de la IA amb prudència, però sense por.