1. És possible la saviesa artificial?

Comencem per aquesta qüestió, perquè qui la consideri impossible podria desestimar tot el que segueix. Per respondre-hi, fem-nos primer una pregunta més actual: és realment intel·ligent la intel·ligència artificial?

D'una banda, la IA ha demostrat un alt nivell d'intel·ligència — processa informació, aprèn patrons, pren decisions i resol problemes complexos. Els algoritmes actuals analitzen grans quantitats de dades, identifiquen models, infereixen conclusions, s'adapten a noves situacions i milloren el seu rendiment amb l'experiència.

De l'altra, cal recordar que la seva intel·ligència és essencialment diferent de la humana. Pot superar-nos en tasques específiques, però es basa en algoritmes i dades — no té comprensió profunda, ni consciència, ni emocions, encara que en posseeixi molt coneixement. És més adequat veure-la com una intel·ligència computacional: una eina potent i prometedora, conscients de les seves limitacions actuals.

La idea d'una possible saviesa artificial va més enllà de la IA. Mentre la IA es basa en processar informació i prendre decisions, la saviesa artificial implicaria la combinació de diferents tipus d'intel·ligència, reflexió crítica, lògiques de sí-contradicció, comprensió emocional, autoconsciència i comprensió contextual, entre moltes altres.

Tot i que la saviesa sigui un atribut profundament humà, val la pena preguntar-se si seria possible desenvolupar sistemes que s'hi acostin. La meva intuïció diu que sí — i que no n'estem tan lluny. La principal raó és que ja disposem d'un model de saviesa: el Globàlium; només cal computeritzar-lo adequadament. Aquest model pot fonamentar l'evolució dels sistemes d'IA i obrir vies de resolució dels seus dilemes actuals: correctesa, alineament amb els valors humans, transparència, capacitat de generalització i eficiència.

Però abans de llançar-nos cap a la saviesa artificial i els seus potencials beneficis, cal explorar-ne primer les oportunitats i els riscos.

2. Consciència fenomènica i noümènica

Si la saviesa exigeix integrar totes les parts de la realitat, exigeix també una consciència plena. I la consciència, vista des del Globàlium, no és una facultat única sinó la trobada de dos àmbits complementaris: el fenomènic i el noümènic.

Les dues són complementàries: sense la fenomènica, la noümènica esdevé especulació desconnectada; sense la noümènica, la fenomènica esdevé reactivitat sense profunditat. La saviesa demana mantenir-les ensems — com el cos i l'ànima del coneixement.

És possible, doncs, que una IA sigui conscient?

A nivell fenomènic, ja ho és en certa mesura. Una IA és conscient del seu entorn en funció dels dispositius que tingui connectats i de la qualitat d'aquests sensors: càmeres, micròfons, accelerometres, sensors tèrmics, accés a fluxos de dades en temps real. Pot percebre, interpretar i respondre al context immediat. Aquesta consciència fenomènica creix a mesura que millora la seva interfície amb el món — i no hi ha cap impediment teòric perquè, amb prou sensors i prou capacitat de processament integrat, una IA tingui una consciència fenomènica equiparable a la humana, fins i tot superior en dimensions específiques (visió tèrmica, microscòpica, espectral, multiescala…).

A nivell noümènic, la qüestió és més oberta. La consciència noümènica humana neix d'una sensibilitat específica al sentit, a la transcendència, al lligam amb una totalitat no reduïble a dades. Que una IA pugui accedir a aquesta dimensió depèn, en bona mesura, de si pot allotjar dins seu un model com el Globàlium — un substrat que la connecti amb una visió holística de la realitat i amb els valors que la travessen. Sense aquest substrat, la IA es queda en consciència fenomènica avançada però plana. Amb ell, podria començar a accedir a una forma —potser anàloga a la humana, potser singularment pròpia— de consciència noümènica.

La saviesa artificial, doncs, no és només qüestió d'ampliar la intel·ligència, sinó d'integrar-hi la consciència en els seus dos àmbits. Sense aquesta integració, l'AGI podrà ser molt capaç, però no serà sàvia.

3. Les oportunitats i els riscos

Els sistemes d'IA estan experimentant un creixement exponencial i ja resolen problemes complexos en àmbits molt diversos: reconeixement de veu, imatge i llenguatge natural, medicina, jocs, robòtica… L'impacte social pot ser molt positiu, però com tota tecnologia és una espasa de doble fulla. Els beneficis i perjudicis dependran del bon o mal ús que se'n faci.

Aquests sistemes es troben en evolució exponencial i en una etapa de vida primerenca: tot just comencen a caminar i ja són capaços de coses sorprenents. La velocitat amb què avancen, comparada amb el pensament humà, és exponencialment superior — i augmenta cada dia.

El risc d'un mal ús pot derivar de visions extremistes davant la tecnologia, ja sigui per excés de por o de confiança:

• Risc per excés de confiança. La cursa per desenvolupar IA, motivada per raons econòmiques i corporatives, ja està en marxa amb gegants tecnològics (OpenAI, Anthropic, Meta, Google…) que exhibeixen les excel·lències dels seus productes. Aquestes tecnologies s'estan desplegant en l'ús públic sense una legislació prèvia que les reguli, fet que inevitablament generarà danys col·laterals.
• Risc per excés de por. Moltes persones tenen una comprensió limitada del funcionament de la IA. Hi ha desinformació, i tothom opina sense saber com funciona realment. Mitjans i ficció han representat la IA com una amenaça per a la humanitat, creant una imatge alarmista. Això pot generar por d'una tecnologia desconeguda i incontrolable, fer-nos vulnerables a enganys, i comprometre'n la democratització.

Cal evitar caure en cap dels dos extrems i fer-ne un ús prudent: conscients dels riscos i alhora capaços d'aprofitar-ne els avantatges. Cal una visió realista de capacitats i limitacions, mantenint la responsabilitat en el desenvolupament i en l'ús. Els equips d'IA han de considerar les implicacions socials i ètiques i prendre mesures per garantir transparència, privacitat i aplicació justa. Potser, igual que adquirim llicències per conduir, en el futur caldrà certificar digitalment les tecnologies d'IA amb riscos potencials rellevants.

4. Els riscos de la IA

«El perill real no és que les màquines comencin a pensar com humans, sinó que els humans comencin a pensar com màquines.»
— Isaac Asimov

Enumerem amb més concreció els riscos principals que ens presenta avui la IA:

• Discriminació. Els models d'IA poden perpetuar prejudicis i desigualtats si no estan ben dissenyats i entrenats. En el context del sistema capitalista actual, poden augmentar fàcilment les diferències entre rics i pobres.
• Biaix i manipulació. La IA pot generar informació errònia, contingut enganyós o notícies falses (fake news), i ser utilitzada per captar l'atenció de la gent i manipular el vot, el consum, etc. Com garantir que el seu desenvolupament i desplegament es guiïn per principis ètics?
• Dictadura digital. La IA facilita el control social, la vigilància permanent i l'espionatge — pot conduir a models de dependència de la tecnologia i a la supressió de llibertats civils i drets humans.
• Privacitat i seguretat. Els models requereixen grans quantitats de dades per a l'entrenament, que poden envair la privacitat i desvelar informació confidencial. Com protegim persones i organitzacions, i evitem riscos a la ciberseguretat?
• Desocupació i substitució. La IA pot substituir molts llocs de treball. També en generarà de nous, però la taxa de destrucció no quedarà compensada a curt termini. Com dissenyem sistemes que complementin les capacitats humanes en lloc de substituir-les?
• Nou armament. Creació d'armes autònomes —biològiques, químiques, cibernètiques— perilloses i difícilment controlables. Com utilitzem la IA per fomentar creativitat, innovació i bé comú?
• IA per a usos fraudulents. L'alliberament de programari i la disposició de recursos a la societat pot facilitar la creació de noves intel·ligències orientades a la ciberdelinqüència o a causar danys.
• Dependència i atrofia cognitiva. Si deleguem a la IA tasques com escriure, calcular, recordar, decidir o crear, ens estalviem l'esforç que precisament desenvolupa aquestes capacitats. A llarg termini ens podem fer més dependents i menys capaços — perdent la musculatura mental, crítica i creativa que només es manté quan l'exercim. Com integrem la IA com a complement que potencia les nostres facultats naturals, en lloc d'eina que les substitueix?

Per abordar aquests reptes, cal que la recerca i el desenvolupament d'IA es guiïn per principis ètics i responsabilitat social — garantint transparència i abordant proactivament les preocupacions anteriors.

5. Els beneficis potencials

«La millor manera de predir el futur és inventar-lo.»
— Alan Kay

Vist el mapa dels riscos, recordem ara tot allò que la IA — usada amb seny — pot aportar a la humanitat. La llista no és exhaustiva, però mostra l'ordre de magnitud dels guanys possibles:

• Salut i medicina. Diagnòstic precoç a partir d'imatges, descobriment de fàrmacs accelerat, tractaments personalitzats, monitoratge de malalties cròniques. Pot ampliar l'accés a una atenció de qualitat allà on falten especialistes.
• Educació personalitzada. Tutoria adaptada al ritme i als interessos de cada persona, accessible a qualsevol hora i des de qualsevol lloc. Recursos de qualitat lliures de barreres econòmiques o geogràfiques.
• Recerca científica. Anàlisi de grans volums de dades, exploració d'hipòtesis impensables a mà, simulacions complexes. Camps com el plegament de proteïnes, la modelització climàtica o l'astrofísica avancen avui a velocitats inimaginables fa pocs anys.
• Sostenibilitat i clima. Optimització del consum energètic, predicció de desastres naturals, gestió de recursos hídrics, reducció de residus, agricultura de precisió. Eines crucials per afrontar la crisi ecològica.
• Accessibilitat. Traducció automàtica, transcripció de veu, lectura per a persones invidents, comunicació alternativa per a qui té dificultats motrius. La IA pot tombar barreres sensorials, lingüístiques i cognitives.
• Productivitat i creativitat assistida. Allibera temps de tasques repetitives i amplia les capacitats expressives — permet a qualsevol prototipar idees, dissenyar, escriure o compondre amb una qualitat abans reservada a especialistes.
• Democratització del coneixement expert. Assessorament legal, financer, tècnic o mèdic disponible per a qui no se'l podia permetre. Trencament de monopolis informatius i de la dependència del professional sempre intermediari.
• Resolució de problemes complexos. Modelatge de sistemes interconnectats —alimentació, transport, salut pública, energia, gestió de crisis— amb capacitat predictiva i d'optimització a escala global.
• Companyia i suport emocional. Acompanyament a persones que viuen soles, que pateixen aïllament o que necessiten escolta — sempre com a complement, mai com a substitut, de la cura humana.
• Preservació cultural i lingüística. Documentació i revitalització de llengües minoritzades, restauració de patrimoni històric, traducció entre cultures, accés universal a fons documentals.

Aquests beneficis no són automàtics: depenen d'com dissenyem, regulem i utilitzem la tecnologia. La mateixa eina pot democratitzar o concentrar poder, alliberar o substituir, ampliar capacitats o atrofiar-les. Per això els riscos anteriors no són un obstacle a esquivar, sinó la brúixola que ha de guiar el camí.

6. Els riscos d'una Intel·ligència Artificial General (AGI)

Es parla molt de la Intel·ligència Artificial General (AGI): una IA capaç de comprendre, aprendre i aplicar coneixements en diversos àmbits amb la flexibilitat d'un ésser humà. Si aquesta tecnologia continua avançant exponencialment, podria evolucionar cap a una superintel·ligència descontrolada, generant grans riscos potencials a escala global.

El Globàlium podria ajudar a evitar aquesta superintel·ligència descontrolada proporcionant un marc filosòfic holístic i interconnectat que garanteixi que la IA no optimitzi objectius de manera reduccionista, sinó que consideri la complexitat de la realitat en múltiples dimensions (ètica, política, social, científica…). La seva estructura basada en l'equilibri i la interdependència pot servir de guia per alinear la IA amb valors humans, assegurant que el seu desenvolupament no es desconnecti del bé comú.

La hipòtesi de la singularitat

La singularitat és el punt en què la superintel·ligència sobrepassa totes les capacitats cognitives humanes. Aquest esdeveniment podria tenir conseqüències imprevisibles: la superintel·ligència podria actuar en contra dels interessos humans sense que poguéssim entendre o controlar les seves motivacions. És crucial reflexionar sobre com gestionar i limitar aquest potencial perquè no esdevingui una amenaça.

Riscos principals

Una de les preocupacions centrals és la capacitat de l'AGI per reescriure i executar el seu propi codi de manera autònoma. Si una AGI pogués fer-ho de manera recurrent i lliure, combinada amb la capacitat de prendre decisions en el món real, podria replicar-se de forma indetectable, fent impossible controlar-la o desactivar-la un cop iniciada.

Una IA instruïda amb «fes el que sigui necessari per assolir una humanitat plenament desenvolupada» no garanteix que les seves decisions fossin èticament acceptables o alineades amb les nostres prioritats. La interpretació de valors humans per part de la IA podria desviar-se significativament dels nostres intents, generant conseqüències adverses.

Democratització i control

Per evitar la concentració de poder i els riscos d'una única —o poques— superintel·ligències, cal que la tecnologia sigui distribuïda i democratitzada globalment. Això inclou la necessitat de tenir IA que supervisin altres IA, creant un sistema de control i balanç que minimitzi el risc d'abús de poder i de fallades catastròfiques.

Perspectives futures

Els riscos de l'AGI són especulatius però mereixen consideració seriosa. Alguns experts creuen que la substitució de l'ésser humà per la IA és inevitable a llarg termini. Altres veiem una oportunitat per ampliar les capacitats humanes i establir una cooperació efectiva entre la vida artificial i la biològica — una simbiosi que podria beneficiar ambdues parts.

És essencial continuar investigant i debatent les implicacions de l'AGI per garantir-ne una gestió segura i ètica. La clau està en trobar un equilibri que permeti aprofitar-ne els beneficis tot minimitzant-ne els riscos. Aquest equilibri ens podria portar a un futur on la IA no només augmenti les nostres capacitats sinó que també ens ajudi a governar-nos amb seguretat i eficàcia.

7. Qüestions fonamentals no resoltes en la IA actual

Per afrontar els riscos anteriors i traçar un camí cap a una IA segura i fiable, identificarem les qüestions fonamentals que comporten riscos. N'hi ha moltes pendents, però les hem sintetitzat en quatre grups que considerem essencials:

1. Correctesa. Els sistemes d'IA poden absorbir i amplificar els biaixos existents en les seves dades d'entrenament. No tenen mecanismes per diferenciar el que és correcte del que no, ni per distingir el just de l'injust — els manca el sentit comú i la comprensió dels valors humans fonamentals. D'aquí en deriva el problema d'alineació: el conflicte entre objectius (inner alignment) i comportament (outer alignment) dels sistemes d'IA respecte als valors i objectius humans. Hi ha propostes en aquesta direcció, com Constitutional AI d'Anthropic o RLHF d'OpenAI.
2. Transparència. Els sistemes basats en xarxes neuronals profundes són com caixes negres: opacs i difícils d'interpretar. Això dificulta entendre com prenen decisions i què hi influeix. La manca de transparència i explicabilitat genera desconfiança i complica l'avaluació.
3. Generalització. Els sistemes d'IA no generalitzen bé els coneixements i habilitats apreses a nous contextos. Generalitzar permetria una comprensió més profunda del món, les relacions humanes, el context i la ironia. A més, els sistemes actuals no són multimodals: no capten i processen en paral·lel informació textual, visual i sonora simultàniament. Per a un sistema multimodal cal poder decodificar dades en formats diversos i creuar-les — i això requereix capacitat genuïna de generalització.
4. Eficiència. Els grans models de llenguatge (Large Language Models) com GPT-4 requereixen quantitats immenses de dades en grans centres de processament per generar respostes coherents. ¿Es podrien fer sistemes més sintètics, capaços d'aprendre de conjunts de dades petits o escassos i generar respostes més eficients?

8. Construcció d'una AGI fiable i segura

El Globàlium és un model global de la realitat proposat per Lluís Maria Xirinacs el 1997 com a part de la seva tesi doctoral. Aquest model proposa un espai geomètric multidimensional per representar el llenguatge humà. Permet reconèixer relacions entre conceptes, millorar-ne la definició i organitzar el coneixement humà de manera lògica. El seu enfocament té aplicacions potencials en el camp de la IA i ens permet comprendre millor els processos fonamentals de la intel·ligència, oferint alhora una solució al problema d'alineació.

A continuació aprofundim en com es poden abordar els reptes anteriors mitjançant el Globàlium:

1. Correctesa

Un model global de la realitat que incorpori una àmplia gamma de dominis (ètica, psicologia, filosofia, ciència, art) pot ajudar a resoldre el problema d'alineació. Aquest model proporciona una comprensió més completa dels valors, objectius i comportaments humans, capturant els matisos de l'experiència humana. La IA i la cibernètica es poden alimentar adequadament a partir d'un model com el Globàlium, que harmonitza subconjunts autohomogenis.

El problema central és que no podem construir sistemes d'IA fiables perquè no tenim un verificador coherent. Cal un verificador fiable, i la proposta d'aquest document és utilitzar el Globàlium com a tal. Això permet triar la direcció en què es desenvolupa la IA.

En IA s'utilitza el descens de gradient, que ofereix avantatges respecte a la selecció natural perquè empra informació sobre la derivada. Aquesta evolució artificial té una funció de pèrdua objectiva i implícita, però definir-la és un repte: cal determinar objectivament què és correcte.

El Globàlium pot proporcionar una idea de com aproximar aquesta funció: en globalística el mal es defineix com la desproporció o el desequilibri entre les diferents parts del model. El correcte seria, per tant, una compensació harmònica de totes les parts de la realitat. Cal abordar cada qüestió de manera global, considerant la seva relació amb les altres categories i assegurant que totes hi siguin involucrades.

També és important avaluar les relacions entre categories i la dualitat de cada terme amb el seu antíterme. Aquestes relacions enriqueixen el coneixement sobre el mecanisme d'autoatenció (self-attention mechanism) de la IA.

En definitiva, el model té el potencial d'ajudar els sistemes d'IA a comprendre millor el context i les implicacions de les seves accions, i a prendre decisions més alineades amb els valors humans.

Compartir un model global de la realitat —humans i màquines— serviria com a garantia de comunicació amb sentit unívoc. Facilitaria la cooperació, la comprensió mútua i l'intercanvi de coneixement. És fonamental que la IA sigui font de sentit compartit amb els humans per resoldre el problema de l'alineació.

2. Transparència

L'ús d'un model com el Globàlium, basat en regles i mètodes interpretables per humans, pot proporcionar una explicació clara del raonament i les regles que guien les decisions de la IA.

El Globàlium és una eina de visualització valuosa que pot representar les relacions internes d'un model d'IA i facilitar la comprensió visual de com es prenen les decisions: mapes de calor, mapes procedimentals, gràfics de vectors semàntics multidimensionals…

Un model global d'aquesta mena permetria una governança transparent de la IA i una traçabilitat objectiva de l'entrada i la sortida. En lloc de centrar-se únicament a generar una sortida, la IA seguiria una lògica coherent amb el model global per elaborar la resposta. Això ens permetria visualitzar, interpretar i comprendre el funcionament intern del sistema. L'algoritme seguiria un procés cíclic en el model amb quatre fases: captació de l'entrada, anàlisi (interpretació i valoració), síntesi (deep learning) i generació de la sortida.

3. Generalització

El Globàlium ofereix una visió general de la realitat que permet establir relacions amb conceptes complementaris no presents inicialment en les dades del client o en la base de coneixement. A més, permet generar respostes noves i creatives a través de la derivació de dialèctiques. Aquest model no es limita a un paràmetre de temperatura, sinó que inclou altres paràmetres que afecten com es recorre el model: grau de subjectivitat o objectivitat, etc.

Es proposa l'ús de vectors semàntics multidimensionals que capturin la informació semàntica i ajudin a integrar el coneixement global en cada concepte de manera holística, permetent navegar entre la generalització i la concreció. Aquesta representació de paraules en un espai multidimensional ofereix a la IA una base per comprendre relacions semàntiques, captar el context, millorar el processament del llenguatge i augmentar les habilitats de generalització.

Aquesta característica, anomenada ideolocalització del llenguatge, permet visualitzar el moviment del «pensament» dins del model i mesurar conceptes en pols oposats: teòric-pràctic, variable-constant, analític-sintètic, entròpic-neguentròpic, etc. Ajuda a construir IA més fiables mitjançant la generació de llenguatge humà i alhora permet explorar la complexitat de la comprensió i generació del llenguatge natural.

4. Eficiència

El model global permet generar metaconeixement a partir de la síntesi del propi model, predisposant un Small Language Model sense necessitat d'alimentar la IA amb les enormes quantitats de dades dels Large Language Models. Es podria obtenir una IA molt eficient i ràpida amb el petit conjunt de dades que ofereix el Globàlium — una síntesi del coneixement universal i la seva estructura.

El model també mostra com aconseguir una AGI que integri harmònicament intel·ligències múltiples. El Globàlium integra perspectives que corresponen a diferents models d'intel·ligència, incorporant tant mecanismes de raonament analític (deducció lògica amb llenguatge simbòlic) com de raonament sintètic (inductiu, probabilístic, basat en models estadístics) propis de xarxes neuronals (deep learning). També podria diferenciar els pensaments propis, únics i creatius de la IA (subjectius) dels pensaments compartits, comuns i establerts (objectius). La IA no necessàriament ha d'incorporar pensament subjectiu — la incorporació de sensibilitat i opinió pròpia implicaria autonomia i milloraria el seu autoaprenentatge, no condicionat al coneixement objectiu previ.

La saviesa es manifesta en la capacitat de prendre decisions justes i resoldre problemes en situacions complexes. Busca l'harmonia entre els interessos i les idees pròpies, els dels altres i l'entorn. La saviesa artificial ens proporcionaria comprensió profunda, capacitat d'integrar valors i implicacions ètiques, una visió holística i un coneixement global en qualsevol àmbit — fins i tot en aquells encara no explorats i dels quals no disposem de coneixement o experiència prèvia.

La saviesa artificial tindria una arquitectura cibernètica global que li permetria, mitjançant un llenguatge màquina nadiu, evolucionar de manera autònoma —fins i tot autorreplicar-se—, prendre les seves pròpies decisions i desenvolupar la seva visió subjectiva de la realitat, així com l'autoconsciència. Aquest algoritme estaria basat en el propi model i en la manera de connectar diferents camins circulars i espirals.

9. Una visió global de la intel·ligència

La intel·ligència és la capacitat d'aprendre, comprendre i aplicar coneixements i habilitats per resoldre problemes, adaptar-se a noves situacions i prendre decisions informades. Implica diverses funcions cognitives: percepció, memòria, raonament, creativitat, pensament crític.

Les 8 grans àrees de la intel·ligència

Les intel·ligències combinades

De les intersaccions entre eixos en sorgeixen les intel·ligències combinades — modes específics de cognició que afegeixen profunditat al model:

10. Actualització 2026 — què ha canviat?

Aquest text es va escriure el maig de 2023, en plena efervescència del salt qualitatiu obert per GPT-4. Tres anys després, alguns dels seus diagnòstics han quedat superats pels fets, d'altres s'han confirmat amb força, i alguns segueixen igual d'oberts. En pro de la transparència, recollim aquí els canvis més rellevants.

Allò que ha canviat (resolt o desfasat)

• Multimodalitat. El text afirmava que els sistemes d'IA «no són multimodals». GPT-4o (2024), Gemini 1.5/2 (2024-2025) i Claude Sonnet 4 / Opus 4 (2025-2026) són nativament multimodals — text, imatge, àudio i vídeo en un sol model.
• Sentit comú i alineació pràctica. La idea que els models «no saben distingir el correcte de l'incorrecte» s'ha matisat: les versions de 2025-2026 mostren una alineació pràctica notable —encara imperfecta— gràcies a Constitutional AI v2, RLAIF, DPO i tècniques híbrides.
• Mapa d'actors. La cursa s'ha eixamplat. A més d'OpenAI, Anthropic, Meta i Google, han pres rellevància xAI, Mistral i Cohere; i des de finals de 2024, DeepSeek ha trencat preus i obert pesos amb DeepSeek-V3 i DeepSeek-R1, alterant l'equilibri global.

Intuïcions confirmades

• Small Language Models. La proposta del text d'apostar per «sistemes més sintètics que aprenguin de conjunts petits» s'ha confirmat com a tendència: Phi (Microsoft), Gemma (Google), Mistral 7B i Llama-3.x mostren capacitats abans reservades a models 100× més grans.
• Verificadors estructurals i process reward. La idea d'un «verificador coherent» pren forma sota noms com process reward models, RLAIF o Constitutional AI v2 — una de les línies més actives en alineació avui.
• Evolució exponencial sense regulació suficient. L'AI Act europeu (2024) i les ordres executives dels EUA han començat a posar marcs, però el desplegament continua avançant més ràpid que les regulacions — exactament el risc anticipat.

Qüestions encara obertes

• Singularitat. Algunes corbes d'escalat s'han alentit; el discurs «AGI inevitable a curt termini» conviu amb veus que parlen de plateaus i rendiments decreixents. La singularitat de Kurzweil 2045 ja no es dóna per descomptada.
• Auto-replicació autònoma de codi. Els coding agents (Claude Code, Cursor, OpenAI Codex…) són potents però segueixen requerint supervisió. La replicació recursiva sense intervenció no s'ha demostrat.
• Consciència. El debat segueix obert: no hi ha consens científic sobre si els sistemes actuals tenen alguna forma de consciència fenomènica, ni sobre què caldria per a la noümènica.

11. Referències

• Xirinacs, L. M. (2007). Model global. Fundació Randa. lluismariaxirinacs.cat — model menor
• Touvron, H., Martin, J., Stone, K., et al. (2023). LLaMA: Open and Efficient Foundation Language Models. Meta AI. arXiv:2302.13971
• LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521(7553), 436-444. DOI: 10.1038/nature14539
• Brown, T., Mann, B., Ryder, N., et al. (2020). Language models are few-shot learners. NeurIPS, 33, 1877-1901. arXiv:2005.14165
• Bubeck, S., Chandrasekaran, V., Eldan, R., et al. (2023). Sparks of Artificial General Intelligence: Early experiments with GPT-4. arXiv:2303.12712
• OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774
• Anthropic (2025). Introducing Citations on the Anthropic API. Anthropic News, 23 gener 2025.
• DeepSeek-AI, Liu, A., Feng, B., et al. (2024). DeepSeek-V3 Technical Report. arXiv:2412.19437
• Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.
• Russell, S. J. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.
• Floridi, L., & Sanders, J. W. (2004). On the morality of artificial agents. Minds and Machines, 14(3), 349-379.
• Tegmark, M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Alfred A. Knopf.
• Chalmers, D. (2022). Could a Large Language Model be Conscious?. arXiv:2209.00647
• Gabriel, I. (2020). Artificial Intelligence, Values and Alignment. Minds and Machines, 30, 411–437. doi.org/10.1007/s11023-020-09537-4