L’article de Vicent Partal Intel·ligència artificial: quan la singularitat toca a la porta planteja una qüestió que cada vegada preocupa més dins i fora del sector tecnològic: potser el desenvolupament de la intel·ligència artificial està avançant més ràpidament que la nostra capacitat per comprendre’l, regular-lo i controlar-lo.
Els punts del Vicent Partal
La singularitat pot haver començat. La IA podria estar entrant en una fase en què contribueixi cada vegada més al seu propi desenvolupament, accelerant un procés progressivament més difícil de predir i controlar. Les advertències arriben des de dins. Dario Amodei, fundador d’Anthropic, alerta sobre la rapidesa amb què augmenten les capacitats dels models i les dificultats per comprendre’n alguns comportaments. La preocupació no és exclusiva d’Amodei. Investigadors i responsables del sector debaten sobre acceleració, autonomia dels sistemes, interpretabilitat i capacitat humana de mantenir-ne el control.
El problema central és la velocitat. Les capacitats de la IA poden avançar més ràpidament que els mecanismes de seguretat, regulació i comprensió que haurien d’acompanyar-les. Frenar individualment no resol res. Una empresa que decideixi reduir el ritme mentre les altres continuen avançant simplement corre el risc de quedar enrere. Ja no és només una qüestió tecnològica. La IA afecta l’economia, la ciència, la defensa i la distribució mundial del poder. Per tant, decidir si cal frenar-la és també una qüestió geopolítica.
Una dificultat encara més gran
Aquí apareix, al meu entendre, el problema principal. I ni tan sols hi ha consens sobre la necessitat de frenar. La posició oficial xinesa n’és un bon exemple: Xi Jinping defensa simultàniament accelerar la innovació, les aplicacions i fins i tot el desenvolupament obert de la IA, i reforçar els mecanismes de seguretat perquè continuï sota control humà. És a dir, avançar i controlar, no frenar.
Però fins i tot un hipotètic acord entre les grans potències podria no ser suficient. Models cada vegada més capaços poden descarregar-se, modificar-se i executar-se localment. Aquesta democratització és positiva perquè redueix la concentració del poder tecnològic i permet l’accés a persones, petites empreses, universitats i països amb menys recursos. Però té una contrapartida: allò que es distribueix també es fa més difícil de controlar.
Una IA local, a més, no ha de continuar necessàriament local: pot modificar-se, connectar-se, integrar-se amb altres sistemes o redistribuir-se. Regular unes quantes grans empreses és una cosa; controlar milers o milions d’instàncies independents és una altra de molt diferent.
Hi ha, però, una altra manera de mirar el problema. La investigadora Timnit Gebru qüestiona que el debat se centri en una futura IA apocalíptica i potencialment incontrolable. Considera que aquesta narrativa pot desviar l’atenció dels problemes que la tecnologia ja provoca avui —biaixos algorítmics, armes autònomes, desplaçament laboral o impacte ambiental— i, sobretot, de la responsabilitat de les empreses i les persones que decideixen com es desenvolupa i com s’utilitza.
És una observació important i, en bona part, hi coincideixo. A les meves classes acostumo a posar un exemple molt elemental: una pedra és una pedra; amb ella podem construir una casa o colpejar el cap d’un home. El problema no és la pedra, sinó què decidim fer-ne. Però amb la IA apareix una diferència essencial: la pedra és una cosa inerta; la IA fa coses. Pot interpretar informació, escollir entre alternatives i executar accions. Per això les dues preocupacions no són necessàriament contradictòries: Gebru ens recorda que avui la responsabilitat continua essent humana; Partal ens obliga a preguntar-nos què pot passar si augmenta progressivament l’autonomia d’allò que hem creat.
Potser, per tant, la qüestió ja no és només si hauríem de frenar el desenvolupament de la IA, sinó una de més elemental: encara tenim alguna manera efectiva de fer-ho?
Referències
- Goode, L. (2026, 11 de setembre). One of AI’s fiercest critics says all the doom talk is ‘meant to distract us’. WIRED. Article de WIRED
- Partal, V. (2026, 17 de setembre). Intel·ligència artificial: quan la singularitat toca a la porta. VilaWeb. Article de VilaWeb
- Reuters. (2026, 14 de setembre). How China is preparing for the risk of AI escaping human control. Reuters. Article de Reuters
- Xinhua. (2026, 17 de juliol). Xi Jinping attends the opening ceremony of the 2026 World Artificial Intelligence Conference and High-Level Meeting on Global AI Governance and delivers a keynote speech. Cyberspace Administration of China. Font oficial xinesa
- Afinogenova, I. (2026, setembre). Estados Unidos teme a la IA china: claves de la pugna digital [Vídeo]. YouTube. Vídeo a YouTube