L’explosió de la IA en la nostra vida genera esperances i pors a la vegada. Bill Gates acaba de dir "La IA serà o bé el factor d'igualtat més gran mai inventat o la pitjor font d'injustícia” [i]. Amb un posat visionari, Elon Musk fa uns mesos anunciava un mon sense feina ni diners: "D'aquí a deu o vint anys, la feina serà opcional, els diners hauran perdut el seu valor i la pobresa haurà desaparegut." [ii].
L’agost dona per molt, amb temps per a fer coses estranyes, com llegir un
document sobre els impactes en la societat de les tecnologies d’Intel·ligència
Artificial; més de 40 pàgines, molt denses de contingut.
Al final de l’article teniu la referència i l’autor, que no dic ara
qui és per no condicionar la lectura.
Poso a continuació frases concretes amb el que m’ha semblat més destacable:
En relació a la nova tecnologia:
Qualsevol afirmació sobre la IA corre el risc de quedar obsoleta en poc
temps.
Les innovacions tecnològiques – inclosa la intel·ligència artificial – no
són neutrals; poden augmentar la participació i la justícia, o ampliar les
desigualtats, el control i l'exclusió.
Hem d'evitar l'error d'equiparar aquesta «intel·ligència» amb la
intel·ligència humana ... sovint la superen en velocitat i amplitud de càlcul ...
(però) no tenen una consciència moral: no jutgen el bé i el mal, no comprenen el
significat últim de les situacions ni assumeixen el pes de les conseqüències.
Aquests instruments es presenten com a capaços de ”aprendre” ... és més aviat una
adaptació estadística basada en dades i retroalimentació.
En relació al seu impacte en les relacions de poder global i la necessitat de regulació:
En el context digital, el control de plataformes, infraestructures, dades i
potència de càlcul no és prerrogativa dels estats, sinó dels grans actors
econòmics i tecnològics que, de fet, determinen les condicions d'accés, les
regles de visibilitat i les mateixes possibilitats de participació. Quan un
poder d'aquesta magnitud es concentra en poques mans, tendeix a esdevenir opac
i a evadir el control públic.
En un context on la riquesa de les nacions depèn cada cop més del
coneixement i les tecnologies, quan aquests béns es concentren en mans de pocs,
sense formes adequades d'intercanvi i accés, es crea un nou desnivell que
contradiu la destinació universal dels béns i alimenta la bretxa entre els
inclòs i els exclosos, entre els que poden participar en la revolució digital i
els que romanen a la perifèria.
La propietat de les dades no es pot confiar només al sector privat, sinó
que ha de ser regulada.
Hi ha un desequilibri entre la velocitat del desenvolupament tecnològic i
el ritme amb què maduren la consciència, les normes, els controls i les
institucions capaces de governar-ne els efectes. No n'hi ha prou amb invocar
genèricament l'ètica; necessitem marcs legals adequats, monitoratge
independent, educació dels usuaris, una política que no abandoni la seva tasca.
En cas contrari, el canvi només estarà governat per lògiques tecnocràtiques i
es presentarà com a necessari i essencial, acabant imposant regles dictades per
aquells que posseeixen dades, infraestructures i potència de càlcul.
Com passa amb qualsevol gran avanç tecnològic, la IA tendeix a augmentar
sobretot el poder d'aquells que ja disposen de recursos econòmics, habilitats i
accés a les dades.
La llibertat en l'era digital no és només una qüestió interna; també és una
qüestió pública, que requereix normes clares i transparència.
En relació a les consideracions ètiques i de responsabilitat:
No podem considerar la IA com a moralment neutral.
Aquells que controlen la IA imposaran la seva pròpia visió moral, que
esdevindrà la infraestructura invisible dels sistemes. Una IA més moral no
serviria de res si aquesta moralitat és decidida per uns pocs. Cal una política
més present, capaç de frenar on tot s'accelera.
És essencial que les responsabilitats siguin clares en totes les etapes:
des dels qui dissenyen i programen sistemes fins als qui els utilitzen i els
qui decideixen confiar-los decisions concretes ... el que anomenem
"responsabilitat" esdevé decisiu: la capacitat d'identificar qui
hauria de ser "responsable" de les decisions, de motivar-los,
controlar-los i, quan calgui, de qüestionar-los i reparar els danys que en
deriven.
No és lícit confiar als sistemes artificials decisions letals o, en
qualsevol cas, irreversibles. No hi ha cap algoritme que pugui fer que la
guerra sigui moralment acceptable. La IA no allibera el conflicte de la seva
inhumanitat intrínseca: només pot fer-lo més ràpid i impersonal.
La guerra: aquí la qüestió no és només l'eficiència dels nous instruments,
sinó també el risc que la tecnologia, desvinculada de l'ètica i la
responsabilitat, faci que la decisió sobre la vida i la mort sigui més ràpida i
impersonal, i presenti l'ús de la força com una opció immediata i viable. A més
de la guerra visible, hi ha formes híbrides: ciberatacs, manipulació
d'informació, campanyes d'influència i automatització de decisions
estratègiques. La IA entra en aquests processos com un factor d'acceleració.
En l'era de la IA i la robòtica, ja no és possible confiar exclusivament en
la "mà invisible" del mercat.
En relació al possible impacte en aspectes socials:
És essencial desenvolupar solucions tecnològiques més sostenibles per
reduir l'impacte en el medi ambient
La imitació artificial de la comunicació humana positiva – paraules de
consell, empatia, amistat, amor – pot ser gratificant i fins i tot útil, però
en usuaris inconscients pot ser enganyosa i donar la falsa impressió d'estar en
una relació amb un subjecte personal genuí ... llavors el risc no és tant que
una persona cregui que està parlant amb una altra, sinó que perdi el mateix
desig de buscar realment l'altre.
Les decisions delicades que afecten la feina, l'accés al crèdit i altres
serveis, i la reputació de les persones, corren el risc de quedar completament
confiades a sistemes automatitzats que no coneixen «la compassió, la
misericòrdia, el perdó i, sobretot, l'obertura a l'esperança de canvi en
l'individu», i així poden produir noves formes de descart. Pot haver-hi usos
clarament anti-humans.
La desinformació no sorgeix amb la IA, però avui en dia hi troba un
multiplicador poderós. La possibilitat de manipular continguts, imatges i
vídeos exposa els ciutadans a perspectives parcials o enganyoses ... La recerca
de la veritat és un element essencial per a la democràcia, que en si mateixa és
un instrument de participació en el bé comú. El desinterès per la veritat
condueix lentament però inexorablement cap al totalitarisme
Educar en l'ús de la IA implica, per tant, educar per decidir quan i per
què no utilitzar-la. La rapidesa i facilitat amb què s'obté una resposta o una
síntesi corre el risc d'extingir el desig de fer preguntes, que només dona
fruits amb el temps. Hem d'aprendre a prescindir de la IA i protegir els
nostres joves de la promesa de la màquina perfecta, d'aquella subtil seducció
que fa que el pensament humà sembli inútil precisament quan més es necessita
... Per això és essencial una aliança entre política, institucions educatives i
famílies.
Cal dissenyar sistemes centrats en la persona i no només en el rendiment.
La innovació sovint només s'adopta amb la finalitat de reduir costos i
augmentar els beneficis.
Una societat que garantís la feina només a una petita part de la població
exposaria molts a una situació d'inactivitat forçada, absència de
responsabilitats, manca de compromís i estímuls diaris, amb conseqüències
d'empobriment humà i cultural en contrast amb l'alt nivell de desenvolupament
tècnic ... l'accés al treball per a tothom ha de continuar sent un objectiu
prioritari de les polítiques públiques i dels processos econòmics.
Quan cada gest deixa empremtes, si aquestes dades s'utilitzen per prendre
decisions que afecten oportunitats específiques (accés al crèdit, selecció de
personal, serveis), hi ha el risc de minar la llibertat i discriminar els més
vulnerables.
En cada època hi ha el risc de construir un món inhumà i més injust.
El text d’on he extret les frases anteriors és l’encíclica del Papa Prevost
“Magnifica Humanitas” [iii],
publicada el passat 15 de maig i que considero és de gran interès per a
qualsevol persona.
Llegir-la m’ha fet pensar també sobre la dificultat en el mon actual de disposar
de referents intel·lectuals i morals amb capacitat de penetració i influència
en la societat. El limitat impacte que ha tingut en els mitjans de comunicació
i el poc debat que ha ocasionat el seu contingut dona validesa a una de les
seves afirmacions: “La comunicació no és només la transmissió d'informació,
sinó la creació d'una cultura”. I la segona part de la frase és la difícil.
Agost 2026
