09
d'abril
del
2023
Actualitzat
el
11
d'abril
a les
12:58h
El novembre passat, l'empresa OpenAI -fundada per Elon Musk i Sam Altman- va llançar al mercat Chat GPT, un algoritme capaç d'escriure textos com si fos un ésser humà. Més de cent milions de persones arreu del món utilitzen aquest estri d'Intel·ligència Artificial (IA). Ja no estem parlant d'una fase de laboratori o d'estudi de gabinet, sinó d'un estri que pot arribar a qualsevol que posseeixi un ordinador o un mòbil. I que, de fet, ja és emprat per elaborar tot tipus de documents. De Microsoft a Google, les grans tecnològiques s'han llançat a una guerra desaforada pel control de la IA. Però la manca de regulació del sector ha generat forta inquietud.
Més d'un miler d'experts han llançat un manifest titulat Pausa en els experiments gegants d'IA, en què reclamen "uns protocols de seguretat compartits per al desenvolupament d'Intel·ligència Artificial avançada". Quins són els principals riscos que suposa una IA descontrolada? Aquí en teniu alguns, analitzats perNuria Oliver, doctora en enginyeria, formada al Media Lab del MIT de Massachusetts i directora d'ELLIS Alacant (Institut d'Intel·ligència Artificial centrada en la Humanitat), projecte científic que treballa perquè Europa recuperi el terreny perdut en IA; Elisabet Golobardes, enginyera informàtica i catedràtica de la Universitat Ramon Llull, on ara és vicerrectora d'Ordenació i Qualitat Acadèmica, iJosep Maria Ganyet, enginyer informàtic i expert en noves tecnologies.
"Intel·ligència Artificial és un mal nom", assegura Josep Maria Ganyet. "El pitjor que podem fer és considerar que estem davant d'un sistema intel·ligent. La IA no és intel·ligent, és competent digital i hem d'evitar humanitzar-la, caure en una antropomorfització de la tecnologia", argumenta. Ganyet explica que es tracta d'un sistema amb "capacitat d'aprendre": "Com més interacciona més sap dels nostres gustos. Però no pot substituir les nostres intencions ni la nostra creativitat".
Per Nuria Oliver, una de les científiques de referència sobre IA, ens trobem en un tombant. Esmenta el test de Turing, pel nom d'Alan Turing, considerat un dels pares de la IA: "Afirmava que estaríem en el món de la Intel·ligència Artificial quan un ésser humà no fos capaç de diferenciar si, interlocutant a través d'una computadora, parlava amb una altra persona o amb una màquina. Podria ser que ara hàgim superat el test de Turing". Oliver assenyala que per primer cop en la història de la humanitat, ens que no són humans són capaços d'elaborar textos, àudios, vídeos i imatges.
Oliver posa l'evolució de la companyia OpenAI com un exemple de la manca de transparència que caracteritza algunes companyies del sector, un dels principals riscos a afrontar: "Va començar com una iniciativa sense ànim de lucre que volia invertir en IA per al progrés humà. Després va passar a ser una empresa de beneficis limitats. I, finalment, ha acabat sent una companyia tancada de la qual desconeixem quins paràmetres ha seguit i d'on treu les dades, i si ha violat la legislació europea de protecció de la privacitat". Oliver aporta una dada que deixa esmaperdut: "El GPT 3 ha treballat amb 175.000 milions de paràmetres, una xarxa tan complexa que fa gairebé impossible a entendre ni preveure com evolucionarà".
"El primer perill és la desinformació que existeix en aquests moments", assegura Elisabet Golobardes. La vicerectora de la URL assenyala que la societat ha de ser conscient que mai es podrà estar segur de la veracitat de les dades. Per ella, la clau no és tant la IA: "El punt clau és saber llegir les dades, poder detectar si la imatge o el vídeo que tens davant és veraç. I per entendre bé les dades el paper de l'educació i l'escola és fonamental. L'escola ha d'ensenyar a llegir les dades". Golobardes creu que la batalla important és que els ciutadans siguin conscients que poden ser manipulades.
La quasi totalitat d'especialistes admeten l'impacte transformador de la IA en l'ocupació. Però no és tan evident que no obri, alhora, un món de possibilitats en el món laboral. Golobardes assegura que "l'impacte que pugui tenir dependrà de la nostra rapidesa a moure la força de treball a altres àmbits més creatius". La professora de la URL considera que hi ha llocs de treball que aporten poc valor afegit i esmenta l'exemple de noves creacions, com la calculadora, "que no ha eliminat la feina dels matemàtics". Sí que la IA obligarà a repensar moltes coses al món laboral. I també al de l'educació: "Els meus alumnes la utilitzen. Però sempre dic que si la poden fer servir per resoldre els exercicis que els poso, és que aquests exercicis estan mal formulats".
Ganyet també matisa l'efecte de la IA sobre els llocs de treball: "Transformarà les nostres vides, això està clar, però en el nostre sector encara no hem prescindit dels dissenyadors. I com dic sempre, abans et prendrà la feina algú que sàpiga treure rendiment d'aquest nou instrument que no pas la Intel·ligència Artificial pròpiament".
Un risc en què hi ha consens entre els experts és el que suposa l'enorme concentració de poder en mans de les grans operadores tecnològiques. Massa control en unes poques mans, com Microsoft, Google, Apple o Amazon. Cap a un ministeri de la Veritat? "El risc de manipulació és evident", assenyala Elisabet Golobardes, per qui més que d'un oligopoli ja és gairebé un tot amb les dades creuades. Com va explicar, gràficament, Bill Gates recentment, Amazon és l'amo de les compres, Google de les recerques, Microsoft de la productivitat i Apple ho controla tot si tens un dispositiu seu.
En el tema del canvi climàtic és on es veu la doble cara de la IA, que pot jugar un paper essencial en la lluita contra l'escalfament global, però que alhora suposa un consum ingent d'energia. Es calcula que l'entrenament del model GPT 3 va suposar una emissió de prop de 550 tones de carboni. En el seu informe sobre la IA a la Comissió Europea del setembre del 2022, la doctora Nuria Oliver ja subratllava l'impacte que suposen els centres de dades que les grans companyies tenen per tot el món, malgrat l'esforç fet en el desenvolupament d'energia eficient i l'ús creixent d'energies renovables.
Tots tres experts coincideixen en la potencialitat positiva de la IA i en la necessitat de comptar-hi com una aliada davant tots els reptes globals. Josep Maria Ganyet conclou amb un nou missatge d'optimisme en el gènere humà: "La intel·ligència humana és meravellosa. La prova és que ha estat capaç de crear la Intel·ligència Artificial". Nuria Oliver rebla el discurs majoritari entre els experts: "La IA és útil des del combat climàtic a la medicina de precisió, passant per tots els objectius de desenvolupament sostenible de les Nacions Unides, amb tècniques que ajuden a detectar zones de fam o que prediuen les necessitats de recursos agrícoles en cas de desastres naturals. Necessitem la IA, però la necessitem regulada".
Més d'un miler d'experts han llançat un manifest titulat Pausa en els experiments gegants d'IA, en què reclamen "uns protocols de seguretat compartits per al desenvolupament d'Intel·ligència Artificial avançada". Quins són els principals riscos que suposa una IA descontrolada? Aquí en teniu alguns, analitzats perNuria Oliver, doctora en enginyeria, formada al Media Lab del MIT de Massachusetts i directora d'ELLIS Alacant (Institut d'Intel·ligència Artificial centrada en la Humanitat), projecte científic que treballa perquè Europa recuperi el terreny perdut en IA; Elisabet Golobardes, enginyera informàtica i catedràtica de la Universitat Ramon Llull, on ara és vicerrectora d'Ordenació i Qualitat Acadèmica, iJosep Maria Ganyet, enginyer informàtic i expert en noves tecnologies.
1. Tan intel·ligent és?
"Intel·ligència Artificial és un mal nom", assegura Josep Maria Ganyet. "El pitjor que podem fer és considerar que estem davant d'un sistema intel·ligent. La IA no és intel·ligent, és competent digital i hem d'evitar humanitzar-la, caure en una antropomorfització de la tecnologia", argumenta. Ganyet explica que es tracta d'un sistema amb "capacitat d'aprendre": "Com més interacciona més sap dels nostres gustos. Però no pot substituir les nostres intencions ni la nostra creativitat".
2. Manca de transparència
Per Nuria Oliver, una de les científiques de referència sobre IA, ens trobem en un tombant. Esmenta el test de Turing, pel nom d'Alan Turing, considerat un dels pares de la IA: "Afirmava que estaríem en el món de la Intel·ligència Artificial quan un ésser humà no fos capaç de diferenciar si, interlocutant a través d'una computadora, parlava amb una altra persona o amb una màquina. Podria ser que ara hàgim superat el test de Turing". Oliver assenyala que per primer cop en la història de la humanitat, ens que no són humans són capaços d'elaborar textos, àudios, vídeos i imatges. Oliver posa l'evolució de la companyia OpenAI com un exemple de la manca de transparència que caracteritza algunes companyies del sector, un dels principals riscos a afrontar: "Va començar com una iniciativa sense ànim de lucre que volia invertir en IA per al progrés humà. Després va passar a ser una empresa de beneficis limitats. I, finalment, ha acabat sent una companyia tancada de la qual desconeixem quins paràmetres ha seguit i d'on treu les dades, i si ha violat la legislació europea de protecció de la privacitat". Oliver aporta una dada que deixa esmaperdut: "El GPT 3 ha treballat amb 175.000 milions de paràmetres, una xarxa tan complexa que fa gairebé impossible a entendre ni preveure com evolucionarà".
3. Educació contra desinformació
"El primer perill és la desinformació que existeix en aquests moments", assegura Elisabet Golobardes. La vicerectora de la URL assenyala que la societat ha de ser conscient que mai es podrà estar segur de la veracitat de les dades. Per ella, la clau no és tant la IA: "El punt clau és saber llegir les dades, poder detectar si la imatge o el vídeo que tens davant és veraç. I per entendre bé les dades el paper de l'educació i l'escola és fonamental. L'escola ha d'ensenyar a llegir les dades". Golobardes creu que la batalla important és que els ciutadans siguin conscients que poden ser manipulades.
4. Ens quedarem sense feina?
La quasi totalitat d'especialistes admeten l'impacte transformador de la IA en l'ocupació. Però no és tan evident que no obri, alhora, un món de possibilitats en el món laboral. Golobardes assegura que "l'impacte que pugui tenir dependrà de la nostra rapidesa a moure la força de treball a altres àmbits més creatius". La professora de la URL considera que hi ha llocs de treball que aporten poc valor afegit i esmenta l'exemple de noves creacions, com la calculadora, "que no ha eliminat la feina dels matemàtics". Sí que la IA obligarà a repensar moltes coses al món laboral. I també al de l'educació: "Els meus alumnes la utilitzen. Però sempre dic que si la poden fer servir per resoldre els exercicis que els poso, és que aquests exercicis estan mal formulats".Ganyet també matisa l'efecte de la IA sobre els llocs de treball: "Transformarà les nostres vides, això està clar, però en el nostre sector encara no hem prescindit dels dissenyadors. I com dic sempre, abans et prendrà la feina algú que sàpiga treure rendiment d'aquest nou instrument que no pas la Intel·ligència Artificial pròpiament".
5. Massa poder en mans de molt pocs
Un risc en què hi ha consens entre els experts és el que suposa l'enorme concentració de poder en mans de les grans operadores tecnològiques. Massa control en unes poques mans, com Microsoft, Google, Apple o Amazon. Cap a un ministeri de la Veritat? "El risc de manipulació és evident", assenyala Elisabet Golobardes, per qui més que d'un oligopoli ja és gairebé un tot amb les dades creuades. Com va explicar, gràficament, Bill Gates recentment, Amazon és l'amo de les compres, Google de les recerques, Microsoft de la productivitat i Apple ho controla tot si tens un dispositiu seu.
6. Impacte mediambiental
En el tema del canvi climàtic és on es veu la doble cara de la IA, que pot jugar un paper essencial en la lluita contra l'escalfament global, però que alhora suposa un consum ingent d'energia. Es calcula que l'entrenament del model GPT 3 va suposar una emissió de prop de 550 tones de carboni. En el seu informe sobre la IA a la Comissió Europea del setembre del 2022, la doctora Nuria Oliver ja subratllava l'impacte que suposen els centres de dades que les grans companyies tenen per tot el món, malgrat l'esforç fet en el desenvolupament d'energia eficient i l'ús creixent d'energies renovables. Tots tres experts coincideixen en la potencialitat positiva de la IA i en la necessitat de comptar-hi com una aliada davant tots els reptes globals. Josep Maria Ganyet conclou amb un nou missatge d'optimisme en el gènere humà: "La intel·ligència humana és meravellosa. La prova és que ha estat capaç de crear la Intel·ligència Artificial". Nuria Oliver rebla el discurs majoritari entre els experts: "La IA és útil des del combat climàtic a la medicina de precisió, passant per tots els objectius de desenvolupament sostenible de les Nacions Unides, amb tècniques que ajuden a detectar zones de fam o que prediuen les necessitats de recursos agrícoles en cas de desastres naturals. Necessitem la IA, però la necessitem regulada".