Roser Martínez: «La cultura americana de la violència pot arribar a Europa en forma de drons armats»

Hi ha el perill que els nous enginys militars puguin prendre les seves pròpies decisions sense la intervenció de l'ésser humà? El desenvolupament de la intel·ligència artificial aplicada a les armes fa que això ja no sembli l'argument d'una novel·la de ciència-ficció. El novembre passat, les Nacions Unides van convocar a Ginebra als representats de 88 països del món per intentar aconseguir un acord per prohibir les armes autònomes amb intel·ligència artificial en el marc de la Convenció d’Armes convencionals, com es va fer amb les mines antipersona o els làsers cegadors.

En la trobada van participar com a experts membres del Comitè Internacional per la prohibició d’armes robòtiques (ICRAC), els doctors Roser Martínez i Joaquin Rodríguez, de la UAB, que acaben de publicar Inteligencia artificial y armas letales autónomas, (ed. Trea). Les negociacions continuaran aquest 2019 perquè no van aconseguir arribar a un consens.
 
- És una de les expertes designades per les Nacions Unides per estudiar la regulació de les armes autònomes. Expliqui'ns què són.

- Jo formo part del Comitè Internacional pel Control de les Armes Robòtiques i, com a tal, sóc a la reunió d'experts de la Convenció d'Armes Convencionals. És un nom redundant però es diu així. Les armes autònomes es van detectar fa uns cinc anys, quan els militars van començar a emprar un sistema tecnològic que podia actuar de forma independent de l'ésser humà. A través de la intel·ligència artificial, l'enginyer introdueix un seguit d'algoritmes, de fórmules matemàtiques... Des del Comitè, creiem que això viola el dret de la guerra. Evidentment, hem de lluitar perquè no hi hagi violència. Però si aquesta es produeix, cal que sigui amb ètica, amb moral i amb participació humana.

"Segar la vida d'una persona no pot estar en mans d'un dron"

- Què és el que reclamen?

- No estem en contra de la intel·ligència artificial, sempre que s'utilitzi amb finalitats benèfiques i, en tot cas, protegint la dignitat humana. Reclamem una norma vinculant, sigui en forma de tractat o directiva, que aturi el desenvolupament de la intel·ligència artificial amb finalitats letals. Segar la vida d'una persona no pot estar en mans d'una màquina. Una norma sempre serà una dissuasió pels estats i cal visualitzar socialment que aquestes armes són un perill per a la humanitat.

- És també l'única dona que forma part del comitè d'experts. La seva és una mirada femenina al problema de les armes. Què pot aportar en aquest tema aquesta perspectiva de dona?

- Crec que la presència de les dones és important en les polítiques públiques de desarmament i en les seves corresponents negociacions. En aquests moments s'està incomplint el mandat de les Nacions Unides, que estableix que tots els estats membres han de vetllar per una major representació de les dones en tots els nivells de decisió en institucions de resolució de conflictes, i encoratja els qui donen suport a processos de pau perquè donin inclusió a dones en les diverses parts negociadores. Aquesta és una resolució de l'any 2015 i tot sovint es vulnera.

- La violència està molt més vinculada a l'home?

- Bé, només en un 95% dels casos... El 95% dels delictes violents al món els cometen homes. Crec que les dones podem ajudar i molt en l'evolució positiva dels conflictes i dels processos de pau arreu del món.     

- Aquestes armes autònomes poden funcionar per terra, mar i aire. Perquè ens fem una idea d'aquests robots, com són?   

- Per terra, poden ser des de robots antropomòrfics, amb forma humana, fins a tancs autònoms. Per aire, són els drons. Per mar, poden surar o ser submarins. Però no és la forma el que els dona la característica principal per ser un LAW (arma autònoma letal), sinó que disposen d'un sistema d'intel·ligència artificial que els fa separar-se del control humà.  

- Hi ha països que s'oposen a un tractat de prohibició, com es va veure a la reunió del novembre a Ginebra. Quins són?

- Eren presents 88 estats i només 28 van expressar obertament la intenció de signar un tractat. Els qui més s'oposaven eren els Estats Units i Rússia, en primer lloc, i França, Alemanya, Israel, el Regne Unit, els que tenen entre mans el desenvolupament d'aquests estris. La Xina va mantenir una actitud ambivalent, però sabem que està invertint moltíssim en intel·ligència artificial. La Xina no té el llast d'haver de farcir un exèrcit com el que tenen els EUA i Rússia i estan invertint perquè veuen que amb pocs recursos poden esdevenir una gran potència miliar.  

- I el paper d'Espanya?

- Espanya té interessos comercials molt potents i no pot signar un tractat sense valorar-los. És un tema delicat per l'estat espanyol i està a l'expectativa. El seu exèrcit no té desenvolupat les LAW com sí que tenen les primeres potències. Però Espanya  té una indústria tecnològica puntera que pot arribar a tenir-les i vendre-les a altres països. Sigui el que sigui, nosaltres ens proposem acusar de conspiració per al genocidi als estats que es neguin a subscriure un tractat de prohibició.   

"Hi ha el risc que es pugui estendre la utilització d'armes autònomes en mans de ciutadans privats"

- Quins són els perills més immediats de les armes autònomes?

- N'hi ha dos. Un és de seguretat pública: hi ha el risc que aquestes armes caiguin en mans d'organitzacions terroristes, o o estats autoritaris que les puguin utilitzar amb finalitats criminals. Pensem en els eixams de drons. Un dron -com amb l'incident que ha passat a Gatwick- no és assimilable en velocitat a la d'un avió comercial, però des d'un míssil es poden llançar milers de minidrons, que formen eixams de drons connectats entre ells per intel·ligència artificial. Aquests sí que poden provocar altres atemptats com el de l'11-S, i poden portar armes convencionals, però també químiques o nuclears. Un altre perill, i això és el primer cop que ho dic, és que es pugui estendre la utilització d'armes autònomes en mans de ciutadans privats.

- És un risc real?

- Pensem que en aquests moments, no hi ha cap regulació sobre drons armats enlloc del món. En canvi, veiem que la policia local, a Sant Cugat, a Benalmádena, està començant a utilitzar-ne amb finalitats de vigilància. Bolsonaro, al Brasil, s'ha referit a suplir policia per drons. Ens podem trobar amb drons que decideixin eliminar algú sense cap procés legal. Els drons assassins amenacen la seguretat humana global.     

- Quan diu que els ciutadans poden acabar de disposar d'armes autònomes vol dir de manera legal?

- Sí. Als Estats Units es podria generalitzar a través d'una sentència dels tribunals l'ús d'aquestes armes. Actualment ja és legal l'ús d'armes automàtiques. Per què no les autònomes? El  terrorisme és una amenaça, però s'hi ha afegit un problema que pot ser més greu, que gràcies a la legislació, un dron pugui tenir un sistema armat que protegeixi el propietari, per exemple, de qualsevol violació del seu domicili. El Tribunal Suprem dels Estats Units ha avalat aquest tipus de defensa amb armes automàtiques.
 
- Vostè és una especialista en legislació d'armes als Estats Units. Ha publicat Armas. ¿Libertad americana o prevención europea? (Ariel). Com està aquest debat en aquests moments als EUA?

- Malauradament està igual que quan vaig publicar aquest llibre, el 2003. En els primers anys d'Obama es van incrementar les vendes d'armes perquè hi havia qui creia que el nou president podria imposar una legislació restrictiva. Quan ja es va veure que no, es van relaxar les vendes i actualment es mantenen amb algun pic com les del passat Black friday.

- Com es pot entendre amb ulls europeus l'accés d'un ciutadà del carrer a armes automàtiques o fins i tot autònomes (amb intel·ligència artificial)?

- El model d'estat nord-americà està del tot contraposat al nostre. El model europeu l’anomenem administratocèntric. Certament en la construcció dels Estats, l’Administració va assumir el monopoli del poder i de la seguretat. En el cas nord-americà, originàriament va ser el ciutadà qui tenia aquest monopoli de la seguretat i com que rebutjava el sotmetiment a una administració que els pogués tiranitzar, participava directament en la justícia (a través dels jurats populars i els jutges elegits), en les funcions de policia (els xèrifs), i militarment (els primers exèrcits eren les actuals milícies anomenades guàrdies nacionals). I això garantit constitucionalment. Per això s’anomena un model individuocèntric en què el ciutadà és el centre de tot.

"Als Estats Units circulen 300 milions d'armes de defensa personal i hi ha 30.000 morts a l'any, deu vegades més que a Europa"

- Posem algunes xifres al problema de les armes als EUA.  

- La xifra és claríssima: 30.000 morts a l'any entre accidents, homicidis, assassinats i suïcidis per culpa de la facilitat en l’accés a les armes de defensa personal que els dona una regulació permissiva i una administració no interventora. Als Estats Units circulen 300 milions d'armes (moltes d’elles tipus metralleta, armes d’assalt militars) tantes com població. Es considera que una tercera part dels ciutadans en té, sobretot homes.

- Qui són les principals víctimes dels accidents quan hi ha armes a casa?

Els nens i els joves. I pel que fa als homicidis, els agressors sovint pertanyen al cercle de coneguts de la víctima. Per tant, un arma en un domicili no sempre ajuda a l’objectiu de protecció de la vida front d’un desconegut que pretén entrar a robar a casa. A més, als EUA els lladres no es plantegen qui ha de disparar primer. A Europa, per sort, encara no ens veiem en aquesta situació.

- I la diferència amb Europa?

- A Europa hi ha un mort per cada 100.000 habitants. Als Estats Units n'hi ha deu per cada 100.000. Deu vegades més. Al Brasil, hi ha estats on poden arribar als 50 per cada 100.000. Un dels països on hi ha menys mortalitat homicida és el Japó. Però allí hi ha més suïcidis. La xifra de poc més de 30.000 morts es manté des de fa anys i és una epidèmia. Però amb les LAW en mans d'una població en què les armes són un instrument normal de defensa serà una pandèmia.    

- Pot haver algun canvi legislatiu als EUA en un sentit de més control?

- És que les lleis ja hi són, però no s'apliquen. La llei Brady exigeix que, quan es compra una arma, el venedor ha de buscar els antecedents penals del comprador. Però no tenen un registre federal que funcioni. N'hi ha un de registre, però no és eficaç perquè els estats no els comuniquen la seva informació. A més, no s'aplica la llei Brady si hi ha fires o en tracte directe entre particulars.
 
- Esmentava abans el nou president del Brasil, Bolsonaro. Ell s'ha pronunciat en favor de facilitar l'accés dels ciutadans a les armes. Podem viure una nord-americanització de la seguretat als carrers d'Europa?

- Nosaltres, els europeus, hem de defensar el model europeu de seguretat, mostrant les xifres reals. A Europa hi ha més entrades a les cases per robar que als EUA, però no hi ha tants morts. Hem de defensar amb orgull el nostre model. La cultura nord-americana de la violència pot arribar a Europa ara en forma de drons autònoms.

- Escolti, i aquesta afició, d'on li ve?

- Som un grup de professors de la UAB que vam fundar l'Escola de Seguretat i Prevenció Integral, perquè estàvem preocupats per garantir la seguretat humana. A mi em preocupava el tema de les armes als EUA, i el vaig triar com a tema de tesi doctoral. He de dir que inicialment jo creia que les armes podien ser útils i oferien més seguretat, però vaig arribar a la conclusió contrària.

"Si disposem d'un arma podem convertir-nos en botxins en un segon"

- Però hi ha alguna cosa que l'ha vinculat al món de les armes?

- Sóc filla d'un armer. M'he mogut sempre en el món de les armes, de la cacera, del tir olímpic, sóc una dona d'armes... i per això sóc conscient de la responsabilitat de tenir-ne i de la necessitat del seu control per part de l’Administració. Cal ser un expert per utilitzar-les i ser conscient que si disposem d’un arma podem convertir-nos en botxins en un segon, ja sigui per accident o per un trastorn mental transitori.


- També és una experta en el sistema federal dels EUA, que ha estudiat a Soberanía dual y Constitución integradora (Ariel), sobre la jurisprudència del Tribunal Suprem nord-americà. Veu el sistema dels EUA com un model del qual es poden extreure lliçons per la situació a Catalunya?

- Evidentment. Es podria valorar el model federal dels EUA de Sobirania Dual, que rebutja qualsevol política unilateral i defensa una respectuosa coparticipació del poder entre Washington i els 50 Estats. El model americà mostra que només pot haver patriotisme i unitat si s’estableix i es respecta una estructura integradora, política i administrativa-fiscal que reconegui la sobirania dels 50 estats que conformen la federació. Fins el punt de que cada estat té el seu propi codi penal, establint o no la pena capital.

- En què es diferencia el Tribunal Suprem nord-americà del Tribunal Constitucional espanyol?

- Una diferència important és que els membres del Suprem als EUA, un cop estan designats, ho són de manera vitalícia. Això, que pot sorprendre, els dona sovint una major independència de criteri. I sobretot, són molt respectuosos amb l'estructura federal i dels drets dels 50 estats perquè saben que l’èxit del poder de la nació rau en la seva arquitectura de chechs and balances. Esperem que a Europa sapiguem extraure allò positiu del model americà i no ens deixem emmirallar per determinades polítiques de seguretat que els/ens poden portar a una inseguretat global. Sobretot tenint en compte que han entrat en escena no només actors coneguts com Rússia, sinó països asiàtics com la Xina o Corea del Sud, que gràcies al desenvolupament de la intel·ligència artificial en el sector de les armes poden sacsejar l'ordre mundial.