Intel·ligència artificial i democràcia

07-10-2021

 

 

 

 

 

 

Argumenta BCN
Daniel Innerarity 28 de setembre de 2021

 

En la sessió inaugural de l’Argumenta BCN, el filòsof i catedràtic Daniel Innerarity compartia una preocupació, un perill que cal enfrontar en el futur immediat. L’ús generalitzat de la tecnologia ha augmentat i s’ha generalitat, i ha arribat, també, a la gestió política. Tot i que les dades massives i els seus sistemes automatitzats d’anàlisi, els algoritmes, ens són molt útils per obtenir informació de tendències, interessos i preferències, cal establir uns paràmetres ètics en la seva aplicació als sistemes democràtics. Traslladar la lògica del mercat als sistemes de participació ocasionaria problemes importants que amenaçarien aspectes fonamentals de la democràcia entre ells la participació, la igualtat i el debat públic, entès aquest com a acords conjunts sobre els temes importants, més enllà de la simple anàlisi de preferències individuals.

La ponència del Dr. Innerarity va estar estructurada en tres grans qüestions: la Governança algorítmica, la dimensió política de la intel·ligència artificial i la reformulació, dins els espais digitals, dels conceptes fonamentals democràtics com igualtat, justícia, equitat

Governança algorítmica

La primera idea sobre l’ús de la tecnologia en la gestió política és que ja no es pot prescindir d’ella. Està demostrat que està potenciant la capacitat de gestió de problemes complexos, i per tant, l’anàlisi dels grans reptes de la humanitat. Però aquest ús extensiu de l’anàlisi de dades porta a la necessitat d’establir uns límits, una ètica, sobretot quan els algoritmes substitueixen les decisions humanes. Cal recordar que la democràcia se sustenta en la lliure elecció, si deleguem acríticament les nostres decisions en sistemes que, a priori, considerem més eficients, neutrals i objectius, estarem perdent poder decisori. A més, com ens explicarà més tard, aquesta suposada neutralitat no és tanta, ni la missió de la democràcia és la pura eficiència en la consecució d’objectius o la racionalització de processos.

La gran promesa tecnològica, que és coincident amb un dels objectius democràtics, és que es pot arribar a conèixer i adaptar-se a la veritable voluntat de la gent. Personalitzem la salut, l’energia i tants àmbits de la vida. L’enginyeria de dades ens permetria una versió particularitzada, una major capacitat perquè els sistemes polítics s’adeqüin als nostres desitjos. Com a model de negoci, el que busca és conèixer els usuaris i ho fa a través de les seves pràctiques i eleccions en el passat per a donar-nos el que volem. El proveïdor de productes i serveis s’avança, invita, suggereix. Hem naturalitzat aquesta relació com a clients i sembla que no hi hagi una dominació directa, una certa conducció de les nostres preferències. Traslladar aquest model a la política obvia que aquesta dinàmica comporta el sacrifici d’una quota de privacitat, o dit d’altra manera, de llibertat.

D’altra banda, si les propostes llençades per l’algoritme són el resultat de les anàlisis de les nostres decisions en el passat (o dels exercicis concrets de llibertat en el passat), sorgeix un greu problema, per una banda, no es pot mirar la democràcia com la satisfacció individual de desitjos i de l’altra, i no menys important, perquè la democràcia ha de ser canvi i emergència i no la traducció immediata i agregada del que decidim individualment. L’important és la capacitat conjunta de pensar i decidir futurs possibles. L’algoritme treballa perquè el futur sigui el més similar possible al present i és en aquest punt on la gestió democràtica basada en l’anàlisi de grans dades suposaria un sistema que negaria el canvi o la revolució. La decisió sobre el futur és també llibertat col·lectiva, i aquest és un valor prominent dins la democràcia. A l’esdevenir del món se li suposen quotes d’imprevisibilitat davant les que hem de tenir capacitat de moviment, i això està molt lluny de ser una reproducció del passat.

 

Com pot ser beneficiosa? En què és perjudicial

L’alta complexitat i eficiència de “la màquina” ens atorga una idea mitificada d’ella, la que la imagina capaç de resoldre tots els problemes. Però el cert és que ni pot resoldre-ho completament (potser sí en alguns aspectes), ni és capaç d’enfrontar qualsevol problema i és específicament ineficient en aquells de dimensions no quantificables. Igualtat, justícia, equitat social… que són precisament els problemes que concerneixen la democràcia.

La tecnologia pot millorar aspectes dels processos polítics, pot mesurar i millorar en gran manera la gestió administrativa. Però aquests no són els moments genuïnament democràtics. Dit d’una altra manera, la intel·ligència artificial és instrumental, eficient per a aconseguir uns objectius prèviament donats, que siguin tancats i clars, però l’establiment, elecció i ordre de prioritats d’aquests objectius són l’espai polític.L’establiment d’objectius és la funció política fonamental. I, afegint complexitat al tema, és necessari poder reformular-los, especialment en entorns canviants com els que vivim. Cal qüestionar-los, establir de nou les prioritats si és necessari. A un algoritme se li diu com arribar a un bon resultat, però cal decidir què volem que sigui un bon resultat i això és una qüestió eminentment política.

La democràcia, doncs, és decidir quins són els objectius importants per a una societat. I cal saber que la proposta (l’elecció d’aquests temes) i la seva priorització és una qüestió ideològica i que la diferència ideològica i de valors posarà sobre la taula els desacords. La pràctica política es basa en generar una distància entre la voluntat immediata (algorítmica) i la discrepància sobre què és important. Ha d’haver-hi deliberació, allò que diem l’espai públic de discussió.

Per acabar amb els aspectes en què la intel·ligència artificial no és eficient per a la democràcia estaria el de la participació. En la governança algorítmica, la preferència dels ciutadans és puntual, però no participa en l’establiment dels temes a gestionar, estan automatitzats i són gairebé una externalització de l’expressió de voluntats. Però la democràcia són processos i a cada moment hauria de comptar amb la presència de la ciutadania.

 

Igualtat, justícia i altres conceptes fonamentals

La democràcia és la promesa d’igualtat en la pressa de decisions. El sufragi universal, la llibertat d’expressió, de participació i de reunió… Mentre que l’esfera digital s’ha anat configurat com el gran espai de participació política, no s’ha avaluat si el canvi d’espai ha vulnerat aquesta capacitat equitativa de participar. Cal partir de la base que no existeix quelcom com la justícia, la igualtat o l’equitat social, sinó una conceptualització adequada a la seva significació democràtica, que és el mateix que dir que són consensos de mínims establerts en la discrepància ideologia sobre aquests conceptes. És a dir, l’algoritme serviria en aquesta dimensió de l’acció democràtica si existís un consens sobre què és, per exemple, la justícia. Però establir aquest consens és la tasca democràtica.

Per què els algoritmes no poden assolir eficiència sobre els valors a protegir? Entre altres coses perquè la neutralitat algorítmica és també un mite. A una anàlisi purament numèrica de dades se li suposa que està exempta de prejudicis, però per una banda, aquestes operacions i sobre què operen estan pensades per persones (amb ideologies, valors i cultures donades) i d’altra, els resultats són sempre un valor agregat, un índex que resum una gran quantitat de dades diverses que s’ordenen al voltant d’un patró o perfil. Però això pot ser també discriminatori. Per una banda, se’ns nega tant la individualitat liberal, en tant que models prefabricats (amb els perills de l’etiquetatge social), com també la capacitat d’adscripció social lliure als grups identitaris o culturals, ja que aquestes pertinences no les escolliríem lliurement, sinó que respondrien a la programació per a l’eficiència en la consecució de models de dades.Aquest últim aspecte és important, perquè estaríem dotant els algoritmes d’una dimensió política, d’una autoritat que hauria de ser política.

En general, no hauríem de confondre la lògica política amb lògica del mercat, i convertir-nos en quelcom similar a un “consumidor sobirà”. La democràcia no és provisió de serveis, ni racionalitat administrativa, ni eficiència de resultats, sinó la conversa i discussió sobre: què és important garantir?, en quin ordre de preferències? Amb quins valors? Com ens orientem al futur que necessitem nosaltres i el planeta?

 

Escoltar la conferència
Blog de Daniel Innerarity

 

Autores i obres citades

Shoshana Zuboff – El capitalismo de vigilancia