Audiovisual Ciutadania Govern Obert Legislació bàsica sobre drets dels ciutadans Per a Saber Més Política i Institucional Societat de la Informació Vida associativa

DRET A SABER: ALGORISMES TRANSPARENTS. Jornada 18/11/2024. CCC Octubre, 17.30h.

by

DRET A SABER: ALGORISMES TRANSPARENTS
17.30h el 18 de novembre 2024
Sala d’Actes del Centre de Cultura Contemporània OCTUBRE
C/ Sant Ferran, 12 – 46001 València

.

ACICOM, membre de la Coalición Proacceso , organitzem  des de l’any 2010 activitats en favor del Dret a Saber.

Enguany, novament amb l’estreta col·laboració d’altres,  com les càtedres universitàries i la direcció general de transparència i participació de la Generalitat, hem organitzat aquesta jornada dedicada a la necessitat de garantir la transparència dels algorismes. Eixos procediments teòricament automatitzats i neutrals, generalment amagats, que cada dia més ens condicionen la nostra vida.

 

Inscripció gratuita en:

https://acicom.org/reserva/algorismes/transparents

 

El Dret a Saber i la transparència algorísmica
El dret a saber és un pilar fonamental en qualsevol democràcia. Este dret, estretament vinculat a la llibertat d’informació, atorga als ciutadans el dret a accedir a la informació pública que els permeta comprendre i avaluar les decisions que afecten les seues vides. En el context actual, marcat per la creixent influència de la tecnologia i la intel·ligència artificial, este dret s’ha estés a demandar transparència en els algorismes.

Els algorismes, eixes seqüències d’instruccions que guien les accions dels sistemes informàtics, estan cada vegada més presents en les nostres vides. La conformació de la informació que rebem, les opinions, les recomanacions de productes en línia, les decisions sobre concessió de crèdits, etc. venen totalment condicionades pels algorismes. No obstant això, el seu funcionament intern sovint resulta opac, la qual cosa genera preocupacions sobre la seua imparcialitat, discriminació i potencial per a perpetuar biaixos existents o intencionats.

La transparència algorísmica es presenta com una resposta a estes inquietuds. Consistix a fer públics les dades, els models i els processos utilitzats en la creació i funcionament dels algorismes, de manera que puguen ser examinats, avaluats i qüestionats per la societat civil, els experts i els propis ciutadans.

La demanda de transparència algorísmíca s’alinea amb els principis del govern obert. Este enfocament de la governança promou la participació ciutadana en la presa de decisions públiques, la transparència en la gestió dels assumptes públics i la col·laboració entre el govern i la societat civil.

Un govern obert reconeix que els ciutadans tenen dret a conéixer com es prenen les decisions que els afecten, i que han de tindre l’oportunitat de participar en eixe procés. En este sentit, la transparència algorísmica és una ferramenta clau per a garantir que les decisions basades en algorismes siguen justes, equitatives i democràtiques.

Els beneficis d’un govern obert i transparent en relació amb els algorismes són múltiples:

Major confiança pública: En conéixer com funcionen els algorismes, els ciutadans poden confiar més en les decisions que es prenen en el seu nom.
Detecció i mitigació de biaixos: La transparència permet identificar i corregir els biaixos que poden ser presents en els algorismes, evitant així discriminacions i desigualtats.
Major “accountability”: En fer públics els algorismes, les institucions públiques són més responsables de les seues decisions i poden ser sotmeses a un major escrutini.
Innovació: La transparència fomenta la innovació en permetre que diferents actors col·laboren en el desenrotllament d’algorismes més justos i eficients.
Desafiaments i Perspectives Futures: Si bé la transparència algorísmica és un objectiu desitjable, la seua implementació planteja diversos desafiaments, com:

Complexitat tècnica: Els algorismes poden ser extremadament complexos i difícils d’explicar en termes senzills.
Protecció de la propietat intel·lectual: Les empreses poden resistir-se a revelar els detalls dels seus algorismes per motius de competència.
Privacitat: La transparència pot entrar en conflicte amb la protecció de dades personals.

Malgrat estos desafiaments, la demanda de transparència algorísmica és cada vegada major. És fonamental que els governs, les empreses i la societat civil treballen junts per a desenrotllar marcs reguladors i estàndards tècnics que permeten garantir la transparència sense comprometre altres valors importants.

En conclusió, el dret a saber i la transparència algorísmica són conceptes estretament relacionats que estan transformant la forma en què entenem la democràcia i la governança. Un govern obert i democràtic ha de garantir que els ciutadans tinguen accés a la informació necessària per a comprendre i avaluar les decisions que afecten les seues vides, fins i tot aquelles que són preses per algorismes.es

Característiques desitjables per uns algorismes públics

La transparència dels algorismes públics és cabdal per garantir la confiança del públic i assegurar que les decisions automatitzades siguin justes i imparcials. Aquí hi ha algunes maneres de definir i promoure aquesta transparència:

  • Documentació Completa: Proporcionar una documentació detallada dels algorismes, incloent els objectius, les fonts de dades utilitzades, i els mètodes d’entrenament.
  • Accessibilitat del Codi Font: Quan sigui possible, fer públic el codi font dels algorismes per permetre auditories externes i fomentar la col·laboració.
  • Explicabilitat: Assegurar que els algorismes siguin explicables, de manera que es pugui comprendre com es prenen les decisions i quins factors es consideren.
  • Auditories i Avaluacions: Realitzar auditories independents i avaluacions periòdiques per verificar el rendiment i la imparcialitat dels algorismes.
  • Impacte en la Societat: Analitzar i comunicar els possibles impactes socials dels algorismes, assegurant que no es produeixin discriminacions o desigualtats.
  • Interacció amb Usuaris: Permetre als usuaris comprendre com els afecta l’algorisme i oferir mecanismes de retroalimentació i correcció si és necessari.

Exemples concrets d’Algorismes que Afecten Les nostres Vides

Els algorismes impacten en quasi tots els aspectes de la nostra vida diària, des de les recomanacions de sèries en les plataformes de vídeo sota demanda fins a les decisions de contractació en algunes empreses. Alguns exemples:

En l’Entorn Digital

Xarxes socials: Els algorismes de xarxes socials com Facebook, X, Instagram i TikTok determinen quin contingut veiem en els nostres “feeds”, prioritzant publicacions que consideren més rellevants per als nostres interessos i hàbits de consum, o per al seus.

Motors de busca: Google i altres motors de busca utilitzen algorismes complexos per a classificar els resultats d’una cerca, presentant aquells que es suposa que consideren més rellevants i útils per a l’usuari.

Comerç electrònic: Els algorismes d’Amazon, Temu, Aliexpress, eBay i altres plataformes de comerç electrònic personalitzen les recomanacions de productes en funció del nostre historial de compres i cerques. També d’acord amb els seus interessos.

Servicis de vídeo sota demanda: Netflix, Spotify i altres servicis de streaming utilitzen algorismes per a suggerir pel·lícules, sèries i cançons que podrien agradar-nos o que volen promocionar.

Aplicacions de cites: Tinder i altres aplicacions de cites empren algorismes per a suggerir possibles parelles en funció dels nostres interessos, ubicació i altres factors.

En Altres Àmbits

Sistemes de recomanació: Els algorismes s’utilitzen per a recomanar productes en supermercats, notícies en aplicacions de notícies i fins a llibres en biblioteques.

Detecció de fraus: Els bancs i les empreses de targetes de crèdit utilitzen algorismes per a detectar transaccions fraudulentes.

Diagnòstic mèdic: Alguns algorismes poden ajudar els metges a diagnosticar malalties a partir d’imatges mèdiques.

Vehicles autònoms: Els cotxes autònoms utilitzen algorismes per a prendre decisions en temps real, com accelerar, frenar o canviar de carril.

Sistemes de contractació: Algunes empreses utilitzen algorismes per a analitzar els currículums i seleccionar als candidats més adequats per a un lloc de treball.

Les prediccions metereològiques:  utilitzen algorismes complexos per analitzar i interpretar grans quantitats de dades. Aquests algorismes processen informació de diverses fonts, com estacions meteorològiques, satèl·lits, radars i boies oceàniques.

 

Programa

17.15h Acreditacions

17.30 Inauguració
• Joaquín Martín Cubas, director de la càtedra PAGODA (Participació, Govern Obert i Dades Obertes)
• José Ignacio Pastor Pérez, fundador d’ACICOM i director de la Jornada

18.00 El nou Registre d’Algorismes Públics de la Comunitat Valenciana
• Lorenzo Cotino Hueso, catedràtic de dret Constitucional, Universitat de València.

18.30 Dret a saber: els drets de la ciutadania sobre l’ús d’algorismes per part de les administracions públiques
• Rosa Cernada Badía, professora de Dret Administratiu, Universitat de València. 

19.00 Algorismes transparents: Com obrir els algorismes públics?
• Enrique A. Sánchez Pérez, catedràtic de Matemàtica Aplicada, Universitat Politècnica de València.

19.30 Conversa oberta
• Ponents de la Jornada i públic assistent
• Modera: Jorge Castellano Claramunt, professor de Dret Constitucional, Universitat de València.

20.00 Clausura de la Jornada

Organitzen i col·laboren:

 

PER A SABER-NE MÉS

A continuació us deixem una sèrie de documents i materials que permeten conèixer més a fons el tema:

 

Altres edicions d’ACICOM del Dret a Saber:

 

 

0
Tags: