Qui hi ha darrere de la intel·ligència artificial a Catalunya? Dades i reptes sobre la diversitat per a la reducció de biaixos discriminatoris

Autoria: Karlos Castilla Juárez

Extensió: 55 pàgines

Editorial: Institut de Drets Humans de Catalunya

Data publicació: Novembre 2024

Descarrega la publicació en pdf 11.67 MB

La recerca ofereix una primera anàlisi sobre l'estat de la diversitat en el sector de la Intel·ligència Artificial (IA) a Catalunya, amb l'objectiu d'identificar àrees on puguin sorgir biaixos que afectin la igualtat i a la no discriminació.

L'estudi recopila i analitza informació d'empreses, centres de recerca, universitats, congressos i associacions involucrades en l'estudi, disseny, desenvolupament, promoció i comercialització de la IA. Així mateix, també avalua com les aplicacions de IA utilitzades actualment per la Generalitat de Catalunya integren la diversitat i el nivell de risc que el seu ús podria representar per als drets humans.

Amb la finalitat de reduir els biaixos discriminatoris, la recerca proposa una sèrie de recomanacions per a millorar la diversitat en el sector de la IA a Catalunya, amb exemples internacionals que ja estan afrontant aquest desafiament amb èxit.

Cal mostrar que la manca de diversitat als equips que treballen i desenvolupen la IA ha estat generalment una de les causes principals que expliquen que s’hagin replicat certs biaixos discriminatoris.

Si volem que els biaixos es redueixin es necessita tota mena de diversitat a la IA, incloent-hi experiències vitals que representin millor la diversitat de les nostres societats.

Índex de contingut

1. Anàlisi introductòria

2. La informació pública. Primeres dades sobre la diversitat a la IA.CAT

2.1. Empreses
2.2. Centres i grups de recerca
2.3. Estudis universitaris i postgraus
2.4. Congressos i associacions especialitzades
>>> Primera conclusió

3. Enquesta per conèixer de forma més directa la diversitat a la IA.CAT

3.1. Metodologia
3.2. Dades obtingudes
>>> Segona conclusió

4. On hi ha IA a la Generalitat de Catalunya i qui la hi subministra?

4.1. On
4.2. Qui
>>> Tercera conclusió

5. Estratègia per a la diversitat a la IA.CAT

6. Iniciatives per la diversitat a la IA existents en altres parts del món

PUBLICACIONS
Aplicació de la interseccionalitat en les polítiques i serveis d’igualtat i no discriminació: reflexions crítiques i recomanacions
Guia per a l’elaboració d’informes integrals sobre la discriminació a la ciutat

CURSOS
43è Curs anual de drets humans 01/01/1970
[Sessió formativa] IGUALTAT I NO DISCRIMINACIó. Mecanismes i estàndards internacionals 23/03/2021