IA: Una inteligencia artificial feminista es posible (y necesaria) | Transformación Digital | Tecnología

Los cuatro pilares del mundo digital | Haz cosas extraordinarias | Tecnología


La tecnología, al contrario de lo que muchos piensan, está social y culturalmente construida. Esto significa que, si queremos que esta nos proporcione mayores cotas de justicia e igualdad, es recomendable incluir una dimensión social y ética. En el caso de la Inteligencia Artificial (IA), debido a sus propias características como el uso del big data y su capacidad de procesamiento de datos, esta recomendación se ha convertido en una necesidad.

Para disfrutar de los beneficios de la IA (mayor eficacia, eficiencia, automatización, personalización, rastreo, detección, etc.), primero es necesario garantizar tres cosas: que su uso se encuentre dentro de los límites marcados por el ordenamiento jurídico de la UE en esta materia, que la IA sea robusta desde un punto de vista técnico y que sea ética. El cumplimiento de estos requisitos está orientado a evitar que el uso de la IA en Europa conlleve problemas éticos y legales como discriminaciones producidas por sesgos, problemas de rendición de cuentas, etc.

En este sentido, y debido a su condicionamiento sociocultural, uno de los mayores retos al introducir sistemas de IA en el sector público español y europeo es garantizar que no repercutan negativamente en la vida de las mujeres e, idealmente, que ayuden en la promoción de la igualdad de género. Una cuestión que con frecuencia es ignorada y/o minimizada en los debates sobre IA.

Más información

Pero ¿qué riesgos puede conllevar la IA para la igualdad de género? Aunque, desde un punto de vista teórico, las cuestiones de género se encuentran estrechamente relacionadas con ciertos elementos que atañen a la IA (por ejemplo, la asociación de la palabra “inteligencia” con el racionamiento lógico y racional es algo históricamente vinculado a la masculinidad occidental), desde un punto de vista más práctico hay dos asuntos que resultan especialmente importantes al hablar de IA y género.

Primero, la IA puede producir sesgos de género en las decisiones que toma si no se tiene en cuenta la representatividad de los datos. Que los datos sean representativos significa que reflejen de la forma más veraz posible la diversidad de la realidad social. Sin embargo, actualmente sabemos que las mujeres están menos presentes en ciertos sectores y, concretamente, tienen menos presencia en Internet. Aunque la brecha digital se ha reducido en los últimos años, todavía existen diferencias: a escala mundial, el 55% de los hombres usa Internet en comparación con el 48% de las mujeres, y en algunas regiones, como en África, el desbalance de género es aún mayor. También se deben considerar las diferencias de género en las competencias digitales, que tienden a dejar a las mujeres peor situadas, sobre todo en las habilidades más avanzadas. Esto significa que los datos no solo están sesgados a favor de los hombres, sino que, entre las mujeres, aquellas blancas, occidentales y de clase alta, tienen mayor presencia que las demás.

Segundo, así como es importante incluir la perspectiva de género en el diseño de políticas públicas, procesos de contratación de personal, etc., también lo es en el caso de los algoritmos. Al ser los algoritmos sistemas de reglas en base a los cuales la IA toma sus decisiones, es necesario introducir reglas o pasos que eviten la discriminación por género. Al mismo tiempo, la perspectiva de género debe estar presente en el diseño de la IA. Hasta ahora, la mayor parte de los chatbots y asistentes de voz presentan características claramente asociadas al género femenino, de tal modo que sus interacciones con los/as usuarios/as refuerzan estereotipos de género ya existentes.

Resolver estos problemas sería el primer paso hacia una IA que no repercuta negativamente en las mujeres, pero ¿podemos ir más allá? ¿Es posible una IA feminista que promocione activamente la igualdad entre hombres y mujeres? La respuesta es sí. Si se aprovechan las oportunidades de la IA, esta tecnología puede ayudarnos a promover la igualdad al menos en tres áreas que son esenciales para las mujeres.

En la lucha contra la violencia de género, por ejemplo, a través del desarrollo de chatbots que faciliten los procesos administrativos para denunciar y que presten asistencia en tiempo real a las víctimas. También se puede usar la IA para predecir la probabilidad de reincidencia de una persona condenada por violencia de género, etc. Se puede emplear la IA para reducir la brecha salarial y la desigualdad económica entre hombres y mujeres a través del desarrollo de sistemas de IA que contribuyan con la transparencia retributiva. Además, la IA puede usarse para atender las necesidades de salud específicas de las mujeres a través del desarrollo y uso de sistemas de IA especializados en el diagnóstico de enfermedades que sufren las mujeres como el cáncer de cuello de útero, el cáncer de mama, etc.

En definitiva, solo una IA con perspectiva de género permitirá que este nuevo grupo de tecnologías emergentes nos ayude a alcanzar mayores niveles de justicia e igualdad. Solo una IA feminista tiene cabida en una sociedad democrática.

Lucía Ortiz de Zárate Alcarazo es investigadora predoctoral en Ética y Gobernanza de la Inteligencia Artificial en el Departamento de Ciencia Política y Relaciones Internacional de la Universidad Autónoma de Madrid.

Ariana Guevara Gómez es investigadora predoctoral en Género, Tecnología y Administración Pública en el Departamento de Ciencia Política y Relaciones Internacional de la Universidad Autónoma de Madrid.

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.

Lo más vendido de tecnología informática

RebajasBestseller No. 1
HP 15s-fq2037ns - Ordenador portátil de 15.6" FullHD (Intel Core i3-1115G4, 8GB de RAM, 256GB SSD, Intel UHD Graphics, Windows 10) Plata - teclado QWERTY Español
  • Pantalla de 15.6" FullHD (39,6 cm) en diagonal, bisel micro-edge, antirreflectante, 250 nits, 45 % NTSC (1920 x 1080)
  • Procesador Intel Core i3-1115G4 (hasta 4,1 GHz con tecnología Intel Turbo Boost, 6 MB de caché L3, 2 núcleos)
  • 8GB de memoria RAM, SDRAM DDR4-2666 de 8 GB (1 x 8 GB)
  • Almacenamiento SSD de 256 GB PCIe NVMe M.2
  • Tarjeta gráfica Integrada Intel UHD Graphics
RebajasBestseller No. 2
ASUS Chromebook Z1500CN-EJ0400 - Portátil 15.6" Full HD (Celeron N3350, 8GB RAM, 64GB eMMC, HD Graphics 500, Chrome OS) Plata - Teclado QWERTY español
  • Pantalla de 15.6" Full HD 1920 x 1080 pixeles LCD 200 nits
  • Procesador Intel Celeron N3350 (2C/DualCore 1.1GHz, 2MB)
  • Memoria RAM de 8GB SO-DIMM LPDDR4
  • Almacenamiento de 64GB eMMC
  • Tarjeta gráfica integrada Intel HD Graphics 500
Bestseller No. 3
Hp Elite 8300 SFF - Ordenador de sobremesa (Intel Core i5-3470, 3.2 GHz, 8GB de RAM, Disco SSD de 240GB + 500GB HDD, Lector, Windows 10 Pro ES 64) (Reacondicionado)
  • Procesador Intel Core i5-3470 caché de 6M, hasta 3,60 GHz
  • Memoria RAM de 8 GB, de tipo DDR3
  • Almacenamiento de SSD 240GB + 500GB HDD
  • Sistema operativo Windows 10 Professional
Bestseller No. 4
Hp Elite 8300 - Ordenador de sobremesa (Intel Core i5-3470, 8GB de RAM, Disco HDD de 500GB, Lector DVD, Windows 10 PRO ES 64) - Negro (Reacondicionado)
  • Ordenador de sobremesa HP 8300 SFF (Intel Core i5-3470 @ 3,2GHz (Quad Core), Memoria 8GB, Disco Duro de 500HDD DVD, WINDOWS 10 PRO ES 64)
  • Tarjeta grafica Intel Graphics HD, Sonido High DEF Audio, Tarjeta de RED - LAN: Gigabit Ethernet, Expansion: (1) PCI; (1) PCIe x1; (1) PCIe x4; (1) PCIe x16, Puertos: (4) USB 3.0 (6) USB 2.0 (1) RJ45 (1) PUERTO SERIE (1) Displayport (1) VGA
  • Contenido de la caja : El articulo + Adaptador de corriente/cable de corriente; factura
  • Dimensiones: 10.0 x 33.8 x 37.9 cm (4.0 x 13.3 x 14.9 in), Peso 7.6 kg (16.7 lb)
Bestseller No. 5
HP EliteDesk 800 G1 - Ordenador de sobremesa + TFT 23'' (Intel Core i5-4570, 3.2 GHz, 16GB de RAM, Disco SSD 240GB + 500GB HDD, WiFi PCI, Windows 10 Pro 64 bits) (Reacondicionado)
  • Procesador Intel Core i5-4570 caché de 6M, hasta 3,60 GHz
  • Memoria RAM de 16 GB, de tipo DDR3
  • Almacenamiento de SSD 240GB + 500GB HDD
  • Monitor de 23'' marca según stock
  • Sistema operativo Windows 10 Professional

Fuente original