La inteligencia artificial no es un camino de rosas | Crónicas del intangible | Tecnología

La inteligencia artificial no es un camino de rosas | Crónicas del intangible | Tecnología


La inteligencia artificial no va a ser más inteligente que nosotros.Artur Galocha

La inteligencia artificial lleva entre nosotros más de 50 años, pero no ha sido hasta hace unos pocos cuando, con la mejora de la capacidad de almacenamiento y computación de los ordenadores, está siendo aplicable en la práctica.

El hecho de que la inteligencia artificial esté encapsulada en multitud aplicaciones para diferentes dominios (banca, medicina, redes sociales, tiendas virtuales, etcétera) ha contribuido a la popularidad del término “inteligente” refiriéndose al software o a los objetos. En ocasiones, transmitiéndonos una idea equivocada y haciéndonos pensar que las máquinas llegarán a ser tan inteligentes como nosotros (o incluso más) y nos suplantarán. Aunque la realidad es muy diferente, lo que es innegable es que los sistemas inteligentes van a ser una herramienta casi omnipresente que nos va a ayudar a desempeñar nuestras tareas.

Una de las ramas de la inteligencia artificial más populares en la actualidad, y la que más está proliferando, es el aprendizaje automático. Su principal característica es el uso de conjuntos de datos de los cuales sus algoritmos aprenden mediante un proceso denominado “entrenamiento”. Un ejemplo de uso del aprendizaje automático, publicado en The Lancet, es un experimento donde los investigadores entrenaron un algoritmo con radiografías de pacientes sanos y enfermos de cáncer, y probaron que el algoritmo era capaz de predecir la enfermedad con una mayor precisión que los radiólogos que participaron en el estudio.

No obstante, los datos son un arma de doble filo. Por una parte, el aprendizaje de los mismos es el que hace a los algoritmos “inteligentes” pero, por otra parte, pueden hacer que los algoritmos presenten sesgos. Supongamos la creación de un agente conversacional artificial (o chatbot) capaz de hablar sobre temáticas generales. Los datos necesarios para entrenar su algoritmo son millones de conversaciones entre personas humanas, las cuales son normalmente extraídas de internet.

Más información

Numerosos intentos de creación de chatbots han resultado racistas, homófobos, xenófobos, machistas y han terminado generando un discurso de odio. Aunque hay quien acusa a los algoritmos de estar sesgados, ¿hasta qué punto podemos culparlos a ellos si aprendieron de lo que vieron?

Los primeros signos que los algoritmos presentaron atentando contra la diversidad o los grupos minoritarios tomaron a sus creadores por sorpresa, e incluso dañaron la imagen corporativa. Este es el caso de Google cuando en 2015 su aplicación Photos confundió afroamericanos con gorilas. Para evitar estos sesgos inconscientes, se están empezando a definir una serie de políticas que establecen qué es éticamente correcto y qué no. Con estas directrices éticas, los ingenieros definen métricas para detectar posibles sesgos, prestan especial atención a los datos con los que sus productos son entrenados, eligen cuidadosamente el algoritmo más adecuado y validan su comportamiento tras el entrenamiento.

Otro de los problemas que dificulta la adopción de la inteligencia artificial viene de la mano de la falta de transparencia. Volviendo al caso médico anterior, dada una radiografía el algoritmo es capaz de decirnos cuál es la probabilidad de que el paciente tenga cáncer, pero no es capaz de decirnos qué lo ha llevado a ese diagnóstico. Otro ejemplo con repercusión mediática es el software COMPAS, usado en EE UU para predecir la reincidencia de criminales, el cual solo arroja una probabilidad, pero no la fundamenta.

Esta falta de transparencia no es intencionada, sino que viene dada por la naturaleza de los algoritmos. Muchos de ellos reducen el problema a complejos cálculos matemáticos, donde es prácticamente inviable conocer el significado de sus cálculos intermedios (es decir, el porqué) y donde únicamente es posible interpretar el resultado final.

Aunque esta limitación puede resultar irrelevante en ocasiones (por ejemplo, no es crucial conocer la razón por la cual una tienda on-line sugiere un producto), es crítica en sistemas que influyen en la toma de decisiones en áreas como la medicina o el sistema judicial, donde una decisión equivocada o desinformada tiene importantes consecuencias.

Actualmente, hay muchas iniciativas de investigación cuyo objetivo es proporcionar técnicas para la extracción de información de estos algoritmos de tipo caja negra (opacos para el usuario), y la creación de algoritmos nuevos que, siendo igual de efectivos, arrojen más claridad sobre sus resultados.

A pesar de las ventajas, inconvenientes y retos de la inteligencia artificial, es innegable que ha llegado para quedarse. En comparación con ciencias como las matemáticas o la física, la ingeniería informática es un área relativamente nueva y, en general, no regulada. No obstante, al igual que hace unos años se empezó a velar por la protección de datos (lo cual dio lugar a la ley europea GDPR), ahora están empezando a aparecer iniciativas tanto a nivel corporativo (p.ej. Google y Microsoft) como gubernamental (p.ej. Comisión Europea) para velar por el cumplimiento de la transparencia y los principios éticos. Y, sin lugar a duda, esto es solo el principio de lo que está por venir.

Lola Burgueño Caballero es Investigadora Posdoctoral de la Universitat Oberta de Catalunya.

Crónicas del Intangible es un espacio de divulgación sobre las ciencias de la computación, coordinado por la sociedad académica SISTEDES (Sociedad de Ingeniería de Software y de Tecnologías de Desarrollo de Software). El intangible es la parte no material de los sistemas informáticos (es decir, el software), y aquí se relatan su historia y su devenir. Los autores son profesores de las universidades españolas, coordinados por Ricardo Peña Marí (catedrático de la Universidad Complutense de Madrid) y Macario Polo Usaola (profesor titular de la Universidad de Castilla-La Mancha).

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter.

Lo más vendido de tecnología informática

RebajasBestseller No. 1
Hp Elite 8300 SFF - Ordenador de sobremesa (Intel Core i5-3470, 3.2 GHz, 8GB de RAM, Disco SSD de 240GB + 500GB HDD, Lector, Windows 10 Pro ES 64) (Reacondicionado)
  • Procesador Intel Core i5-3470 caché de 6M, hasta 3,60 GHz
  • Memoria RAM de 8 GB, de tipo DDR3
  • Almacenamiento de SSD 240GB + 500GB HDD
  • Sistema operativo Windows 10 Professional
RebajasBestseller No. 2
Hp Elite 8300 - Ordenador de sobremesa (Intel Core i5-3470, 8GB de RAM, Disco HDD de 500GB, Lector DVD, Windows 10 PRO ES 64) - Negro (Reacondicionado)
  • Ordenador de sobremesa HP 8300 SFF (Intel Core i5-3470 @ 3,2GHz (Quad Core), Memoria 8GB, Disco Duro de 500HDD DVD, WINDOWS 10 PRO ES 64)
  • Tarjeta grafica Intel Graphics HD, Sonido High DEF Audio, Tarjeta de RED - LAN: Gigabit Ethernet, Expansion: (1) PCI; (1) PCIe x1; (1) PCIe x4; (1) PCIe x16, Puertos: (4) USB 3.0 (6) USB 2.0 (1) RJ45 (1) PUERTO SERIE (1) Displayport (1) VGA
  • Contenido de la caja : El articulo + Adaptador de corriente/cable de corriente; factura
  • Dimensiones: 10.0 x 33.8 x 37.9 cm (4.0 x 13.3 x 14.9 in), Peso 7.6 kg (16.7 lb)
RebajasBestseller No. 3
Hp Elite 8300 SFF - Ordenador de sobremesa + Pantalla 22" (Intel Core i5-3470, 3.2 GHz, 8GB de RAM, Disco SSD de 240GB + 500GB HDD, Lector, Windows 10 Pro ES 64) (Reacondicionado)
  • Procesador Intel Core i5-3470 caché de 6M, hasta 3,60 GHz
  • Memoria RAM 8GB DDR3
  • Almacenamiento de 240 GB SSD + 500GB HDD
  • Monitor de 22'' marca, modelo y color según stock
  • Sistema Operativo: Windows 10 PRO
RebajasBestseller No. 4
Lenovo V14 - Ordenador portátil 14" HD (Athlon 3020E, 4GB RAM, 128GB SSD, UMA Graphics, Windows 10 Pro), Color gris - Teclado QWERTY español
  • Pantalla de 14" HD, 1280x720 píxeles, TN, 220nits, antirreflejo
  • Procesador Athlon 3020E (2C, 1.2 GHz)
  • Memoria RAM de 4GB DDR4-2400 SO-DIMM
  • Almacenamiento de 128GB SSD M.2 2242 NVMe
  • Sistema Operativo Windows 10 Pro
RebajasBestseller No. 5
ASUS Chromebook Z1400CN-BV0306 - Ordenador portátil de 14" HD (Intel Celeron N3350, 4GB RAM, 32GB EMMC, Intel HD Graphics 500, Chrome OS) Plata - Teclado QWERTY Español
  • Pantalla de 14" HD (1366x768)
  • Procesador Intel Celeron N3350 (2 nucleos, 2 MB Cache, 1.1 GHz hasta 2.4 GHz)
  • Memoria RAM de 4 GB LPDDR4, 2400 MHz
  • Almacenamiento de 32GB EMMC
  • Tarjeta gráfica integrada Intel HD Graphics 500

Fuente original