“Póngame con un humano”: el origen de la aversión al algoritmo | Tecnología

“Póngame con un humano”: el origen de la aversión al algoritmo | Tecnología


Sylvester McCoy como Doctor Who y Sophie Aldred como Ace (1988)Mirrorpix / Getty Images

Entre humanos, es habitual perdonar el error ajeno y admitir el propio. “El mejor escribano echa un borrón”, dice el refranero que tan bien nos conoce. Cuando la que mete la pata es una máquina, nos volvemos inmisericordes. Así lo revelan estudios como el que acaba de publicar un equipo de investigadores de las universidades de Munich y Darmstadt, en Alemania. Cuando un sistema de decisión basado en algoritmos comete un error, nuestra confianza en ellos se daña más que la depositamos a en personas que nos han dado el consejo equivocado. Sin embargo, esta crisis de fe tiene cura: que el modelo demuestre su capacidad de aprender.

El fenómeno, bautizado en la academia como aversión al algoritmo, no es nuevo. “En los años 60 había estudios que observaban la atención sanitaria y las decisiones médicas, comparando sus juicios clínicos con aquellos basados en estadísticas. Pese a que estos métodos eran realmente precisos en sus predicciones, los humanos siempre se abstenían del juicio puramente estadístico”, explica Benedikt Berger, autor del estudio, junto con Martin Adam, Alexander Rühr y Alexander Benlian.

Los investigadores han trasladado ese modelo a la relación entre humanos y sistemas de aprendizaje automático, y han encontrado una tendencia parecida. “En general, somos más reacios a confiar en algoritmos para tareas subjetivas”, explica Berger. Esto ocurre en el caso de los diagnósticos médicos, pero también en otros marcos de decisión, como la determinación de si un chiste es gracioso o la posibilidad de que dos personas sean pareja. “Cuanto más subjetiva es la tarea, más ignoramos a los algoritmos”, precisa el investigador.

En el caso de las tareas objetivas, de entrada, estamos dispuestos a escuchar la opinión de la maquina. De acuerdo con el estudio, en el que han participado casi 500 personas que han interactuado con consejeros humanos y sistemas de decisión basados en algoritmos, no hay una aversión general en estos casos. El problema llega cuando la máquina da señales de torpeza. “Cuando empezamos a conocer el algoritmo y su rendimiento y vemos que puede fallar, que no es perfecto, surge la aversión”, añade Berger.

Una sola oportunidad

¿Cómo se rompe la magia? El experto apunta a diferentes hipótesis. Por un lado, la concepción que tenemos de los algoritmos como conjuntos de reglas fijas podría generarnos mayores expectativas que las que tenemos ante un imperfecto humano. Por otro, esa mayor disposición a perdonar las equivocaciones de nuestros congéneres puede estar fundamentada en el reconocimiento de nuestra capacidad para aprender de los errores. Al primer traspié de la máquina, damos por hecho que inevitablemente volverá a tropezar en la misma piedra.

“Pero esto no es cierto para cualquier sistema. Hay ejemplos de algoritmos que pueden aprender de resultados previos que no hayan sido óptimos”, matiza Berger. De acuerdo con sus investigaciones, esta habilidad podría guardar la clave de la redención de las máquinas. “Si el sistema demuestra un rendimiento que se optimiza continuamente y la gente reconoce que está mejorando, esto puede compensar el shock inicial”.

Es una relación similar a la que tenemos con el sistema de recomendación de Spotify. En el momento de la creación de la cuenta es inevitable que algunas de sus sugerencias musicales nos parezcan un sinsentido. “Estos sistemas necesitan observar el tipo de música que escuchas o los artículos que compras para saber qué ofrecerte. Es lo que se conoce como problema de arranque en frío”, explica Berger.

Una manera de salvar este escollo es tratar de recabar algo de información al inicio. Amazon, por ejemplo, recurre a esto con sus Kindle: ofrece a cada nuevo usuario la posibilidad de introducir libros que ha disfrutado o está interesado en leer. “Otra opción es comunicar que inicialmente las sugerencias pueden no ser muy precisas y que, con el tiempo, irán mejorando”, señala el investigador. La opción de reforzar la comunicación, afirma, también es válida para sistemas en los que no hay aprendizaje automático, pero sí mejoras introducidas por parte de los ingenieros. “No vale una lista enorme de actualizaciones en lenguaje técnicos”.

Cuestión de equilibrio

Pasarse de optimismo en la comunicación de estas mejoras también es peligroso. Es más, nos devuelve al punto de partida. “Sobreprometer es arriesgado. Y es algo que la inteligencia artificial en general ha sufrido en el pasado. Si elevas las expectativas y no las cumples, tendrás usuarios insatisfechos”, advierte Berger. “En ciertos aspectos, puede ser peligroso. Por ejemplo, en Alemania, se le ha prohibido a Tesla llamar piloto automático a su sistema de conducción avanzada porque lleva a la gente a pensar que no tiene que hacer nada mientras conduce. Pero es un asistente”.

También hace falta equilibrio en la confianza que depositamos en los algoritmos, por muy duchos que sean en aprender de sus errores. “Existe un fenómeno opuesto que se conoce como sobreconfianza en sistemas tecnológicos”, señala el investigador. En este extremo, las investigaciones demuestran que podemos pecar de exceso y seguir ciegamente a las máquinas hasta desenlaces que nos perjudican. Berger pone como ejemplo en los que se presentan escenarios ficticios donde los que un robot actúa como guía dentro de un edificio en llamas. “La gente seguía al robot incluso cuando sus indicaciones eran claramente erróneas. Definitivamente tenemos que ser cautos y juzgar las decisiones de los algoritmos con sano escepticismo”.

Puedes seguir a EL PAÍS TECNOLOGÍA RETINA en Facebook, Twitter, Instagram o suscribirte aquí a nuestra Newsletter.

Lo más vendido de tecnología informática

Bestseller No. 1
HP 15s-eq1075ns - Ordenador portátil de 15.6" FullHD (Athlon 3050U, 8GB de RAM, 256GB SSD, Amd Radeon Integrated Graphics, Sin sistema operativo ) Plata - teclado QWERTY Español
  • Pantalla de 15.6" FullHD
  • Procesador Athlon 3050U
  • 8GB de memoria RAM
  • Almacenamiento de 256GB SSD
  • Tarjeta gráfica Integrada Amd Radeon Integrated Graphics
RebajasBestseller No. 2
Lenovo V14 - Ordenador portátil 14" HD (Athlon 3020E, 4GB RAM, 128GB SSD, UMA Graphics, Windows 10 Pro), Color gris - Teclado QWERTY español
  • Pantalla de 14" HD, 1280x720 píxeles, TN, 220nits, antirreflejo
  • Procesador Athlon 3020E (2C, 1.2 GHz)
  • Memoria RAM de 4GB DDR4-2400 SO-DIMM
  • Almacenamiento de 128GB SSD M.2 2242 NVMe
  • Sistema Operativo Windows 10 Pro
Bestseller No. 3
Hp Elite 8300 SFF - Ordenador de sobremesa (Intel Core i5-3470, 3.2 GHz, 8GB de RAM, Disco SSD de 240GB + 500GB HDD, Lector, Windows 10 Pro ES 64) (Reacondicionado)
  • Procesador Intel Core i5-3470 caché de 6M, hasta 3,60 GHz
  • Memoria RAM de 8 GB, de tipo DDR3
  • Almacenamiento de SSD 240GB + 500GB HDD
  • Sistema operativo Windows 10 Professional
RebajasBestseller No. 4
TECLAST F15S Ordenador Portátil 15.6” Notebook Laptop 6GB RAM 128GB ROM (Más de 1TB Expandible), FHD 1920×1080, 2.40GHz Intel Celeron J3455, Window 10, 38000mWh Batería, 5G WiFi+Bluetooth+USB 3.0
  • ULTRADELGADO Y LIGERO - Laptop tiene sólo 1.8kg, con 15.6” de pantalla grande, espesor ultradelgado de 7mm con cuerpo de metal, 1920 x 1080 Full HD IPS pantalla grande con un panel de protección 2.5D de bisel estrecho de 7 mm que más delgado y más portátil. Además, el modo nocturno y la configuración del color ayudan a reducir la fatiga visual.
  • ALTO RENDIMIENTO - Ordenador Portátil con procesador Intel Apollo Lake Celeron J3455 cuatro nucleos con frecuencias máximas de hasta 2,4 GHz; la tarjeta gráfica de núcleo UHD Intel Graphics 500 ; tiene LPDDR3 con 6 GB de RAM, SSD alta velocidad con 128 GB; soporte para la tarjeta TF y el reemplazo y actualización de SSD. Permite velocidades Turbo Boost desde 1.1Ghz hasta 2.4 GHz.
  • ENTRADA EFICIENTE Y CONTROL CONVENIENTE - Teclado de tamaño completo y teclado numérico, para que la entrada del teclado sea más eficiente, panel táctil grande de 140mm x 95mm, manejo más conveniente. Nota: Teclado QWERTY ( Viene con pegatinas de teclado incluyendo Español, Francés, Alemán, Italiano)
  • CONEXIÓN POTENTE - El notebook tiene una batería grande de 38000mWh, diseñado para un rendimiento duradero, 7 horas de uso integral de la duración de la batería, con AC WiFi en doble banda con una velocidad de transmisión máxima de 433Mb / s bajo banda 5G, Bluetooth 4.2 y otra transmisión inalámbrica de alta velocidad; Es conveniente ponerse en contacto con la variedad de periféricos por los dos USB 3.0, salida Mini-HDMI de audio HD y vídeo.
  • WINDOWS 10 - Sistema operativo Windows10 genuino preinstalado, soporta todo tipo de software de oficina, software de productividad de Adobe, compatible con todo tipo de entretenimiento audiovisual, software de aplicación convencional, es bueno en entretenimiento y oficina.
Bestseller No. 5
Law & Order: Special Victims Unit - Season 13
  • Amazon Prime Video (Video on Demand)
  • Mariska Hargitay, Kelli Giddish, Danny Pino (Actors)

Fuente original