Fernanda Viégas: “La justicia del algoritmo no puede depender solo de un ingeniero” | Tendencias

Fernanda Viégas: “La justicia del algoritmo no puede depender solo de un ingeniero” | Tendencias


Si los algoritmos hablaran, todo sería más fácil. Nos avisarían de que están tomando decisiones por los motivos equivocados. “Este resultado tiene en cuenta el género”, dirían. O, cuando han sido mal entrenados: “Los datos en los que me baso no son representativos”. Pero por más expectativas que pongamos sobre los hombros de estas fórmulas que Cathy O’Neil describió como “opiniones encerradas en matemáticas”, la tarea de evitar que vayamos por el mal camino sigue siendo de los humanos.

Fernanda Viégas no ha logrado que los algoritmos hablen. Pero casi. Lidera People + AI Research (PAIR), la división de Google dedicada a preservar las buenas formas entre la inteligencia artificial y los humanos que lidian con ella, a través de visualizaciones de datos y manuales como su People+AI Guidebook. “No somos la policía. Pero estamos muy interesados en grandes objetivos, como lograr que el aprendizaje automático sea justo, mediante pasos concretos. Construimos herramientas que pueden usarse internamente en Google y luego las abrimos al resto del mundo”, afirma.

SOBRE LA INCERTIDUMBRE

La carrera de Viégas empezó muy lejos de Google, geográfica y académicamente. A las puertas de la universidad, solo sabía que no sabía cuál era su vocación. Esto en Brasil era un problema. “Cuando estás decidiendo qué estudiar tienes que hacer exámenes específicos para cada universidad y también para cada titulación. Así que, si cambias de idea, tienes que dejarlo y volver a presentarte”, explica. Tres veces lo intentó. Probó suerte con Ingeniería Química, Literatura y Magisterio. Y tres veces decidió dar marcha atrás.

Entonces descubrió que en Estados Unidos podía seguir avanzando pese a su indecisión y probar diferentes itinerarios antes de decidir con cuál quedarse. “Definitivamente soy el tipo de persona que necesita cambiar de idea”, admite. Su siguiente hallazgo fue el Diseño Gráfico. “Jamás había oído hablar de las visualizaciones de datos”, asegura. Se decantó por esta carrera y añadió a la mezcla un segundo título de Historia del Arte.

El puente entre esas dos disciplinas y la tecnología lo tendió en el MIT. “Me hablaron del MediaLab, un lugar que recibe a gente de diferentes perfiles y les plantea distintas maneras de abordar la tecnología”, recuerda la investigadora, que acabó haciendo un máster y un doctorado centrados en visualización de datos. “Creo que hoy en día es muy poderosa la habilidad de pivotar entre diferentes campos y conectar puntos que no estaban relacionados antes. La mayoría de mis compañeros no tiene formación en diseño gráfico y esto significa que aporto ideas diferentes. Me hago preguntas que nadie a mi alrededor se está planteando”, razona.

¿Ser forastero en una disciplina es la receta del éxito? “Qué va. Cada uno tiene su propio camino. Tengo compañeros maravillosos que siempre se han dedicado a las ciencias de la computación. He aprendido muchísimo de personas increíblemente expertas en campos muy específicos. Lo que necesitamos es diversidad”.

Su manera de dar voz a los sistemas de aprendizaje automático es crear una ventana que permita al ojo experto y al profano ver lo que está pasando ahí dentro. PAIR hace gráficos que muestran la forma en que los modelos de aprendizaje incurren en la filtración de datos, que revelan dónde se esconden los posibles sesgos y que ayudan a que los algoritmos tomen decisiones más justas.

LENGUAJE DE LAS MÁQUINAS

Atención, spoiler: no hay una receta universal para frenar la injusticia y siempre se renuncia a algo. “Los ingenieros deberían ser conscientes de esto, pero también necesitamos que más partes interesadas ayuden a decidir a qué se renuncia. Lo justo tiene diferentes aspectos en función del contexto, los países, las situaciones. No debería haber una sola persona decidiendo esto, no puede ser solo el ingeniero”, añade Viégas.

La experta diseña sus proyectos como si los fuera a ver cualquiera. En su mente están presentes el estudiante que quiere saber más sobre esta tecnología, el médico que no quiere confiar a ciegas en un sistema que no entiende y el ingeniero que necesita comprender cómo sus líneas de código pueden cambiar la vida de otras personas. “Necesitamos que más gente entienda cómo funciona el aprendizaje automático y cuáles son sus limitaciones, de manera que se sientan autorizados a hacer preguntas críticas”.

Sin embargo, el debate sobre estos sistemas no puede ampliarse mientras la lengua franca sea la de los ingenieros. “Muchos de estos métodos tienden a ser muy técnicos”, señala. Por ejemplo, un sistema de clasificación de imágenes podría determinar que lo que está viendo es una cebra al tomar en cuenta la ubicación y concentración de ciertos píxeles. “Ese no es el modo en que piensan los humanos. Es el modo en que piensan los ordenadores”, añade. En este contexto, la labor de PAIR es traducir las reflexiones de la máquina en explicaciones comprensibles para el común de los mortales.

“Una investigadora de nuestro equipo creó una técnica que permite expresar qué conceptos son los importantes y consultarlos con la máquina”, precisa Viégas. En el ejemplo de la cebra, este sistema nos permitiría olvidarnos de los píxeles y preguntar cómo de importantes han sido las rayas en esa decisión. En el caso real de un clasificador de imágenes de tejidos tumorales, permitió a los médicos asegurarse de que el sistema está teniendo en cuenta los rasgos correctos. “Probaban la herramienta para intentar entenderla, para calibrar su confianza en ella. La belleza de esto es que de pronto das a un médico la habilidad de expresarse y dialogar con el sistema”.

Herramientas como esta arrojan algo de luz en un escenario donde encomendarnos a los modelos de aprendizaje automático —para que decidan si somos empleables, si nos conceden un crédito, si nos interesa ver lo último de Marvel— es un compromiso que tomamos a ciegas. “No hay una regla general para calibrar esa confianza, depende del sistema, del contexto o del nivel de riesgo, entre otros”, comenta Viégas.

ALGORITMOS MÁS FIABLES

 En el caso de los médicos, creer o no en los resultados que ofrece un clasificador de tumores es simple y llanamente una cuestión de vida o muerte. “En ocasiones estos sistemas se vuelven tan precisos como los especialistas o más. No estoy diciendo que los médicos deban aceptar a ciegas lo que dice la máquina. Pero descartarlo por completo es un perjuicio al paciente. Y, al mismo tiempo, no queremos que el doctor se fíe demasiado del sistema”.

El equilibrio, según la investigadora, reside en que la decisión del profesional se base en su conocimiento de cómo piensa la herramienta y cuáles son sus límites. “Necesitan más transparencia para hacer mejor su trabajo”, concluye.

Una vez más, el meollo está en que todos podamos ver las tripas de estas tecnologías. “Los ingenieros son los que están ajustando las clavijas, pero ni siquiera ellos quieren ser los que tomen las decisiones porque se dan cuenta de la responsabilidad que entraña”, dice la experta. Su propuesta alternativa es hacer que esas clavijas estén al alcance de más gente, de manera que todos podamos debatir y decidir cómo ajustarlas.

¿Hay tiempo para buscar consenso en un sector donde reinan las prisas? Según Viégas, no nos queda más remedio. “Necesitamos pasar por este proceso complejo y engorroso. A menos que estemos dispuestos a dejar que una persona tome todas las decisiones, que no lo creo, necesitamos más diálogos de este tipo”. Su promesa es que con el tiempo emergerán patrones aplicables a situaciones con riesgos similares. “Pero no vamos a arreglar nada si no nos sentamos a hablar”.

¿Hay riesgo de que esas recomendaciones caigan en saco roto? Sí y no. “Parte del salto necesario es que se entienda que esto es alcanzable”, sentencia. ¿Y para quienes ven estas iniciativas como un esfuerzo de marketing? “Hay mucho trabajo duro y muchos equipos reflexionando profundamente sobre esto, al menos en Google. Además, estamos viendo programas de ciencias de la computación de diferentes universidades integrar la ética en sus currículos. Esto es super importante, los ingenieros necesitan aprender que pueden hacerse estas preguntas mientras construyen los sistemas. No hay que esperar al último momento”.

Lo más vendido de tecnología informática

Bestseller No. 1
HP 15s-fq2037ns - Ordenador portátil de 15.6" FullHD (Intel Core i3-1115G4, 8GB de RAM, 256GB SSD, Intel UHD Graphics, Windows 10) Plata - teclado QWERTY Español
  • Pantalla de 15.6" FullHD (39,6 cm) en diagonal, bisel micro-edge, antirreflectante, 250 nits, 45 % NTSC (1920 x 1080)
  • Procesador Intel Core i3-1115G4 (hasta 4,1 GHz con tecnología Intel Turbo Boost, 6 MB de caché L3, 2 núcleos)
  • 8GB de memoria RAM, SDRAM DDR4-2666 de 8 GB (1 x 8 GB)
  • Almacenamiento SSD de 256 GB PCIe NVMe M.2
  • Tarjeta gráfica Integrada Intel UHD Graphics
RebajasBestseller No. 2
ASUS Chromebook Z1500CN-EJ0400 - Portátil 15.6" Full HD (Celeron N3350, 8GB RAM, 64GB eMMC, HD Graphics 500, Chrome OS) Plata - Teclado QWERTY español
  • Pantalla de 15.6" Full HD 1920 x 1080 pixeles LCD 200 nits
  • Procesador Intel Celeron N3350 (2C/DualCore 1.1GHz, 2MB)
  • Memoria RAM de 8GB SO-DIMM LPDDR4
  • Almacenamiento de 64GB eMMC
  • Tarjeta gráfica integrada Intel HD Graphics 500
RebajasBestseller No. 3
CHUWI HeroBook Pro Ordenador Portátil Ultrabook Laptop 14.1' Intel Celeron N4020 hasta 2.8 GHz, 4K 1920*1080, Windows 10, 8G RAM 256G SSD, WiFi, USB 3.0, 38Wh
  • HeroBook Pro con Windows 10 Home OS pre-instalado, la nueva generación de CPU Intel Celeron N4020, caché de 4M, la frecuencia desde 1.1Ghz hasta 2.8 GHz, construido en GPU Intel UHD Graphics 600, soporta decodificación de vídeo 4k
  • CHUWI Ordenador Portatil lleva con IPS pantalla antideslumbrante de 14.1 pulgadas le brinda una vista más amplia, un imagen más clara y vívida.la resolución ultra alta de 1920*1080, además, el modo nocturno ayuda a reducir la fatiga visual
  • Portátil equipado con 8GB RAM hace que el procesamiento multitarea sea más eficiente, 256GB SSD tiene una alta velocidad de lectura y escritura,las Apps se pueden ejecutar con eficiente,admite expandible a 128GB por Micro SD card, max hasta 1TB por M.2 SSD
  • Ultrabook con teclado de tamaño completo, el diseño del teclado sin límites es compacto y sencillo, el lado C del teclado está diseñado sin marco, con las teclas grandes hacen que su mecanografía sea más agradable y cómoda, viene con las pegatinas de silicona en español
  • CHUWI Laptop con CPU Ultra low-power permite uso útil de más de 9 horas al dia. lleva con multi-interfaces como Micro SD, M.2 slot, USB 3.0, Micro HD, Puerto DC de carga rápida, proporcionando conectividad sin barreras
Bestseller No. 4
BMAX Y13 2 en 1 Ordenador portátil, táctil Convertible Notebook de 13.3” FHD 1080P Pantalla (Intel Quad Core N4120, 8GB RAM, 256GB SSD, Windows 10)
  • ✅ Diseño Elegante - el aspecto por fuera es muy bueno, muy delgado y ligero, solo peso de 1.25kg , cuerpo delgado de 15MM. Se puede llevar bien en una mochila o maletín.
  • ✅ Inicio y Transferencia de Archivos Rápidos - Viene con 256 GB, 8 GB de RAM LPDDR4. Ejecute aplicaciones y transfiera archivos más rápido. ¡El proceso de arranque solo lleva unos segundos!
  • ✅ Sirve de portátil y tablet - Se puede plegar 360 grados y usar como tablet. Para lo que SI sirve: escribir un texto mientras viajas - ver tus correos - actualizar tu facebook - leer las noticias en modo tablet, escuchar música y ver películas CON AURICULARES!!!
  • ✅ Wifi AC de 2,4 y 5GHz: La conexión a internet estable y rápida, así como a la hora de navegar por internet o reproducir vídeos de calidad alta.
  • ✅ Pantalla Full HD Maravillosa - El color de la pantalla de 1080p es más llamativo, la imagen es delicada y vívida, por lo que no puedes soportar apartar la vista del mundo de Full HD.
Bestseller No. 5
TECLAST TBOLT F15Pro Ordenador Portátil 15.6”12GB RAM 256GB SSD i3 CPU 3.40GHz Notebook Laptop Ultradelgado Window 10, 53580mWh Batería Grande, WiFi+ Bluetooth + USB 3.0 + Micro SD
  • [Procesador Intel de Décima Generación] F15 Pro Ordenador Portátil viene con un procesador Intel Core i3-1005G1 de décima generación con la microarquitectura Sunny Cove de nueva generación. En comparación con la última generación, tiene un IPC un 18% más alto que le brinda un mejor rendimiento con la misma frecuencia. Gráficos Ice Lake GT1 UHD, con 32 unidades de ejecución y frecuencia dinámica de 900MHz y 12GB de RAM con SSD de alta velocidad de 256GB.
  • [Vivid Display] Laptop viene con una pantalla de 15.6 ”1920 x 1080 con panel de vidrio de borde curvo 2.5D, que le brinda colores vívidos y gran claridad. La batería de polímero de litio de 53580 mWh incorporada le da al F15 Pro una larga vida útil. Su cuerpo de metal también mejora la portabilidad del F15 Pro.
  • [Teclado Completo] La ordenador portátil le brinda una experiencia de escritura fluida y rápida con su teclado de tamaño completo y un panel táctil grande y sensible que le brinda un rendimiento de operación más cómodo.
  • [Disipación de Calor perfecta] Notebook con los tubos de calor de cobre duales de 8 mm y un ventilador de enfriamiento silencioso con un fuerte flujo de aire disipan rápidamente el calor de la CPU al difusor de calor, manteniendo el F15 Pro fresco bajo carga.
  • [Más Formas de Conectarse] F15 Pro ordenador portátil viene con 2 x USB3.0 y la salida de puerto Type-C le permite conectarse a múltiples dispositivos. El Wi-Fi de doble banda ac y un puerto ethernet gigabit le brindan una red estable. Con garantía de 2 años, no tiene que preocuparse de los problemas posibles.

Fuente original