Timnit Gebru: Por qué el despido de una investigadora negra de Google se ha convertido en un escándalo global | Tecnología

Timnit Gebru: Por qué el despido de una investigadora negra de Google se ha convertido en un escándalo global | Tecnología


La investigadora de Google Timnit Gebru recibió un email a principios de diciembre, mientras estaba de vacaciones. “Aceptamos tu dimisión inmediatamente, desde hoy”, le escribió una vicepresidenta de la compañía. El problema es que Gebru no había dimitido, solo había dicho que lo haría en el futuro si no se cumplían unas condiciones. La decisión había sido provocada aparentemente por un correo interno en el que criticaba la censura de un artículo académico. Y fue en seguida a Twitter a contarlo: “Me han cortado el acceso a la cuenta corporativa. Me han despedido fulminantemente”. “Me siento mal por mis colegas, pero para mí es mejor conocer la bestia que hacerlo ver”, añadió en otro tuit.

Desde ese día, y hasta el pasado viernes, 2.351 empleados de Google y 3.729 académicos de todo el mundo han firmado una carta en apoyo de Gebru. El presidente ejecutivo de Google, Sundar Pichai, ha escrito un email a todos los empleados, donde decía querer recuperar la confianza de sus trabajadores, pero sin pedir disculpas. La comunidad global de ingenieros e investigadores dedicados a la inteligencia artificial sostiene desde entonces un debate sobre los límites de la investigación financiada por grandes empresas y el papel de Google como compañía, que ya se ha quitado toda máscara tras abandonar su ingenuo eslogan original de “no seas malo”.

Gebru es una investigadora pionera en el ámbito de la ética en la inteligencia artificial (IA). Su mayor logro académico fue un artículo de 2018 donde, con otros coautores, descubrió que el reconocimiento facial solo se equivocaba al detectar el género de hombres blancos un 1% de las veces, pero un 35% con mujeres negras. Después de llegar de Etiopía con 16 años, se licenció en Ingeniería Eléctrica en la Universidad de Stanford y participó en la creación del primer iPad en Apple. Luego pasó por Microsoft. Después de su doctorado en visión artificial con la célebre profesora Fei Fei Li, llegó a Google a finales de 2018.

El tipo de despido ―por correo electrónico, de vacaciones— no es el habitual para una figura de este nivel. “Despedir a una persona con un email es el segundo peor modo después de con un post-it”, escribió el catedrático e ingeniero español Ricardo Baeza Yates en respuesta a Gebru. La especulación sobre las causas reales del despido se disparó. Estas son las causas más comentadas durante estos días. Todas reflejan como mínimo cierta falta de sensibilidad, lo que le deja en mal lugar a Google por su comportamiento generoso o delicado con acosadores y otros casos sonados.

1/ El correo electrónico. El correo de la vicepresidenta mencionaba un correo que Gebru escribió a una lista interna de empleados de Google. “Algunos aspectos del correo que enviaste anoche a empleados que no son de la dirección reflejan un comportamiento que es inconsistente con las expectativas de un directivo de Google”. ¿Qué decía ese correo? Gebru no pudo recuperarlo porque ya no tenía acceso a su cuenta. Pero a las pocas horas ya estaba en la newsletter del periodista Casey Newton. “Después de todas las micro y macroagresiones y acoso recibido tras mandar mis historias aquí, había dejado de escribir”, escribía Gebru.

Pero ese día tenía algo más que decir. El texto entero es un desahogo, una queja pública por cómo la habían tratado sus superiores a propósito de un artículo académico del que se debía “retractar”. “Una semana antes de irte de vacaciones te ponen una reunión”, contaba Gebru. “Nadie te avisa de qué va. Allí te dicen que ‘se ha decidido’ que debes rectificar el paper en una semana. No eres digna de tener conversaciones desde que eres alguien cuya humanidad (por no hablar de sus conocimientos reconocidos) no es aceptada o valorada por esta empresa”.

Era un correo sobre la presunta censura de un artículo académico que Gebru y otras investigadoras, de dentro y fuera de Google, habían enviado a una conferencia. De repente ese artículo no parecía tener la calidad suficiente. ¿Qué información contendría ese artículo que tanto preocupaba a Google?

2/ El artículo académico. Nadie ha publicado el artículo entero. Pero algunos periodistas han podido leerlo. No hay nada explosivo para el sector de IA ética. Habla del inmenso gasto energético que conlleva elaborar modelos de IA: necesitan mucha potencia computacional. También se refiere a los sesgos creados por modelos que escriben después de entrenarse con billones de palabras encontradas en Internet. “Las injusticias estructurales que hay en la sociedad permean los datos. Es muy difícil encontrar datos no sesgados porque la sociedad está sesgada”, explica Ariel Guersenzvaig, profesor de la Escuela Universitaria de Diseño e Ingeniería Elisava (Barcelona). Con el lenguaje es evidente: si los modelos se entrenan con lo que decimos repetirán nuestros patrones para siempre.

“Lo que sale en el artículo académico, según se ha publicado hasta ahora, no diré que es sabido, pero cualquiera que conozca la literatura académica no se sorprenderá de nada”, dice Guersenzvaig.

3/ “La mujer negra enfadada”. Si ni el correo ni el artículo parecen explosivos, ¿quizá fueron solo la excusa? “El paper es probablemente una excusa para sacarse de encima a una persona que les estaba resultando problemática”, dice Mara Balestrini, doctora en Ciencias de la Computación por el University College of London.

La definición de “mujer negra enfadada” es la caricatura que hace la propia Gebru sobre el rol que los comunicados de Google parecen querer otorgarle: una persona conflictiva que se ha ganado el despido por pesada. “Me pintan como la mujer negra enfadada porque te ponen en este lugar de trabajo terrible y si hablas de ello te conviertes en el problema”, dice Gebru en la única entrevista que ha dado hasta ahora tras el conflicto. Uno de los verbos que Gebru más ha usado es gaslight, que proviene de una obra teatral de principios del siglo XX, llevada luego al cine. Un hombre acosaba psicológicamente a su mujer haciéndole creer que se estaba volviendo loca. Abusar y encima cargar el muerto al otro. Eso es lo que Google ha hecho con ella, según Gebru.

Estos son los hechos, pero el revuelo que ha provocado implica que ha tocado fibras sensibles. En principio es solo un despido más en una empresa con 130.000 empleados. ¿Por qué ha provocado un escándalo así?

1/ “Si me han hecho esto a mí”. El gran problema que Gebru ve a su situación es el de todas las mujeres negras que están en una situación más precaria que la suya. Gebru fundó en 2016 el grupo Negros en IA. “La mayor historia para mí es que si esto me ocurre a mí, ¿qué le está pasando a otra gente?”, dice Gebru ahora.

Google tiene un 1,6% mujeres negras en su plantilla general, solo un 0,7% en cargos técnicos y un 1,1% en puestos directivos. Casi el 50% de los puestos directivos son para hombres blancos. “Tienes acosadores que se van con millones de dólares”, dice Gebru. “Tienes a toda esa gente con un comportamiento tan tóxico que hay otros diciendo ‘es que son valiosos para la empresa’, ‘oh, es que son socialmente raros’ o lo que sea. Y entonces tienes una joven negra que tiene que probarse una y otra vez. Llegué a un punto donde mis conocimientos son valorados por la gente, pero no dentro de Google”, añade.

2/ “Si le han hecho esto a ella”. Y una empresa que trata así a sus empleados brillantes, ¿cómo tratará a sus miles de millones de usuarios? Esa es la pregunta que se hace Anna Jobin, socióloga e investigadora de la Universidad de Lausanne (Suiza). “Si una compañía como Google no puede soportar lo que Timnit Gebru tiene que decir y escuchar y aprender para innovar mejor, ¿qué pasa con todas los demás asuntos éticos de su negocio? Así que ya no es que los asuntos personales [como los hipotéticos problemas de Gebru en Google] no importen, sino que ya no son solo personales. Son importantes social, política y éticamente”, añade.

3/ ¿Quién nos permitirá investigar? Las grandes empresas tecnológicas son quizá la mayor fuente de financiación para investigadores como Gebru. Las universidades son esenciales, pero tienen mucho menos dinero. “A mí Intel me financió mi doctorado. La diferencia con lo que podía hacer un doctorando español era abismal”, explica Balestrini. “Hay muy pocos empleadores de esta naturaleza. Para la IA ética si no estás en la universidad no hay trabajo. Llegar a Google o Facebook es la posibilidad de acceder a grandes volúmenes de datos”, añade.

El trato a Gebru podría suponer un punto de inflexión para la contratación de ingenieros de IA. Si los más sensibles ven que el departamento de ética es despreciado, quizá busquen más allá de Google para trabajar. Balestrini es escéptica: “No quiero ser pesimista, pero no van a dejar de tener grupos de investigadores por esto. Si estas cosas van a cambiar es porque haya más alerta de los problemas técnicos y a la vez surjan más oportunidades de trabajo para investigadores, como ahora ocurrirá con el programa Horizon Europe”, dice.

La polémica generada recuerda que Google ya ha dejado de ser para siempre el héroe de las búsquedas. Los problemas que ocurren dentro de sus oficinas se ven con un foco distinto.

Puedes seguir a EL PAÍS TECNOLOGÍA RETINA en Facebook, Twitter, Instagram o suscribirte aquí a nuestra Newsletter.

Lo más vendido de tecnología informática

RebajasBestseller No. 1
HP Chromebook X360 14a-ca0003ns - Ordenador portátil de 14" FullHD Convertible táctil (Celeron N4020, 4GB RAM, 64GB Emmc, Gráficos Intel UHD, Chrome OS ) Plata - teclado QWERTY Español
  • Pantalla FHD (1920 x 1080) de 14" (35,6 cm) en diagonal, táctil, IPS, bisel micro-edge, antirreflectante, 250 nits, 45 % NTSC
  • Procesador Intel Celeron N4020 (2 núcleos, 1,1 GH/ 2,8 GHz, 4 MB)
  • Memoria RAM de 4 GB LPDDR4-3733 MHz
  • Almacenamiento de 64 GB eMMC
  • Tarjeta gráfica integrada Intel UHD 600
Bestseller No. 2
Law & Order: Special Victims Unit - Season 11
  • Amazon Prime Video (Video on Demand)
  • Mariska Hargitay, Christopher Meloni, Richard Belzer (Actors)
RebajasBestseller No. 3
Bestseller No. 4
VASAGLE Escritorio de la Computadora Blanco Mesa de Ordenador en Forma de Z Escritorio para hogar o Oficina LCD811W
  • ¿QUIERES CAMBIAR TU LUGAR DE TRABAJO? ¡Este escritorio está equipado con 4 ruedas para moverlo de la oficina a la sala de estar o incluso al balcón! 2 ruedas están equipadas con frenos para mantener el escritorio en su lugar
  • ESPACIO PEQUEÑO: Este escritorio compacto, de 60 x 48 x 73 cm, cabe en espacios reducidos y ofrece espacio para tu PC o portátil. La unidad central y la impresora se pueden colocar en el estante inferior
  • ESTRUCTURA EN FORMA DE Z ESTABLE: Está hecho de tubos de acero y tablero de aglomerado de 15 mm de espesor. La parte superior soporta hasta 30 kg. El enchapado en melamina es resistente al desgaste y a la decoloración. Se puede limpiar con un paño húmedo
  • CON SOPORTE DE TECLADO: El soporte de 54 x 26 cm está equipado con rieles silenciosos para crear un ambiente de trabajo tranquilo. El teclado no ocupa espacio en la parte superior, así que hay más espacio para mirar las notas
  • QUÉ HAY EN LA CAJA: Instrucciones ilustradas, piezas numeradas, agujeros pre-perforados en el lugar correcto, la herramienta necesaria para el montaje y lo más importante. Este compacto escritorio de VASAGLE se puede montar en pocos minutos
Bestseller No. 5
NITROPC - PC Gamer Nitro AMZ 2021 *Rebajas* (CPU AMD 2/4N x 3,50 GHz, T. Gráfica 2 GB, HDD 1 TB, Ram 16 GB, W10) + WiFi de Regalo. pc Gamer, pc Gaming, Ordenador para Juegos (actualizado Julio 2021)
  • CPU: AMD 3000G 3,50 GHZ (Turbo) x 2/4 núcleos / Placa base Chip AM4 A320 DDR4
  • GRÁFICA: AMD VEGA 3 2GB (integrada CPU)
  • RAM: 16 Gb (8 GB X 2) 2400 MHZ
  • HDD: 1 TB SATA 6 GB/S
  • Producto 100% Español* Windows 10 Pro de 64 bits activado, 100% testeado, 2 años de garantía Premium incluida.

Fuente original