Menudo documental, esta tema de la informática va tomando vuelo últimamente, inicia tocando el trato del racismo, para luego desenmascarar un mecanismo, que sabemos como funciona, e irónicamente obviamos.
Sirviendo como un jalón de orejas, el aparcado en la dirección es el clásico, pero surte de buen registro y exposiciones concisas, efectos que le dan el toque distópico o jodido presente, por cierto, que agallas de la mujer, para enfrentarse a estas corporaciones, "No pueden experimentar con los derechos" exclama, y uno acepta, terminando con una cuestión solemne y habida ¿Qué tan dispuesto estás por comodidad?

Coded bias (2020) es un documental de la activista y directora estadounidense Shalini Kantayya, que denuncia el sesgo discriminatorio de tecnologías de reconocimiento facial y algoritmos que se utilizan para la aprobación de becas universitarias, créditos y oportunidades de empleo.

Por Nicolás Bianchi

Una investigadora académica del MIT (Massachusetts Institute of Technology), Joy Boulamwini, descubre que el software de reconocimiento facial, utilizado para diversión en las redes sociales pero también con fines de seguridad, tiene problemas en reconocer su rostro. Cuando ella, afrodescendiente, utiliza una máscara blanca el rendimiento de los programas mejora, lo que le sirve a ella, y al documental, para iniciar una investigación al respecto.

La tesis de la película es sencilla de enunciar. La tecnología generada por hombres blancos para los sectores de mayor riqueza y poder están al servicio de sostener el orden actual. Cuando las fuerzas de seguridad utilizan estos medios los mayores perjudicados por los errores, por ejemplo cuando la computadora identifica como un criminal buscado a alguien que no lo es, son los miembros de las minorías étnicas y las mujeres.

Para sostener sus argumentos la película recurre a distintos académicos especialistas en ciencias duras y tecnología. Todos aportan testimonios en el mismo sentido, no hay una voz que sirva como tamiz o balance, lo que le hubiera agregado quizás más solidez. La película descansa por momentos en archivos y extractos de films de ciencia ficción, como 1984 o Minority report, que adelantaron el uso de estos dispositivos para monitorear a la población.

Lo más problemático de lo que se expone tiene que ver con el uso de estas tecnologías en China, país del cual el documental rescata cierta honestidad porque nadie oculta este tipo de control. Hay imágenes en las que ciudadanos chinos deben identificarse, por medio de una pantalla, para comprar una lata de gaseosa o un pasaje de subte. Una de las académicas consultadas sostiene que allí la big data y el reconocimiento facial se utiliza para mantener cierto control social mientras que en Estados Unidos está orientado, por ahora, mayormente hacia la obtención de ganancias.

¿Es necesariamente mejor una cosa que la otra? ¿Qué es lo positivo u honesto de un país que utiliza en tantos ámbitos de la vida cotidiana un sistema de control tan férreo? Antes el documental había destacado a los manifestantes de Hong Kong, que durante las protestas utilizaban punteros láser para que sus rostros no puedan ser tomados y almacenados. A Coded bias le falta allí cierta profundidad y complejización de lo que expone.

En síntesis, el documental propone que los algoritmos que se utilizan para preseleccionar los candidatos a becas, empleos o créditos y el software de reconocimiento facial, implementado en operativos de seguridad, no cometan las mismas injusticias contra las minorías y las mujeres que cometen los hombres. Cuenta con testimonios relevantes que aportan información en ese sentido, aunque el sesgo elegido por la directora lo privan de una visión más amplia, y probablemente más interesante.

Tras revisar el programa de televisión, puedo asegurar que los algorismos manejados en ese tipo de pruebas a las que se hace referencia, no resultan efectivos para ninguna raza.

Se basan en un sistema erróneo en su propia estructura, al igual que los polígrafos. Ambos deben participar de otros ensayos, siempre subjetivos, para ofrecer criterios que al final denominan como científicos, sin que hayan sido establecidos unos parámetros comunes e identificables, regidos al final por simples ensayos.

El documental resulta interesante pero con una estructura y un destino que, aún partiendo de un estudio loable, no puede ser considerado de otra manera, más que como un experimento visual, carente de rigor científico.