¿Alguna vez has realizado búsquedas en un banco de imágenes o en Google con términos como mujer u hombre exitosos? ¿Qué tipo de personas muestran? El resultado puede no sorprendernos, hasta que lo analizamos y reflexionamos. ¿Hemos desarrollado y entrenado algoritmos racistas y llenos de sesgos?
La campaña “Revolución contra el algoritmo”
“Revolución contra el algoritmo” es la campaña de la UNESCO y Racismo MX, creada por la agencia de comunicación Bombay y ha detonado fuertes reflexiones y conversaciones.
La creatividad ilustra cómo los algoritmos de estas herramientas perpetúan la estigmatización de diversos grupos de personas en función de sus identidades, tonos de piel y formas corporales. Al realizar búsquedas con ciertos términos, se observa una dominancia de resultados que muestran a personas de piel blanca.
Este fenómeno es claro cuando en algún motor de búsqueda las personas escriben: mujer exitosa, hombre de negocios o niña bonita. En cambio, si colocan la palabra: pobreza, ¿cuál es el resultado?
Este ejercicio tan sencillo y a la vez tan profundo se llevó a cabo en el segundo Foro Global de la UNESCO contra el Racismo y la Discriminación, que tuvo a México como sede.
Se desarrolló una experiencia e instalación, creada por el publicista Manuel Vega y su equipo. La acción se convirtió también en un mini documental dirigido por el cineasta Mario Sandoval, y con la fotografía y cámara de Edgar Bahena.
Desde su presentación en el mes de febrero, “Revolución contra el algoritmo” ha puesto énfasis en cómo los buscadores de internet colocan a determinados grupos en posiciones más favorecedoras y la forma en que otros grupos son totalmente invisibilizados, obstaculizando con ello la erradicación de prejuicios y desigualdades no sólo en México, sino en el mundo.
¿Son los algoritmos racistas o quienes los programan?
El sesgo racial en motores de búsqueda, no solo recae en el lado de los usuarios, como se cree generalmente, sino que inicia en la programación de los algoritmos, su retroalimentación y cómo se prioriza la información. Es por eso que la UNESCO ha emitido una recomendación global sobre la ética en la inteligencia artificial que los 193 estados miembros han firmado, pero pocos han implementado.
La pieza audiovisual quedó como testigo de las reflexiones y emociones experimentadas por personalidades como el actor Tenoch Huerta; la actriz, Maya Zapata; el cofundador de Black Lives Matter, Jordan Giger; la directora y asesora legal del Foro Interparlamentario sobre Tecnologías Emergentes, Emma Wright; el director de la Fundación Ford, Darren Walker, la ganadora del Premio MTV MIAW Transforma 2022, Natalia Lane.
El poder de la campaña “Revolución contra el algoritmo” y la importancia de la reflexión de ideas, también llevó a la realización de un encuentro presencial entre expertos, periodistas y compañías tecnológicas, al cual se sumó Tenoch Huerta desde París para debatir sobre la importancia de la ética y la representación racial. Además, en este foro la UNESCO y Microsoft anunciaron la firma de un acuerdo para promover la ética en la Inteligencia Artificial.
Haz tu parte
El apoyo para difundir esta campaña en medios de comunicación ha sido pieza clave para que más personas comiencen a cuestionar ¿Quiénes son los dueños del algoritmo? ¿El algoritmo es racista? ¿Los programadores están conscientes de la narrativa racista que se fomenta? ¿Qué tan transparentes son los algoritmos?
Bombay, UNESCO y Racismo MX, así como miles de personas que han visto el mini documental han comenzado a exigir que el racismo, la desinformación, la discriminación y los discurso de odio, sean abordados desde una dimensión interdisciplinaria e intersectorial, y sobre todo, de carácter urgente.
Y tú, ¿estás listo para la revolución contra el algoritmo?
Si quieres mantenerte al día con artículos como este, que explican a detalle las estrategias de comunicación y marketing para crear marcas que inspiran, puedes recibirlos en la puerta de tu mail… Y si necesitas una asesoría para tu negocio , o necesitas una capacitación, danos un grito. Amamos saber de ti.