“Algoritmos de opresión: cómo los motores de búsqueda potencian el racismo”: un extracto

por minima&moralia publicado el miércoles 7 de mayo de 2025 o 

Publicamos, agradeciendo al autor y al editor, un extracto del ensayo de Safiya Umoja Noble “ Algoritmos de opresión: cómo los motores de búsqueda fomentan el racismo ” , recién publicado por Tamu con traducción y una nota del grupo Ippolita.

*

A medida que la información de calidad, generalmente proporcionada por el sector público, se desplaza a espacios privados y comerciales, la capacidad del público para monitorear las protecciones mediáticas necesarias en una democracia se ve cada vez más comprometida por los costos de acceso. Organizaciones como FreePress.org demuestran cómo el auge de la publicidad ha socavado la calidad del periodismo, antes considerado un componente fundamental de una sociedad democrática. Los expertos en medios Robert McChesney y John Nichols han señalado con gran detalle histórico y abundante evidencia contundente la crucial importancia de la información libre de intereses comerciales. Los rápidos cambios en las últimas décadas que han llevado a la toma de control de los medios por parte de las grandes empresas —en comparación con el entorno del periodismo de interés público anterior a la década de 1990— han erosionado la calidad de la información disponible; al igual que la transición de un proyecto académico-militar inicialmente financiado con fondos públicos a un entorno comercializado como Internet ha afectado la forma en que la información se publica en la web hoy en día. Los estereotipos que abundan en los medios, incluidos los resultados de búsqueda web, no solo ocultan la desigualdad social, política y económica que existe en Estados Unidos, sino que la refuerzan. Los motores de búsqueda comerciales podrían al menos incluir una cláusula de exención de responsabilidad para evitar estas representaciones racistas, pero sería mucho mejor si trabajaran para producir una solución técnica permanente que pueda bloquear la proliferación de contenido racista y patriarcal. En 2010, cuando Google Instant, una nueva herramienta para mejorar las búsquedas, aún no incluía las palabras «latina», «lesbiana» y «bisexual» (ya que las búsquedas de estos términos generaban contenido para adultos), la activista Verónica Arreola planteó una pregunta legítima en el blog de la revista «Ms.»: «Estimado Google… ya que hablamos de ti, ¿estamos realmente seguros de que no puedes mover el contenido pornográfico y violento, por ejemplo, a la segunda página?». Estos son ejemplos que señalan las consecuencias de la rápida transición de la información pública a su sustituto comercial, consecuencias que han dificultado cada vez más la búsqueda de información alternativa. Asimismo, la consolidación de los medios de comunicación ha contribuido a la reducción de los estándares profesionales: verificar las fuentes, evitar la difamación de personas y situaciones, evitar la imposición de valores culturales y distinguir entre intereses publicitarios y decisiones editoriales, todo lo cual puede aplicarse a la transmisión de información en la web. A diferencia del sistema de verificación creado para periodistas y bibliotecarios,Quienes se encargan de verificar y seleccionar información para la prensa, según sus códigos de ética profesional, dan por sentada la legitimidad de los rankings y la credibilidad de los sitios web. En el caso de los motores de búsqueda comerciales, no podemos simplemente compartir las noticias; debemos preguntarnos cómo se encuentra lo que queremos compartir y cómo apareció.