The Impacts of Technical Ideology and Algorithmic Culture on Society: A Critical Approach
Os impactos da ideologia técnica e a cultura algorítmica na sociedade: uma aproximação crítica
Diego García Ramírez y Dune Valle Jiménez
p. 15-27
Resumen | Índice | Plano | Notas de la redacción | Notas del autor | Texto | Bibliografía | Notas | Cita | Autores
RESÚMENES
El presente artículo tiene como objetivo reflexionar acerca de un tipo de ideología que ve en los avances tecnológicos la solución a todos los problemas de la humanidad, y comprender cómo los algoritmos computacionales delinean comportamientos y prácticas cotidianas que configuran una cultura algorítmica. La reflexión se enmarca dentro de la relación entre técnica y sociedad. La larga discusión en torno a dicha relación se ha encargado de exaltar únicamente los beneficios de los avances tecnológicos, dejando de lado el pensamiento crítico que posibilite reconocer las implicaciones sociales, políticas, económicas y culturales que se generan a partir de estos.
PLANO
NOTAS DE LA REDACCIÓN
Recibido: 15 de junio de 2019 Aceptado: 22 de octubre de 2019 Modificado: 18 de noviembre de 2019
https://doi.org/10.7440/res71.2020.02
NOTAS DEL AUTOR
Las reflexiones presentadas en el artículo son resultado de la práctica pedagógica y de los análisis teóricos de los autores, quienes vienen explorando de forma transdisciplinar los impactos de la tecnología en la comunicación y en la cultura. Una versión preliminar fue presentada en el III congreso de la Asociación Colombiana de Investigadores en Comunicación -ACICOM-, Bucaramanga, septiembre de 2018.
TEXTO COMPLETO
Introducción
1La discusión por la técnica y sus implicaciones en la sociedad tiene una larga trayectoria en la filosofía y en las ciencias sociales. Sin embargo, en años recientes, principalmente gracias al crecimiento de Internet, han ganado visibilidad y relevancia discursos economicistas, desarrollistas y deterministas, los cuales se limitan a resaltar las bondades y beneficios de la tecnología, olvidando los desafíos y consecuencias sociales, políticas, económicas y culturales que estas plantean.1
2Este tipo de discursos reciben distintas denominaciones: ideología técnica (Wolton 2011), solucionismo tecnológico (Morozov 2015), utopía digital (Pariser 2017), tecnoliberalismo-tecnolibertarismo (Sadin 2018). Independientemente de su denominación, estos discursos coinciden en exaltar la capacidad de la tecnología para mejorar y solucionar cualquier aspecto de la vida social, sin generar distancia crítica sobre sus efectos y consecuencias. Sin embargo, reflexionar sobre los impactos de la tecnología y sus avances se ha vuelto fundamental, principalmente por acontecimientos recientes como la filtración de datos de usuarios de Facebook (Cambridge Analytica); las denuncias de vigilancia masiva expuestas por Edward Snowden, ex agente de la National Security Agency de los Estados Unidos, o la injerencia rusa en las elecciones presidenciales en Norteamérica. Estos sucesos han evidenciado que algunos gobiernos y propietarios de plataformas se han servido de la información de los usuarios de la red para vigilancia, manipulación de la opinión pública y explotación con fines comerciales y políticos.
3De ahí que la propuesta del presente artículo sea plantear una reflexión en torno a un tipo predominante de ideología que ve en los avances tecnológicos la solución a todos los problemas de la humanidad, y comprender cómo bajo esa creencia se ha permitido que los algoritmos computacionales moldeen y condicionen actividades y decisiones de los usuarios, tanto en el mundo online2 como en el offline, configurando lo que se ha comenzado a entender como cultura algorítmica. La discusión propuesta intentará distanciarse de posiciones tecnófilas y tecnófobas en las que usualmente se encasillan las reflexiones sobre tecnología, Internet y sociedad. Si bien es cierto que nos concentraremos más en los desafíos que en las bondades, nos enmarcamos dentro de las ideas de algunos pensadores de la técnica del siglo XX que dirigieron la atención hacia los desafíos y peligros que conlleva este desarrollo desmesurado y sin control de la tecnología. Uno de estos pensadores es Martin Heidegger, quien a mitad del siglo anterior alertó sobre este nuevo escenario, en el que “las instalaciones, aparatos y máquinas del mundo técnico son hoy indispensables, para unos en mayor y para otros en menor medida. Sería necio arremeter ciegamente contra el mundo técnico. Sería miope querer condenar el mundo técnico como obra del diablo” (Heidegger 2002, 27).
4Por lo tanto, no se hace una lectura pesimista al mejor estilo de los luditas,3 ni se idealiza una época pretecnológica. Por el contrario, se quiere estimular la reflexión crítica acerca de las implicaciones de las tecnologías en nuestras vidas, y discutir sobre aquellas ideologías que plantean e imponen una lectura simplista frente a sus avances y desarrollos. Particularmente, nos concentraremos en los algoritmos, un concepto con el que las humanidades no están familiarizadas, pero que paradójicamente cada vez intervienen con mayor fuerza en las actividades cotidianas mediadas por las tecnologías, y en los que se han depositado las esperanzas de mejorar y optimizar cualquier tipo de proceso. En este sentido, nuestra lectura coincide con la de Daniel Innerarity cuando afirma que la relación entre algoritmos y humanos “[es] una relación tensa […] pero no de sometimiento en ninguno de los dos sentidos, una relación muy alejada de la euforia digital y de la pesadilla de los tecnófobos” (2018, 43).
5Para avanzar en nuestro propósito, el presente documento se divide en dos apartados centrales y en unas consideraciones finales. En el primer apartado se discute el concepto de ideología técnica, el cual hace parte de una discusión histórica según la cual los avances técnicos derivan en una mejora de todos los aspectos de la vida humana. Aquí se hace énfasis en las esperanzas y promesas surgidas con el avance de Internet y en cómo muchas de esas promesas han quedado incumplidas. En el segundo apartado se realiza un acercamiento a los algoritmos, su definición y las formas en las que condicionan y moldean los comportamientos y usos que tenemos en la red; se avanza en la discusión en torno a lo que se ha dado a conocer como cultura algorítmica. Finalmente, se propone una discusión acerca de la pertinencia de recuperar la reflexión crítica sobre las implicaciones que los desarrollos tecnológicos, particularmente los asociados al Internet y sus aplicaciones, tienen sobre la sociedad y la cultura, destacando la urgencia de superar los discursos desarrollistas y deterministas que se concentran únicamente en las bondades de la tecnología.
Ideología técnica y las promesas del Internet
6La sociedad contemporánea afronta cambios acelerados que modifican diferentes aspectos de su existencia. Estas transformaciones están asociadas principalmente a los desarrollos de las tecnologías de la información y la comunicación, que impactan y afectan las maneras en que nos relacionamos con el mundo y con los demás (Valle y Bernal 2019). En dicho contexto, algunos autores han elevado la voz de alarma por los peligros que plantea este escenario (Carr 2019; Han 2014; Manovich 2017; Morozov 2015; O´Neil 2018), como si esto fuera algo completamente inesperado y novedoso, o ajeno al movimiento de la historia. Sin embargo, como veremos a continuación, esta realidad fue prevista hace algún tiempo por ciertos pensadores que analizaron con lucidez esta situación.
7Martin Heidegger advertía en 1955, en su conferencia Gelassenheit, que “el hombre se encuentra en una situación peligrosa […] en cuanto que la revolución de la técnica que se avecina […] pudiera fascinar al hombre, hechizarlo, deslumbrarlo y cegarlo de tal modo, que un día el pensar calculador pudiera llegar a ser el único válido y practicado” (2002, 30). Es decir, hace más de seis décadas el filósofo alemán entendía que los seres humanos debían poner especial atención en la tecnología y en su poder de transformación de la humanidad. No obstante, su crítica se dirigía principalmente al modo de concebir la realidad, esto es, al pensamiento propio del racionalismo técnico-científico. El fundamento de esta interpretación lo podemos ubicar en la relación que se establece entre ciencia y tecnología a mediados del siglo XX, denominada tecnociencia, donde:
Emerge una nueva modalidad social de práctica científica, al fusionar el conocer científico y el producir tecnológico en una unidad de acción destinada al desarrollo e innovación de objetos técnicos […] vincula la información y el conocimiento científicos, las habilidades y destrezas técnicas para la producción industrial de artefactos y dispositivos tecnológicos […] su objetivo principal es la innovación tecnológica y la intervención pragmática, para lo cual subordinan e instrumentalizan el conocimiento científico. (Linares 2008, 370)
8Optimización, productividad y eficacia son los valores que guían parte de la investigación científica en la actualidad, la cual se encuentra ligada a intereses económicos, principalmente. Estos intereses son los que estructuran el diseño de los algoritmos que calculan y predicen nuestros comportamientos en la red.
9El racionalismo técnico-científico tiene como finalidad la búsqueda de utilidad o rentabilidad y la optimización del rendimiento y la producción. En este orden de ideas, aquello de lo que no se puede obtener un beneficio no cuenta o no tiene razón de ser. En consecuencia, se da primacía a una forma de pensar en la que todo se somete al cálculo y planificación, donde incluso la vida, la naturaleza y la comunicación humana quedan interpretadas bajo este prisma, lo que se ejemplifica, a nuestro entender, en lo que más adelante denominaremos cultura algorítmica.
10Heidegger plantea su reflexión sobre la técnica como respuesta a la inquietud que surgía a partir de las transformaciones que provocaba la revolución técnico-científica que se manifestaba en aquel entonces. Respecto a esto comentaba:
Los modernos instrumentos de información estimulan, asaltan y agitan hora tras hora al hombre [...] el poder oculto en la técnica moderna determina la relación del hombre con lo que es. […] Pero el desarrollo de la técnica se efectuará cada vez con mayor velocidad y no podrá ser detenido en ninguna parte. En todas las regiones de la existencia el hombre estará cada vez más estrechamente cercado por las fuerzas de los aparatos técnicos. (2002, 25)
11Y justamente, señala el filósofo alemán, el peligro no radica solo en las armas de destrucción masiva, en la posibilidad de la Tercera Guerra Mundial o en la devastación del medio ambiente. El peligro radicaría más bien en la ausencia de reflexión de la sociedad contemporánea en torno a las consecuencias de darles prioridad al cálculo y a la planificación, considerados como la única verdad válida. Los sectores llamados a esta reflexión —como universidades, centros de investigación y gobiernos— en su mayoría no han reflexionado sobre la velocidad de estos cambios o los impactos sociales y culturales del desarrollo técnico-científico, especialmente en lo concerniente a las técnicas de comunicación.
12Ahora bien, este escenario no es algo totalmente nuevo, ni es un fenómeno sorpresivo, dado que ha sido un tema ampliamente discutido y teorizado por pensadores. En esta misma vía se manifiesta el sociólogo y filósofo alemán Jurgen Habermas, quien se pregunta por la relación entre la ciencia y la técnica en su trabajo Ciencia y técnica como ideología (1986). Habermas desarrolla esta relación a través de una discusión del concepto de racionalidad de Max Weber y la crítica que Herbert Marcuse hace del mismo.
13Según Habermas (1986), la tesis fundamental de Marcuse es que la ciencia y la técnica cumplen hoy funciones de legitimación del dominio político y económico. Como se sabe, gran parte de los avances tecnológicos dependen del grado de desarrollo que alcanza la ciencia, por lo tanto, ciencia y tecnología tienen una relación de dependencia mutua. Sin embargo, en la actualidad la ciencia estaría a merced de la tecnología, pues prima el interés económico por encima del teórico. Se trata menos de explicar el mundo que de diseñar aparatos tecnológicos para aumentar la eficiencia, la productividad y el desarrollo. Es decir, la dirección del trabajo científico está guiada principalmente por intereses económicos. Habermas afirma que: “ tecoss﷽﷽﷽﷽s principalmente ecnonprincipalmente ecnonesarrollo. es tecnolestructura ontolk al periodismo. (33)
14ra6En su crítica a Max Weber, Marcuse llega a la siguiente conclusión: ʻel concepto de razón técnica es quizá él mismo ideología. No solo su aplicación, sino que ya la técnica misma es dominio sobre la naturaleza y sobre los hombres: un dominio metódico, científico, calculado y calculante. […]ʼ” (1986, 55).
15Se podría decir que los conceptos de técnica y tecnología tienen un componente ideológico, ya que su aplicación lleva de la mano la idea de un dominio sobre la naturaleza y los seres humanos, como un proyecto histórico en el cual solo se muestran los intereses dominantes. Profundizando en esto, Habermas retoma a Marcuse cuando este señala que:
El método científico, que conducía a una dominación cada vez más eficiente de la naturaleza, proporcionó después también tanto los conceptos puros como los instrumentos para una dominación cada vez más efectiva del hombre sobre el hombre a través de la dominación de la naturaleza. Hoy la dominación se perpetúa y amplía no solo por medio de la tecnología, sino como tecnología […] En este universo la tecnología proporciona también la gran racionalización de la falta de la libertad del hombre y demuestra la imposibilidad técnica de la realización de la autonomía, de la capacidad de decisión sobre nuestra propia vida. (Habermas 1986, 58)
16Lo anterior significa que el predominio de la razón técnico-científica tiene su origen en una determinada interpretación del mundo y de la sociedad, según la cual el método científico proporciona los instrumentos para una dominación tanto de los seres humanos como de la naturaleza. Esto lleva a los seres humanos a ser cada vez menos autónomos y libres, y a depender cada día más de las tecnologías. Sin embargo, esta dependencia no se presenta como un problema o como algo sobre lo que se deba discutir, pues la subordinación de los aparatos técnicos, que se manifiesta principalmente en los nuevos dispositivos de comunicación, es algo completamente aceptado, dado que supuestamente hace la vida más cómoda, eleva la productividad y nos permite mantenernos constantemente comunicados e informados.
17Pues bien, dado este escenario es importante precisar que la ideología que se manifiesta y que determina la sociedad y el mundo contemporáneo no tendría a primera vista las características propias de una ideología política, religiosa o social. Más bien, nos enfrentaríamos a un tipo de ideología cuya base estaría en las tecnologías de la comunicación y la información, como clave para validar la globalización económica y financiera, así como determinado modelo de desarrollo. Ahora bien, definir el concepto de ideología es una tarea compleja, pues es un término con multiplicidad de significados (Thompson 1993; Žižek 2003). Por eso, hemos optado por una definición operativa y general, apoyándonos en lo que propone Teun van Dijk (2003), quien señala que las ideologías son sistemas de ideas que comparten los grupos o movimientos. En otras palabras:
Los miembros de un grupo que comparten estas ideologías están a favor de unas ideas muy generales, ideas que constituyen la base de unas creencias más específicas sobre el mundo y que guían su interpretación de los acontecimientos, al tiempo que condicionan las prácticas sociales […] por el hecho de ser sistemas de ideas de grupos sociales y movimientos, las ideologías no solo dan sentido al mundo […] sino que también fundamentan las prácticas sociales de sus miembros. (van Dijk 2003, 14-16)
18Lo que queremos destacar con esta definición es que detrás de las promesas y esperanzas depositadas en el desarrollo técnico-científico subyace una visión del mundo con las características de una ideología, que brinda una interpretación omniabarcante de la sociedad, sus problemas y sus soluciones. Allí la tecnología se constituye en la única respuesta, y genera un sistema de creencias y valores que parece dominante en el mundo contemporáneo. Sin embargo, esta ideología es diferente a las ideologías políticas del siglo XX. A juicio del teórico francés Dominique Wolton (1999; 2006), el éxito de la ideología técnica se basa en su modestia e instrumentalidad, pues a priori no tiene las mismas ambiciones de las ideologías políticas o religiosas que pretendían trasformar la sociedad. La ideología técnica solo se presenta como aquella que entrega instrumentos para mejorar, agilizar y facilitar la vida y las relaciones humanas.
19Una última consideración respecto a la ideología que queremos destacar, corresponde a lo que plantea Terry Eagleton, quien sostiene:
Podemos entender por ideología el proceso material general de producción de ideas, creencias y valores en la vida social. Esta definición es tanto política como epistemológicamente neutral, y está próxima al sentido más amplio del término “cultura”. Aquí la ideología, o cultura, denotaría todo el complejo de prácticas de significación y procesos simbólicos de una sociedad determinada; aludiría a la manera en que las personas “viven” sus prácticas sociales. (1997, 52)
20En este sentido, podemos afirmar que la ideología está directamente relacionada con una idea general de cultura, como entramado de ideas, creencias, sentidos y significados que asignan valores a la vida y a las prácticas sociales.
21En este contexto, desde de la aparición del Internet, de las tecnologías asociadas a este y de una diversidad de aplicaciones y plataformas, ha proliferado un discurso esperanzador frente a las posibilidades democratizadoras y libertarias que las tecnologías traerían. No es difícil notar que muchas de estas esperanzas o utopías se han ido desgastando a partir de acontecimientos recientes como la filtración de datos de usuarios de Facebook, la vigilancia masiva denunciada por Snowden, o la proliferación del engaño y la manipulación a través de información falsa.
22Estos discursos y sus consecuencias tendrían como fundamento un tipo de pensamiento que se encarna en lo que Dominique Wolton (2011) denomina ideología técnica, la cual apropia y determina la idea de comunicación en la sociedad, haciéndola dependiente y subordinada al progreso tecnológico y a la distribución, generación e intercambio ilimitado de información. Esta ideología se sustenta en “creer que cuantas más técnicas haya más se comprenderán los individuos. Es subordinar los progresos de la comunicación humana al progreso de la técnica. Luego atribuir a dichas técnicas el poder de cambiar estructuralmente el modelo de sociedad” (Wolton 2011, 38).
23La promesa de una mayor comprensión humana y social nos lleva a confiar en que, mientras más desarrollos tecnológicos haya, mejores serán las relaciones entre los seres humanos. Se da por sentado que el progreso tecnológico produce invariablemente mejoras en la comunicación humana, y que, incluso, de los avances de la técnica depende el progreso de la sociedad en su conjunto, desde la educación, la política y la cultura, hasta el mejoramiento del ser humano en todas sus dimensiones. Wolton comenta: “La ideología técnica se manifiesta especialmente en la aplicación de los modelos de la cibernética a la sociedad, con la esperanza de mejorar su racionalidad y su funcionamiento” (2011, 59).
24Sin embargo, se confunden cuestiones de distinta naturaleza, pues una cosa son los problemas humanos, y otra cosa muy distinta las técnicas. Sería extraordinario que los problemas sociales, la incomunicación, la intolerancia, la xenofobia, la soledad y los autoritarismos pudieran ser subsanados con el desarrollo de una aplicación, pero hasta el momento no se han encontrado ni desarrollado dichas soluciones (Morozov 2012). Al menos hasta ahora, si bien dichas técnicas han traído múltiples y generosos beneficios, aún están lejos de cumplir las promesas y traer los favores que han venido pontificando muchos políticos y cierta élite científico-empresarial. Podríamos decir, incluso, que muchas de esas promesas se han convertido en pesadillas: adicciones tecnológicas, ciberbullying, monopolios tecnológicos, vigilancia y control, filtración y manipulación de datos, desinformación, entre otros (Carr 2019).
25Por otra parte, debemos rescatar la interpretación de Evgeny Morozov, que se ha destacado por poner en tela de juicio esta ideología o interpretación, que denomina solucionismo tecnológico, que pretende imponer una solución tecnológica a todos los problemas humanos y sociales: “La tecnología puede hacer que seamos mejores personas, y lo hará […] si disponemos de suficientes aplicaciones, todas las fallas del sistema humano se vuelven superficiales […] la humanidad equipada con poderosos dispositivos de autovigilancia, por fin vence la obesidad, el insomnio, el calentamiento global […]” (Morozov 2015, 22-23).
26En esta misma línea, el autor bielorruso sostiene que el Internet es el instrumento que representa de manera cabal y absoluta el solucionismo, como el motor que impulsa y mueve gran parte de las soluciones e iniciativas tecnológicas. Como ejemplo de esto, el pensador francés Luc Ferry, en su libro La revolución transhumanista (2017), alude a un discurso de Eric Schmidt de 2011, en el cual el CEO de Google afirma que “cuando hablamos de tecnología, ya no se trata solamente de aplicaciones o de equipos, sino más bien de cómo se utilizan esos datos acumulados con la finalidad de lograr un mundo mejor” (2017, 63). El mismo Schmidt señala poco tiempo después: “si lo hacemos bien creo que podremos reparar todos los problemas del mundo” (Ferry 2017, 63). Al respecto, Ferry se pronuncia en los siguientes términos:
Esta convicción […] según la cual el progreso de las ciencias y las técnicas podrá “resolver todos los problemas del mundo” es ahora tan fuerte en Silicon Valley que han acabado por darle un nombre, bautizarla como si se tratase de una auténtica doctrina filosófica: se habla de “solucionismo” para designar esta fe tecnófila inquebrantable en las virtudes redivivas del progreso. (2017, 63-64)
27Podemos ver aquí cómo las interpretaciones de Heidegger, Wolton, Morozov, Habermas y Marcuse se entrelazan de forma directa, pues la ideología técnica, o esta especie de solucionismo tecnológico, cree que con una simple suma o ecuación, o que con la implementación de algoritmos en todos los aspectos de nuestras vidas se podrían solucionar completamente los problemas de comunicación, soledad, incomprensión, injusticia, desigualdad, desinformación e intolerancia. Parece como si las tecnologías tuvieran, por sí solas, la capacidad de solucionar las complejidades del mundo social.
28En este punto es importante destacar cuáles fueron algunas de las promesas fundacionales del Internet y de las redes sociales, que por supuesto no han sido diferentes a las que se han planteado en otros momentos y para otras innovaciones tecnológicas en el campo de la comunicación y la información; pues tal como lo han evidenciado diversos autores (Waisbord 2015; Zuazo 2018; Wu 2016), con cada avance y desarrollo tecnológico se renuevan las esperanzas transformadoras. Al respecto Tim Wu señala: “El patrón es característico. Cada cierto número de décadas aparece una nueva tecnología de comunicación llena de promesas y posibilidades. Inspira a toda una generación a soñar con una sociedad mejor” (2016, 21).
29A medida que los avances tecnológicos asociados al Internet llegaban a más usuarios, las promesas de cambios y transformaciones en todos los ambitos de la sociedad también se expandían. Las esperanzas democratizadoras y libertarias se hicieron más visibles durante la primera década del siglo XXI con la aparición de la web 2.0 (Jones 2003), que a diferencia del primer modelo de Internet, permitía a los usuarios conectarse entre sí e intercambiar todo tipo de contenidos. Si en la primera versión de Internet los usuarios eran navegantes pasivos, en la web 2.0 se convertieron en actores activos y autónomos, lo que Pisani y Piotet (2009) denominaron webactores.
30Entre las creencias más extendidas estaban: que la red acabaría con las diferencias entre los países desarrollados del norte y los países en vías de desarrollo del sur; que Internet serviría para acabar con dictaduras y gobiernos autoritarismos; que se regenerarían las viejas y anquilosadas democracias, con la creación de seres y sociedades libres y autónomas (Wolton 2006).
31En el nuevo modelo de Internet los protagonistas eran los usuarios y su capacidad de conectarse con otros. Así, se comenzó a hacer referencia a terminos como multitudes inteligentes (Rheingold 2004), inteligencia colectiva (Lévy 2004), y aumento de participación, colaboración, interacción e intercambios. En resumen, aparecerían una variedad de términos que moldearían un nuevo tipo de sociedad, en la que las voces de los oprimidos y las minorías ganarían potencia; en la que los blogs y las redes sociales expandirían la capacidad expresiva de grupos historicamente olvidados y marginados; en la que las diferencias y jerarquías sociales desaparecerían. Durante un tiempo parecía que Internet iba a democratizar por entero a la sociedad y el mundo.
32Con el surgimiento de esta nueva sociedad todos estaríamos multiconectados, habría mayor comunicación, y, por ende, mayor fraternidad, tolerancia y diálogo. Los usuarios cambiarían el mundo a través de las tecnologías de la información y la comunicación. Se estimularía la transparencia gubernamental y empresarial. Circularía más información y, en consecuencia, se enriquecería el debate público sobre asuntos de interés general, lo cual derivaría en una democracia más sana, participativa y transparente.
33En ese ambiente entusiasta no faltaron los evangelizadores del mundo ditial, liderados por los emprendedores y cabezas de las compañías tecnológicas radicadas en Silicon Valey, pero también por investigadores y académicos, que a través de conferencias y publicaciones se encargaron de resaltar las bondades de Internet y sus potencialidades para crear sociedades más democráticas, libres, informadas e igualitarias. Así, se convirtieron en los representantes de la ideología técnica. Entre ellos cabe mencionar a Nicolas Negroponte (1996), Manuel Castells (2012), Pierre Lévy (2007), Howard Rheingold (2004), Henry Jenkins (2008) y Clay Shirky (2008).
34Al respecto, Daniel Innerarity (2012) llama la atención sobre las creencias que surgían en los comienzos de la red: “Nos habían anunciado la accesibilidad de la información, la eliminación de los secretos y la disolución de las estructuras de poder, de tal modo que parecía inevitable avanzar en la democratización de la sociedad, renovando nuestra tediosa democracia o implantándola en sociedades que parecían protegidas frente a los efectos benéficos de la red” (Innerarity 2012, 37).
35No obstante, terminamos enfrentados con un escenario, una era digital, donde la manipulación, la desinformación, la filtración de datos, la vigilancia y el control se han transformado en moneda corriente y donde, hasta el momento, los esfuerzos realizados por la sociedad civil para detener o neutralizar estos fenómenos no han sido suficientes.
36Además de las esperanzas democratizadoras y libertarias del Internet, no podemos dejar de lado las promesas que ofrecieron las plataformas interactivas como Facebook, Wikipedia o YouTube, que desde su nacimiento se comprometían a
Convertir la cultura en un ámbito más “participativo”, “basado en el usuario” y “de colaboración”. Entre 2000 y 2006, no escasearon los teóricos de los medios que afirmaron que las aplicaciones de la web 2.0 estimulaban al límite la natural necesidad humana de relacionarse y crear, y hasta llegaron a celebrar, con demasiada antelación, el virtual triunfo del usuario. (van Dijck 2016, 28)
37En definitiva, una vez que se ha reconocido y visibilizado en la sociedad el carácter ilusorio o utópico de estas promesas de Internet, surge la necesidad de sopesar las contradicciones, engaños y realidades que son inherentes a las mismas. Es primordial, en primer lugar, reconocer cómo se estructuran las nuevas relaciones de poder, que se basan siempre en decisiones humanas, pues la elección o creación de algoritmos tiene siempre ciertos efectos y provoca desigualdades y manipulaciones que no son visibles a primera vista y que en muchos casos tienen como finalidad direccionar nuestras decisiones, comportamientos y formas de consumo. Lo anterior es fundamental puesto que esta opacidad tiene que ver especialmente con el diseño y el trabajo que hacen los algoritmos y cómo delinean y condicionan nuestras decisiones. En efecto, tal como lo proponen Innerarity y Champeau: “Ha llegado la hora de preguntarnos lo que razonablemente podemos esperar de Internet, una vez disipada una ideología que, en el fondo, no es más que una nueva reedición del pensamiento utópico que siempre ha acompañado a las innovaciones técnicas” (2012, 15). Sin embargo, desde nuestra posición, no creemos que esta ideología se haya disipado o desaparecido, sino que cada vez muestra más su cara menos amable, y este es precisamente un tema sobre el cual las ciencias sociales deben comenzar a reflexionar con mayor atención.
Los algoritmos y sus impactos en la sociedad
38Desde hace un tiempo escuchamos mayor referencia a los algoritmos, una palabra común en el campo de las matemáticas y las ciencias informáticas, pero extraña en el mundo de las ciencias sociales y humanas (Dourish 2016). Sin embargo, en años recientes los algoritmos han comenzado a aparecer en estas últimas, aunque, por supuesto, en relación con el mundo de las tecnologías de la información y la comunicación. La cercanía que podamos establecer con los algoritmos no está determinada solo por el campo científico al que pertenezcamos. Aunque no sepamos qué son y nos sean invisibles, nuestra cotidianidad está cada vez más relacionada y condicionada por algoritmos.
39¿Qué es un algoritmo? De manera preliminar se podría definir como una serie de pasos o instrucciones que se siguen para resolver un problema. Definido así, significaría que los algoritmos no son algo que haya aparecido con el Internet o las redes sociales. Efectivamente, entendidos como instrucciones existen desde hace mucho tiempo, incluso desde mucho antes de la creación de códigos informáticos. Pero la visibilidad que han ganado en la última década se debe a que ahora esos pasos e instrucciones son realizados por máquinas que tienen cada vez mayor capacidad para procesar datos y resolver problemas.
40Si quisiéramos avanzar en una definición más elaborada podríamos decir que “un algoritmo es una receta, un conjunto de instrucciones, una secuencia de tareas destinada a conseguir un cálculo o un resultado particular” (Finn 2018, 38). En ese sentido, asociados al mundo de la tecnología, los algoritmos son modelos matemáticos que procesan grandes cantidades de datos para obtener un resultado; “en ciencias informáticas es una lista finita de instrucciones para calcular una función, una directiva paso a paso que permite un procesamiento o razonamiento automático que ordena a la máquina producir cierto output a partir de un determinado input” (O´Neil 2018, 57).
41Se han tenido que traducir los problemas (sociales, políticos, económicos, culturales) al lenguaje de las máquinas para que estas funcionen con algoritmos. Según Evgeny Morozov (2015) esta traducción ha derivado en soluciones simples a problemas complejos. Por tanto, para este autor “lo polémico […] no es la solución planteada, sino la definición misma del problema” (Morozov 2015, 24).
42¿Quién(es) está(n) usando los algoritmos? Prácticamente todos los sectores: el entretenimiento, la comunicación, el transporte, la banca, el turismo y la publicidad, por mencionar algunos. Allí, los algoritmos se están empleando para optimizar procesos y mejorar los servicios que se ofrecen a los consumidores. Además, su uso ha incrementado en campos como la justicia, la salud y la educación, principalmente por parte de Estados y gobiernos enfocados en perfeccionar la toma de decisiones (O´Neil 2018).
43Con las definiciones que hemos presentado nos podemos hacer una idea general de lo que son los algoritmos. No obstante, en el caso de las grandes corporaciones de tecnología, como Google y Facebook, no conocemos las reglas e instrucciones que estos siguen para resolver los problemas planteados; es decir, desconocemos los pasos que siguen para clasificar los datos y seleccionar la información a partir de las cuales nos ofrecen unos resultados. Tal es el caso de EdgeRank de Facebook y PageRank de Google, que hoy son secretos industriales valorados en miles de millones de dólares.
44En el caso de Facebook, sus algoritmos usan más de 100.000 factores que determinan lo que vemos en nuestros muros. Como bien señala Cathy O´Neil, al hacer referencia a lo que posteamos en esta red social, “en el momento en que le doy enviar […] pertenece a Facebook y el algoritmo de la red social decidirá cómo usarla, calculando las probabilidades que tiene de ser atractiva para cada uno de mis amigos” (O´Neil 2018, 223). En consecuencia, el algoritmo de Facebook es el que decide quién verá lo que yo publico, y qué tipo de información veré en mi muro. Por esta razón, “aunque Facebook pueda parecer una moderna plaza de pueblo, la empresa decide, conforme a sus propios intereses, qué vemos y qué descubrimos en su red social” (O´Neil 2018, 223).
45Algo similar sucede con el algoritmo de Google, el cual creemos que nos orienta sobre cómo buscar, pero en realidad nos recomienda lo que vamos a encontrar, y estas recomendaciones se hacen de acuerdo a los datos que captura de sus usuarios. Dichas recomendaciones se derivan de las más de cuarenta aplicaciones de Google: Gmail, YouTube, Google Maps, Google fotos, Google Drive, Hangouts, además de su buscador y otras aplicaciones que usan datos desde los teléfonos móviles. En consonancia con lo anterior, una búsqueda sobre un tema particular puede arrojar resultados diferentes de acuerdo al usuario que la realice.
46Los algoritmos, como todo modelo, funcionan a partir de la reducción de la realidad. En consecuencia, los algoritmos comprimen y simplifican la realidad y nuestros comportamientos a datos, a partir de los cuales se condicionan nuestras decisiones y consumos en la web, que a su vez influyen en la forma en que pensamos y nos relacionamos con nuestro entorno (Strehovec 2013). En la actualidad, los algoritmos nos aconsejan qué película o serie ver (Netflix), qué música escuchar (Spotify, Deezer), qué lugares visitar (Tripadvisor), qué camino tomar para ir de un lugar a otro (Waze), con quién debería entablar una amistad (Facebook), qué noticias leer (Google News), e incluso, con qué personas salir y establecer una relación (Tinder). Cada vez tomamos más decisiones guiadas por algoritmos, que nos hacen recomendaciones de acuerdo a los datos que proporcionamos en sitios web, plataformas y aplicaciones. Por esta razón, independientemente de la voluntad de los individuos, los algoritmos están transformando la manera en que los seres humanos se relacionan con el mundo y sus semejantes.
47Como venimos señalando, las recomendaciones o predicciones algorítmicas están basadas en los datos que proporcionamos, a partir de los cuales se elabora un perfil de lo que somos, o de lo que los algoritmos consideran que somos. Esto quiere decir que nuestros comportamientos en la red son registrados y convertidos en datos con los cuales se configuran las recomendaciones que las aplicaciones y plataformas nos hacen. En esta vía argumentativa, el filósofo italiano Maurizo Ferraris se aventura a plantear que en su versión actual “Internet es una herramienta de registro antes que de comunicación” (2017, 39). Cada que vez navegamos o usamos una aplicación desde cualquier dispositivo —un computador, teléfono o tablet— estamos produciendo datos, por eso, según el mismo Ferraris, “la esencia de un móvil, de un ordenador conectado o de una tableta no es principalmente (o simplemente) la comunicación, sino el registro” (Ferraris 2017, 39). La particularidad es que esos datos que produce cada usuario, a la vez le son invisibles; es decir, quienes los producen no tienen acceso a ellos, ni a los algoritmos que los procesan. A pesar de esta inaccesibilidad, confiamos plenamente en los algoritmos para regular y optimizar nuestros comportamientos y nuestras decisiones (Cardon 2018).
48Se podría pensar que como usuarios tenemos autonomía sobre los datos e información que producimos, pues finalmente somos quienes decidimos qué escribir o publicar en nuestro perfil, qué comentar, cuándo y a qué darle “me gusta”, de quién ser amigo en Facebook o a quién seguir en Twitter. No obstante, esta solo es información básica que entregamos, a partir de la cual las plataformas y sus algoritmos pueden recabar y producir muchos más datos sobre nosotros.
49En ese sentido, se puede hablar de tres tipos de datos. Los primeros son los datos que compartimos para elaborar nuestros perfiles en las redes y aplicaciones: nombre, número telefónico, fecha de nacimiento, cuentas de correo, profesión, educación, trabajo, relaciones, lugares que visitamos, género, amigos, grupos, fotos, idiomas, etcétera. Los segundos son los metadatos, es decir, los que contextualizan los datos básicos. Se trata de información que no hacemos pública o que no compartimos, como ubicación, uso de las aplicaciones (tiempo, momento, hora, lugar), contenido al que le damos clic, navegación por la pantalla, páginas visitadas, historial de llamadas, archivos compartidos, dispositivos que usamos, contenidos y usuarios que ignoramos, entre otros. Los terceros son los datos que se originan a partir del análisis e interpretación de los dos tipos de datos anteriores. En este tipo de datos es donde actúan los algoritmos que comparan nuestros datos y comportamientos con los de otros usuarios para establecer correlaciones significativas (porque viste House of Cards). De esa forma, los algoritmos definen quiénes somos en función de nuestros datos y metadatos, y a partir de ese perfil nos hace recomendaciones y filtra los contenidos y la publicidad que veremos.
50De esa forma, los algoritmos son más que procesadores de datos, son herramientas de recomendación que establecen relaciones entre las prácticas de consumo de los usuarios, y a su vez las condicionan. Es decir que si el usuario vio determinado contenido a través de su red social o en alguna aplicación, es probable que quiera ver los mismos contenidos que vieron otros usuarios con un perfil de consumo similar identificado por los algoritmos. “El algoritmo aprende comparando un perfil con el resto de internautas que hayan efectuado la misma operación. De manera probabilística, sospecha que una persona podría hacer tal o cual cosa que todavía no ha hecho, porque aquellas que se le parecen ya lo han hecho” (Cardón 2018, 45).
51Bajo esta lógica, algunos autores han explorado la idea de que como usuarios trabajamos para los algoritmos (Fuchs y Fisher 2015), pues entre más tiempo pasemos en las redes sociales y usemos aplicaciones, más información otorgamos. Así, mejores datos recabarán los algoritmos y más precisas podrán ser sus recomendaciones.
52Ahora bien, estos procedimientos han llevado a una especie de algoritmización de la vida social. Tal como afirma Byung Chul Han, hemos entrado en una especie de barbarismo de los datos en la cual “la creencia en la mensurabilidad y cuantificabilidad de la vida domina toda la era digital (2014, 91). Significa entonces que esta simplificación de la realidad, de la que hablábamos anteriormente, reduce a las personas, a la sociedad y al mundo a datos cuantificables, verificables y calculables que pueden ser manipulados por los programadores que buscan determinadas conductas, y que moldean, indirectamente, nuestras formas de pensar y actuar. Esta concepción de la era digital, que el autor en mención denomina como una segunda Ilustración cuya finalidad es transformar todo en datos (dataísmo), termina siendo profundamente contradictoria, ya que aparentemente pretende superar todo tipo de ideologías, pero, en su forma de concebir el mundo, resulta en sí misma una ideología. En ese sentido, José van Dijck sostiene que “la ideología del dataísmo muestra características de una creencia generalizada en la cuantificación objetiva y el seguimiento potencial de todo tipo de comportamiento humano a través de tecnologías de medios en línea” (2014, 198).
53Como venimos señalando, las decisiones que toman los usuarios de la red se basan cada vez más en predicciones algorítmicas, situación que viene configurando lo que se ha comenzado a conocer como cultura algorítmica (Finn 2018; Striphas 2015; Striphas y Hallinan 2016). Hoy, nuestros gustos y experiencias más cotidianas —como la amistad, el entretenimiento, la información— están atravesados por algoritmos que han terminado por colonizar nuestros espacios más íntimos, modificando gustos e intereses.
54Para hablar de cultura algorítmica es necesario hacer referencia a otros neologismos que han aparecido para pensar la relación entre tecnologías, cultura y sociedad; en otros momentos se ha hecho referencia a cultura digital, tecnocultura (Yehya 2008) y cibercultura (Lévy 2007). La particularidad de estos conceptos está en que hacen referencia a una nueva cultura que se configura a partir de la tecnología. Tal es el caso de la cibercultura, la cual es definida por el filósofo francés Pierre Lévy como “el conjunto de las técnicas, de las prácticas, de las actitudes, de los modos de pensamiento y de valores que se desarrollan conjuntamente en el crecimiento del ciberespacio” (2007, 1). Como podemos ver en la definición anterior, la cibercultura sería la cultura que se desarrolla en otro espacio, puntualmente, en el ciberespacio, el cual es caracterizado por el autor como “el nuevo medio de comunicación que emerge de la interconexión mundial de ordenadores” (Lévy 2007, 1).
55En el sentido de Lévy, la cibercultura sería algo diferente a la cultura que está fuera de la red, del ciberespacio, de ahí el prefijo ciber. Además de esta característica, la definición propuesta por Lévy se enmarca dentro del optimismo de los primeros teóricos del Internet, pues, según él:
Con la cibercultura se expresa la aspiración de construir un lazo social, que no se basaría ni en las pertenencias territoriales, ni en las relaciones institucionales, ni en las relaciones de poder, sino en la reunión alrededor de centros de interés comunes, en el juego, en el hecho de compartir el conocimiento, en el aprendizaje cooperativo, en los procesos abiertos de colaboración. (Lévy 2007, 103)
56Es decir que, a diferencia de la cultura —esa que no ocurre en el ciberespacio—, la cibercultura se caracterizaría por la ausencia de contradicciones y relaciones de poder, y donde predominaría la cooperación y colaboración.
57Por el contrario, lo que aquí deseamos llamar cultura algorítmica no es una nueva cultura que se da en el mundo digital o en el ciberespacio. Entendida desde la perspectiva antropológica más amplía, la cultura se concibe como pautas de comportamiento, estilos de vida, sentidos y significados que configuran visiones de mundo (Geertz 2005).4 Por tanto, la cultura algorítmica hace referencia a cuando los algoritmos condicionan y predeterminan los sentidos y significados que construimos, pues como bien señala José van Dijck, los algoritmos “moldean de manera profunda las experiencias culturales de las personas que participan de manera activa de las plataformas de medios sociales” (2016, 59).
58Como concepto emergente, la cultura algorítmica no puede más que tener una definición provisional. Striphas y Hallinan la definen como “El uso de procesos computacionales para ordenar, clasificar y jerarquizar personas, lugares, objetos e ideas, y también los hábitos de pensamiento, conducta y expresión que surgen en relación con esos procesos” (2016, 119). Lo que denominamos cultura algorítmica hace referencia a cómo nuestras experiencias culturales están cada vez más determinadas por algoritmos, de ahí que sea necesario dejar de entenderlos como neutrales, objetivos o aproblemáticos; pues las decisiones que estos toman entran a configurar y predeterminar comportamientos, tanto en el mundo online como en el offline, moldeando estilos de vida, pautas de comportamiento, visiones del mundo y la relación con nuestros semejantes y con otros.
59Por esta razón, Ed Finn afirma que “puede que los algoritmos computacionales sean presentados simplemente como matemáticos, pero lo cierto es que se comportan como máquinas culturales que repasan drásticamente la geografía de la reflexividad humana” (2018, 96). Es decir que, si bien los algoritmos son una serie de pasos e instrucciones a partir de las cuales las redes sociales y aplicaciones nos hacen recomendaciones que condicionan el uso que haremos de ellas, estos terminan por moldear gustos y prácticas culturales del mundo online, y de fuera de él —gustos, prácticas y experiencias—. Cuando un algoritmo nos recomienda qué serie o pelicular ver, o qué canciones escuchar, está moldeando cómo y en qué gastaremos parte de nuestro tiempo. Lo mismo ocurre cuando nos sugiere qué camino tomar para ir de la casa al trabajo, o qué restaurante visitar. En otras palabras, los algoritmos son modelos matemáticos que afectan de forma directa nuestra cotidianeidad. En este sentido, Finn se aventura a afirmar que “un algoritmo es una máquina cultural: que opera tanto dentro como más allá de la barrera reflexiva de la computabilidad efectiva, produciendo cultura a un nivel macro-social, al mismo tiempo que produce objetos culturales, proceso y experiencias” (Finn 2018, 69).
60De acuerdo con lo anterior, no es que se esté produciendo otra cultura en un lugar diferente, sino que actualmente nuestros comportamientos y los usos de las redes sociales y del Internet determinan prácticas culturales. Como parte de la cultura, la cultura algorítmica está atravesada por relaciones de poder e intereses a partir de los cuales se generan nuevas desigualdades y discriminaciones, y no una cultura idílica y aproblemática como la descrita por Lévy.
61En el caso de la cultura algorítmica, son los intereses de las plataformas y los anunciantes —esto es, de los intermediarios propietarios de los algoritmos que recopilan y procesan nuestros datos— los que entran en juego. Las recomendaciones que realizan los algoritmos se realizan a partir de la información que recopilan y correlacionan, de ahí que las recomendaciones y predicciones no sean iguales para todos los usuarios, pues estas dependen de muchos factores y variables, algunos de los cuales pueden llegar a ser discriminatorios, tales como la ubicación, el nivel de ingresos, la edad, el género o la orientación sexual.
62En definitiva, los algoritmos no nos tratan a todos por igual; el nivel de personalización que pueden alcanzar los lleva a actuar de forma discriminatoria. A pesar de ello, los seres humanos, conscientes o no, hemos terminado por creer plenamente en los algoritmos, sin reflexionar sobre las implicaciones que tienen sobre nuestras vidas, en nuestras maneras de ver y leer el mundo y de relacionamos con los otros; en últimas, sobre sus implicaciones culturales.
63Gracias a su eficacia y efectividad hemos llegado a confiar plenamente en los algoritmos sin cuestionar sus resultados. No obstante, diferentes autores han comenzado a llamar la atención sobre sus impactos (Caplan et al. 2018; Finn 2018; Manovich 2017; O´Neil 2018; Pariser 2017). Podemos pensar que nos facilitan la vida para tomar decisiones, pero detrás de ellos se están gestando nuevos procesos de discriminación y desigualdad, que contradicen las esperanzas democratizadoras y de igualdad que nos habían prometido los evangelizadores del mundo digital. En ese sentido, vale la pena preguntarnos, como lo hace Lev Manovich, “¿Debemos seguir aceptando las decisiones que los algoritmos toman por nosotros, si no sabemos cómo operan?” (2017, 25).
64Es cierto que los algoritmos pueden ser ciegos ante factores de discriminación que usamos los seres humanos, como la raza y el género, pero al sustituir estas características por datos también generan procesos discriminatorios de los que apenas comenzamos a tomar conciencia.
En ocasiones, permitir que sean los algoritmos los que tomen las decisiones acerca de qué vemos y qué oportunidades se nos ofrecen nos da resultados más ajustados. Un ordenador puede ser ciego a la raza y al sexo de una manera que los humanos no acostumbran. Pero solo si los algoritmos pertinentes están diseñados con atención y sutileza. Si no, simplemente serán un reflejo de las costumbres sociales de la cultura que estén procesando […] En otros casos, la selección algorítmica basada en datos personales puede llegar a ser más discriminatoria que la gente. (Pariser 2017, 131)
65Por esta razón, un punto sobre el que se hace necesario reflexionar tiene que ver con la neutralidad e imparcialidad de los algoritmos, pues existe la creencia de que al tratarse de procedimientos realizados por máquinas informáticas los pasos que siguen y los resultados que presentan son totalmente objetivos y neutros. En palabras de Finn: “La aparente transparencia y sencillez de los sistemas computacionales está provocando que muchos los vean como vehículos para la toma de decisiones imparciales” (2018, 44). Lo cierto es que los algoritmos siguen instrucciones de sus creadores humanos; no son artefactos objetivos. Por eso, Cathy O´Neil los ha caracterizado como armas de destrucción matemática, y como tal “nadie las cuestiona, no dan ningún tipo de explicaciones y operan a tal escala que clasifican, tratan y optimizan a millones de personas” (2018, 21).
66¿Por qué no se problematiza el papel de los algoritmos y sus implicaciones culturales? Porque su desarrollo y la expansión de su uso hacia casi todos los sectores de la vida encaja perfectamente con las ideas de la ideología técnica. Precisamente, los algoritmos se están empleando para mejorar y optimizar toda clase de procesos; de ahí que la mayor parte de los análisis y reflexiones sobre ellos se hayan encargado de exaltar su utilidad, eficacia y objetividad, y no tanto sus consecuencias e implicaciones en la vida cotidiana de las personas. En ello radica la modestia de la ideología técnica que señaló Wolton (2006).
67Así entonces, la mirada aproblemática sobre los algoritmos pertenece a la ideología que hemos descrito, según la cual la incorporación de mejoras tecnológicas, respaldadas en cálculos, mejorará cualquier aspecto o ámbito de la realidad social. Si una actividad humana se puede medir, entonces se puede calcular y predecir; si se puede calcular y predecir, se puede optimizar y mejorar. Si el mundo es imperfecto es porque los humanos son imperfectos. En cambio, los algoritmos no se equivocan; son cálculos precisos, y, en consecuencia, sus resultados y predicciones solo pueden arrojar los mejores resultados.
Consideraciones finales
68No cabe duda de que los desarrollos tecnológicos han traído múltiples beneficios a la sociedad. Particularmente los avances de Internet y la digitalización han tenido efectos favorables para los seres humanos. Sin embargo, las ciencias sociales deben estimular la reflexión crítica acerca de las consecuencias que dichos avances acarrean. Tal como señalamos al comienzo del artículo, no se trata de caer en discursos tecnófobos, pues “la técnica, en general, no pervierte la naturaleza humana como pretenden los apocalípticos, pero tampoco la secunda dócilmente como pretenden los integrados” (Ferraris 2017, 40).
69En el caso puntual de los algoritmos, se les ha otorgado demasiado poder en la toma de decisiones sobre diversos aspectos de las vidas de las personas; decisiones en las que antes no intervenían. Bajo la promesa de que pueden mejorar cualquier proceso, se les ha permitido a las empresas tecnológicas y a los desarrolladores de aplicaciones conquistar prácticamente todos los aspectos de la vida. Esto les ha permitido realizar un mayor seguimiento a las personas y, por supuesto, recabar muchos más datos sobre sus actividades, prácticas, comportamiento y gustos.
70Para terminar, deseamos subrayar algunos puntos que consideramos pertinentes a lo largo del documento, los cuales creemos deben seguir siendo analizados y explorados desde posiciones críticas. Por una parte, el predominio de la ideología técnica que hoy domina los discursos en torno a Internet y a los avances tecnológicos en el campo de la comunicación y la información. En estos discursos solo se resaltan los beneficios de las tecnologías, y se deposita en ellas las esperanzas de optimizar y mejorar todos los aspectos de la vida social, como si la solución a los problemas políticos, económicos y culturales estuviera en la técnica. Hemos querido hacer énfasis en que la tecnología no podrá solucionar todos los problemas de la sociedad, pues son precisamente problemas sociales, no técnicos, y al reducirlos a datos y cálculos se pierde la mirada compleja sobre ellos. Por esta razón, casi siempre las soluciones tecnológicas a problemas sociales son planteadas por especialistas en tecnología, y no por expertos en los problemas que se quiere resolver.
71Por otra parte, cada vez más se impone cierto tipo de interpretación de la realidad que se ha venido a denominar cultura algorítmica, en la cual las decisiones que tomamos en el ámbito digital son condicionadas por algoritmos. Estos, lejos de funcionar como herramientas objetivas y neutrales que solo buscan facilitarnos la vida, se encargan de recopilar nuestros datos para su explotación comercial y para delinear nuestros comportamientos dentro y fuera de la red. Con este tipo de influencia sobre las prácticas culturales, los algoritmos vienen moldeando nuestras decisiones, gustos, experiencias e interacciones, lo que, en últimas, transforma no solo la manera en que nos comunicamos e informamos, sino los sentidos y significados desde los cuales nos relacionamos e interpretamos la realidad y nuestro entorno.
72Por último, es importante resaltar que los algoritmos no son neutrales, como pretenden hacernos creer los intermediarios tecnológicos. No podemos olvidar que detrás del proceso de elaboración y configuración de los algoritmos se encuentran seres humanos que los programan para obtener determinados resultados (visibilidad, popularidad, predicción, entre otros). Allí también prevalecen relaciones de poder e intereses comerciales. Por estas razones, en ocasiones los algoritmos pueden favorecer desigualdades y procesos discriminatorios haciendo cálculos que condicionan lo que veremos y a lo que accederemos a través de sus aplicaciones y plataformas.
73La actual incursión de los algoritmos en casi todos los ámbitos de nuestras vidas les ha permitido a las empresas tecnológicas acumular un universo de datos que les han ayudado a conocer los hábitos de millones de usuarios y, a partir de ellos, realizar predicciones y recomendaciones de lo que veremos y haremos en Internet y sus diversas aplicaciones. Al ser propietarias de los algoritmos que recaban y procesan estos datos, las empresas tienen el poder de manipularlos en favor de intereses políticos y económicos. Finalmente, todos estos procesos son una forma de predeterminar nuestros usos, comportamientos y consumos, lo que, como hemos intentado explicar, configuran maneras de ver, leer e interpretar la realidad, los sentidos y significados que elaboramos sobre el mundo. Esto implica una algoritmización de la realidad, donde la vida humana y la sociedad quedan reducidas a datos cuantificables y manipulables que, más que predecir o recomendar ciertas conductas, moldean nuestras decisiones o elecciones en distintos ámbitos de la vida cotidiana.
BIBLIOGRAFÍA
Los DOI se añaden automáticamente a las referencias por Bilbo, la herramienta de anotación bibliográfica. Los usarios de aquellas instituciones quien susbriben a unos de nuestros pragramas OpenEdition Freemium pueden descargar las referencias bibliográficas para los cuales Bilbo encontró un DOI.
Por todo esto, consideramos necesario retomar y estimular lecturas y aproximaciones críticas sobre la relación entre tecnológica y sociedad en el mundo actual, para identificar los desafíos y consecuencias que los avances tecnológicos nos plantean como sociedad.
Arendt, Hannah. 2003. La condición humana. Buenos Aires: Paidós.
Baca, Carlos, Luca Belli, Erick Huerta y Karla Velasco. 2018. Community Networks in Latin America: Challenges, Regulations and Solutions. Internet Society, consultado el 29 de marzo de 2019, https://www.internetsociety.org/resources/doc/2018/community-networks-in-latin-america/
Caplan, Robin, Joan Donovan, Lauren Hanson y Jeanna Matthews. 2018. “Algorithmic Accountability: A Primer”. Data & Society, consultado el 29 de marzo de 2019, https://datasociety.net/output/algorithmic-accountability-a-primer/
Cardon, Dominique. 2018. Con qué sueñan los algoritmos. Nuestra vida en el tiempo de los Big Data. Madrid: Dado Ediciones.
Carr, Nicholas. 2019. La pesadilla tecnológica. Madrid: Ediciones El Salmón.
Castells, Manuel. 2006. La sociedad red: una visión global. Madrid: Alianza Editorial.
Castells, Manuel. 2012. Redes de indignación y esperanza: los movimientos sociales en la era de internet. Madrid: Alianza Editorial.
Dourish, Paul. 2016. “Algorithms and Their Others: Algorithmic Culture in Context”. Big Data & Society: 1-11. https://doi.org/10.1177/2053951716665128
DOI : 10.1177/2053951716665128
DOI : 10.1177/2053951716665128
Eagleton, Terry. 1997. Ideología: una introducción. Barcelona: Paidós.
Ferraris, Maurizio. 2017. Movilización total. Barcelona: Herder.
Ferry, Luc. 2017. La revolución transhumanista. Madrid: Alianza Editorial.
Finn, Ed. 2018. La búsqueda del algoritmo. Imaginación en la era de la información. Barcelona: Alpha Decay.
Fuchs, Christian y Eran Fisher, eds. 2015. Reconsidering Value and Labour in the Digital Age. Basingstoke: Palgrave Macmillan.
Geertz, Clifford. 2005. La interpretación de las culturas. Barcelona: Gedisa.
Habermas, Jurgen. 1986. Ciencia y técnica como ideología. Madrid: Tecnos.
Han, Byung Chul. 2014. Psicopolítica. España: Herder.
Heidegger, Martin. 2002. Serenidad. Barcelona: Ediciones del Serbal.
Innerarity, Daniel. 2012. “Desenredar una ilusión: notas para una teoria crítica de la democracia digital”. En Internet y el futuro de la democracia, editado por Serge Champeau y Daniel Innerarity, 37-43. Barcelona: Paidós.
Innerarity, Daniel. 2018. Política para perplejos. Barcelona: Galaxia Gutenberg.
Innerarity, Daniel y Serge Champeau, eds. 2012. Internet y el futuro de la democracia. Barcelona: Paidós.
Jenkins, Henry. 2008. Convergence Culture: la cultura de la convergencia de los medios de comunicación. Barcelona: Paidós.
Jones, Steven, ed. 2003. Cibersociedad 2.0. Una nueva visita a la comunidad y la comunicación mediada por ordenador. Barcelona: Editorial UOC.
Kuper, Adam. 2002. Cultura; la versión de los antropólogos. Barcelona: Paidós.
Lévy, Pierre. 2004. Inteligencia colectiva: por una antropología del ciberespacio. Washington: Organización Panamericana de la Salud.
Lévy, Pierre. 2007. Cibercultura. La cultura de la sociedad digital. Barcelona: Anthropos.
Linares, Jorge. 2008. Ética y mundo tecnológico. México: Fondo de Cultura Económica.
Manovich, Lev. 2017. “Los algoritmos de nuestras vidas”. Cuadernos de Información y Comunicación 22: 19-35. https://doi.org/10.5209/CIYC.55960
DOI : 10.5209/CIYC.55960
DOI : 10.5209/CIYC.55960
Morozov, Evgeny. 2012. El desengaño de Internet. Los mitos de la libertad en la red. Barcelona: Ediciones Destino.
Morozov, Evgeny. 2015. La locura del solucionismo tecnológico. Madrid: Clave Intelectual.
Negroponte, Nicholas. 1996. Ser digital. México: Océano.
O´Neil, Cathy. 2018. Armas de destrucción matemática. Cómo el big data aumenta la desigualdad y amenaza la democracia. Madrid: Capitán Swing Libros.
Parente, Diego. 2010. Del órgano al artefacto. Acerca de la dimensión biocultural de la técnica. La Plata: EDULP.
Pariser, Eli. 2017. El filtro burbuja. Cómo la red decide lo que leemos y lo que pensamos. Barcelona: Taurus.
Philbeck, Imme. 2017. Connecting the Unconnected. Working Together to Achieve Connect 2020 Agenda Targets. Davos: ITU.
Pisani, Francis y Dominique Piotet. 2009. La Alquimía de las multitudes. Cómo la web está cambiando el mundo. Barcelona: Paidós.
Quintanilla, Miguel Ángel. 2017. Tecnología: un enfoque filosófico y otros ensayos de tecnología. México: Fondo de Cultura Económica.
Rheingold, Howard. 2004. Multitudes inteligentes. La próxima revolución social. Barcelona: Gedisa.
Sadin, Eric. 2018. La silicolonización del mundo. La irresistible expansión del liberalismo digital. Buenos Aires: Caja Negra Editora.
Shirky, Clay. 2008. Here Comes Everybody: The Power of Organizing Without Organizations. Nueva York: Penguin.
Strehovec, Janez. 2013. “Algorithmic Culture and E-Literary Text Semiotics”. Cultura. International Journal of Philosophy of Culture and Axiology 10 (2): 141-156. https://doi.org/10.5840/cultura201310218
DOI : 10.5840/cultura201310218
DOI : 10.5840/cultura201310218
Striphas, Ted. 2015. “Algorithmic Culture”. European Journal of Cultural Studies 18 (4-5): 395-412. https://doi.org/10.1177/1367549415577392
DOI : 10.1177/1367549415577392
DOI : 10.1177/1367549415577392
Striphas, Ted y Blake Hallinan. 2016. “Recommended for You: The Netflix Prize and the Production of Algorithmic”. New Media & Society 18 (1): 117-137. https://doi.org/10.1177/1461444814538646
DOI : 10.1177/1461444814538646
DOI : 10.1177/1461444814538646
Thompson, John B. 1993. Ideología y cultura moderna. Teoría crítica social en la era de la comunicación de masa. México: Universidad Autónoma Metropolitana.
Valle, Dune y Diana Bernal. 2019. “Globalización, tecnologías de las comunicaciones y posverdad: las derivas de la verdad en la era digital”. En Comunicación Estratégica: interfaz relacional entre organizaciones y sus stakeholders, coordinado por Haydée Guzmán y Raúl Herrera, 207-240. Bogotá: Universidad Sergio Arboleda.
van Dijk, Teun. 2003. Ideología y discurso. Barcelona: Ariel.
van Dijck, José. 2014. “Datafication, Dataism and Dataveillance: Big Data between Scientific Paradigm and Ideology”. Surveillance & Society 12 (2): 197-208. https://doi.org/10.24908/ss.v12i2.4776
DOI : 10.24908/ss.v12i2.4776
DOI : 10.24908/ss.v12i2.4776
van Dijck, José. 2016. La cultura de la conectividad. Una historia crítica de las redes sociales. Buenos Aires: Siglo XXI.
Waisbord, Silvio. 2015. “El optimismo digi-actvista y sus problemas”. En La comunicación en mutación, editado por Adriana Amado y Omar Rincón, 75-86. Bogotá: FESCOL.
Wolton, Dominique. 1999. Sobre la comunicación. Una reflexión sobre sus luces y sobras. Madrid: Acento Editorial.
Wolton, Dominique. 2006. Salvemos la comunicación: aldea global y cultural, una defensa de los valores democráticos y la cohabitación mundial. Barcelona: Gedisa.
Wolton, Dominique. 2011. Informar no es comunicar. Contra la ideología técnica. Barcelona: Gedisa.
Wu, Tim. 2016. El interruptor principal. Auge y caída de los imperios de la información. México: Fondo de Cultura Económica.
Yehya, Naief. 2008. Tecnocultura. El espacio íntimo transformado en tiempos de paz y guerra. México: Tusquets Editores.
Žižek, Slavoj, comp. 2003. Ideología. Un mapa de la cuestión. Buenos Aires: Fondo de Cultura Económica.
Zuazo, Natalia. 2018. Los dueños de Internet. Cómo nos dominan los gigantes de la tecnología y qué hacer para cambiarlo. Buenos Aires: Debate.
NOTAS
1 Si bien a lo largo del artículo utilizamos los conceptos de técnica y tecnología como términos equivalentes, por considerar que la tecnología es un estado avanzado de la técnica, debemos señalar que ambos términos tienen diferentes connotaciones. Una de las definiciones que podemos recoger señala que la técnica, presente desde los inicios de la humanidad, busca principalmente la transformación de la naturaleza y está asociada a modos de conocer distintos a la ciencia. Por esta razón, en la tradición clásica no era calificada de episteme, sino que más bien se relacionaba con la poiesis, es decir, se entendía como un saber práctico y se concebía como un medio para un fin. Por otra parte, la tecnología está directamente relacionada con la ciencia, como una aplicación del conocimiento científico; por ende, se transforma la connotación que tenía en la antigüedad. Esta denominación implica reconocer que, a medida que la técnica es dotada de apoyo científico, también la investigación científica se ve dirigida por intereses de tipo comercial, o en palabras de Quintanilla (2017), técnicas industriales de base científica. Ver Arendt (2003), Parente (2010) y Quintanilla (2017).
2 De acuerdo con datos de la International Telecommunications Union (ITU), el 47% de la población mundial tiene acceso a internet. En Latinoamérica, cerca de la mitad de la población continúa sin acceso a la red. Ver Philbeck (2017) y Baca et al. (2018).
3 Los luditas fueron un grupo inglés de artesanos que durante las primeras décadas del siglo XIX se opuso a la introducción de máquinas en el sector textil para mejorar la producción pues, según ellos, las maquinas acabarían con sus trabajos y transformarían el orden social y moral de la época.
4 El concepto de cultura es un galimatías de las ciencias sociales y humanas; por tanto, para términos prácticos, lo asumimos desde la perspectiva simbólica que comenzó a ser empleada en la antropología durante la segunda mitad del siglo XX. Ver Kuper (2002).
PARA CITAR ESTE ARTÍCULO
Referencia en papel
Diego García Ramírez y Dune Valle Jiménez, « Los impactos de la ideología técnica y la cultura algorítmica en la sociedad: una aproximación crítica »,Revista de Estudios Sociales, 71 | 2020, 15-27.
Referencia electrónica
Diego García Ramírez y Dune Valle Jiménez, « Los impactos de la ideología técnica y la cultura algorítmica en la sociedad: una aproximación crítica », Revista de Estudios Sociales [En línea], 71 | 01/01/2010, Publicado el 24 enero 2020, consultado el 17 junio 2020. URL : http://journals.openedition.org/revestudsoc/46825
0 Comentarios