Cómo nos definen los algoritmos

[Algortimos. Internet. Personalidad. Sociedad. Poder. Manolo Rodríguez.  Cambridge Analytica.  Fernanda Bruno. Tecnología. Perfilización de la sociedad]

“En los últimos años, las grandes plataformas tecnológicas se convirtieron en las empresas más ricas del planeta sin usar la violencia. Su poder se consolido gracias a los millones de usuarios como nosotros que les confían su atención y sus datos a través de teléfonos móviles y algoritmos”
Natalia Zuazo, Los dueños de internet

por Mateo Servent

El smartphone siempre encendido y una conexión sin interrupciones son la norma, lo primero que se hace al inicio del día es chequearse novedades y notificaciones en el celular, el proceso continúa hasta la noche y lo último que se hace es, otra vez, mirar la pantalla. Ya no es una extensión de la persona, es parte de ella misma. Las redes sociales se han convertido en más que una mera herramienta para las personas hoy en día, pero sucede que no son pasivas ni mucho menos gratuitas. Millones de usuarios utilizan servicios de plataformas a diario para informarse,  como espacios de consumo cultural y para desarrollar diferentes relaciones, pero lo que no todos saben es que están pagando con  la visualización de publicidades y con cientos de datos captados y almacenados durante todo el proceso por las empresas y sus algoritmos.

Manolo Rodríguez, investigador de CONICET y con quien este escrito está en deuda[1], afirma que “si partes cada vez más crecientes de la vida cotidiana transcurren en las redes, pues, no sólo los perfiles se transforman en espacios privilegiados para la constitución misma de las identidades, sino que también constituyen la base de ejercicio de una vigilancia distribuida e inmanente. Entendiendo esta última como distribuida porque no es fija sino móvil e inmanente porque cualquier aspecto de la vida social queda registrado sin esfuerzo alguno. La dataficación de la vida social esta generando un tipo de control social inédito, el escándalo de Cambridge Analytica no fue el primero del estilo ni será el último tampoco.

Resulta difícil para el cerebro humano dimensionar la magnitud de los datos absorbidos por las empresas tecnológicas cada día a través de las plataformas mediante las millones de interacciones que llevamos a cabo. Cada usuario es analizado al detalle: likes, cuentas seguidas y no seguidas, con las que se interactúa y las que no, comentarios realizados, cada búsqueda hecha como también la ubicación en tiempo real son algunos de los datos con los que los algoritmos posibilitan una personalización. A su vez todos estos datos, medidos siempre estandarizada y  cuantitativamente, son conectados y relacionados con los de otros usuarios. Es por esto que los datos personales han alcanzado un significativo valor económico y político y las bases de datos se han vuelto literalmente inimaginables para un cerebro humano.

Es menester destacar que utilizándose cada dato recopilado las cuentas son categorizadas. Se da, siguiendo a Manolo, una “perfilización” constante que se alimenta del hecho de que los  individuos se la pasan “perfilizándose”. Incesantemente los algoritmos son alimentados por nuestros usos, registran solicitudes de amistad, la visión de una serie televisiva, la frecuencia cardíaca de un running en el parque, la búsqueda de un dato cualquiera en internet, entre muchas otras cosas. Desarrollándose de esta manera, la masa de datos obtenida contribuye a  la definición de un perfil y su “personalización”.

Lo particular aquí es que, como sostiene la investigadora brasileña Fernanda Bruno, en esa masa de datos lo que se busca es “la probabilidad de manifestación de un factor (comportamiento, interés, trazo psicológico) en un cuadro de variables”. Los algoritmos crean en los sujetos la ilusión de una singularidad que es efecto de la estadística, y ésta, a su vez, efecto de un procesamiento de información. Es decir, el proceso de personalización sucede a través de medidas estadísticas desligadas de un carácter puramente personal.

De acuerdo a una serie de clasificaciones son sugeridos y ocultados contenidos en las plataformas, en otras palabras, los algoritmos visibilizan múltiples contenidos y a la vez invisibilizan muchos otros. Mara Rivero, o Marou como se hace llamar, es socióloga y vive de ser influencer; en una entrevista con Anfibia presenta un problema que sufre personalmente en una plataforma, pero que afecta a todos los usuarios y también  al resto de las plataformas. Marou cuenta: “garpa más una foto en bikini que hablar de cultura”, lo que podría traducirse en la existencia de una gradación automatizada de contenidos por sobre otros.

Las compañías y sus algoritmos deciden que vemos y que no dentro de las plataformas para que “estemos cómodos” y permanezcamos allí el mayor tiempo posible. Y la permanencia en redes implica siempre, por ahora, además de recolección de datos, una incesante aparición de publicidades que responden a nuestros intereses. La muestra perfecta de este procedimiento es cuando, sin haberlo buscado específicamente, vemos publicidades de un producto que nos gustaría tener.

No es casual que actualmente se puede hablar de una “algoritmización” de la sociedad, hay quienes sostienen que la  producción de criterios esta pasado de  las autoridades tradicionales (la academia, la crítica, el Estado, el sistema educativo) a los propios algoritmos que van conformando pautas y elecciones culturales. En relación con este fenómeno, otro aspecto particular de las sugerencias automatizadas es el hecho de que aumentan exponencialmente las posibilidades de diferencias de consumo. El investigador argentino Agustín Berti propone que existe un “salto de una sincronía social colectiva (todos los de más de cierta edad sabemos quién es McGyver) a un nuevo modo de sincronía particularizada (a mí Netflix me sugiere que vea una telenovela sobre Pablo Escobar)”. Conforme a sus tendencias individuales las personas son “asistidas” por los algoritmos, y  en no pocas ocasiones este procedimiento conduce a la formación de problemáticas  burbujas de información.

Ahora bien, tal vez no se debería caer en una posición profundamente tecnofóbica o apocalíptica, estas miradas obturan una visión trascendente. Siguiendo a Simondon no existe antagonismo entre tecnología y sociedad, es decir si la técnica no está por fuera de lo humano podría decirse que la tecnología es constitutiva de la cultura. Quizá por ahora los algoritmos no son quien tiene la culpa, “no son objetos autónomos, sino que ellos mismos están moldeados por la ‘presión’ de fuerzas sociales externas” afirma Matteo Pasquinelli, en la misma línea Manolo va un poco mas allá “ellos mismos son expresión de ciertas fuerzas sociales y culturales”.

Veamos algunos puntos que resultan centrales para entender de que va la cuestión. En primer lugar los algoritmos son programados por seres humanos, si existe un algoritmo antisemita es porque el antisemitismo fue introducido como fuerza exterior por el hecho de captar información de la gente. Pero también los algoritmos poseen un nivel de programación autónoma[2] (parte de lo que se entiende hoy por inteligencia artificial), lo cual significa que aprenden y evolucionan. He aquí, en la imprevisibilidad, una de sus potencialidades, sin esta característica no se les podría pedir nada que no se sepa con anterioridad.

“Nosotros también somos algoritmos”, retomando a Manolo.

Spotify nos ahorra en una aplicación lo que antes demandaba días, noches y años de investigaciones sobre la música que nos gusta y también la que nos podría gustar. Gracias a las redes sociales hoy pueden establecerse relaciones en poco tiempo y no en el transcurso de años, como también posibilitan nuevos espacio de denuncia que antes no había. Los algoritmos nos muestran que, en cierto punto, éramos perfiles antes de que hubiera redes sociales y sistemas de “tomas de decisiones culturales”.

Analizar desde un prisma social o político a las aplicaciones y los algoritmos no es tarea fácil, todavía quedan muchas cuestiones a analizarse en el entramado de las relaciones sociales mediadas por plataformas y la racionalidad de la técnica actual. Meditar qué es lo que estamos delegando en los algoritmos, qué quieren los entramados de poder que deleguemos y que queremos las personas dentro de este proceso son tareas que nos debemos en lo inmediato.


[1]  Véase Rodríguez, P. M. (Julio 2018). Gubernamentalidad algorítmica. Sobre las formas de control en la sociedad de los metadatos. Barda, 14-35.

[2] Estos algoritmos resultan de utilidad cuando existen problemas complejos o que adolecen de falta de soluciones.

Comentarios

Leave a Reply

Tu dirección de correo electrónico no será publicada.

You may use these HTML tags and attributes:

<a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>