Ensayo

#FuturosAumentados


¿Hacia dónde nos lleva la inteligencia artificial?

Internet no resultó ese ágora global que soñamos. A esa ilusión se la tragó un escenario más parecido a las distopías de Black Mirror. ¿Se puede neutralizar el lado crítico de la tecnología? De eso hablarán los conferencistas de Futuros Aumentados, el programa que actualiza los principales debates sociales, culturales, politicos y filosóficos vinculados a lo digital. Por Esteban Magnani.

FUTUROS AUMENTADOS_Banners_Interno de publicación

Encontrá toda la información sobre nuestro nuevo programa de formación acá 

***

«¿Cuándo se jodió la internet?» La pregunta de Mario Vargas Llosa sobre el Perú (útil para tantas cosas que parecían que sí pero finalmente no) aplica perfectamente a la red de redes y su sueño democratizador. La promesa de que todos y todas podrían unirse al ágora global en igualdad de condiciones gracias a una estructura indefectiblemente horizontal que nos haría mejores como sociedad, en algún momento tomó el rumbo de Black Mirror. ¿Qué pasó?

 

En su libro «Capitalismo de plataformas«, el economista Nick Srnicek desentra el misterio buceando en el motor económico que desvió el barco hacia un rumbo distópico. Su planteo es que en los años noventa el capitalismo sufría una de sus cíclicas crisis de sobreacumulación y se encontraba en busca de nuevos espacios de reproducción. En esa misma década las telecomunicaciones -y sobre todo internet- vivían una etapa de desarrollo hacia territorios inexplorados que no se producían desde la llegada de Cristóbal Colón a América. Pero esta vez la decisión de invertir en ese nuevo continente no dependió de los anillos de la reina Isabel sino de miles de iniciativas privadas, muchas de ellas con recursos financieros enormes y deseosas de encontrar el Dorado virtual. 

 

Hacia-dónde-nos-lleva-la-inteligencia-artificial_01_PORT

Al principio no estaba muy claro qué modelo de negocios serviría para colmar las expectativas de los inversores. Pero tras escuchar a los emprendedores que les prometían ganancias enormes, se dispusieron a abrir la billetera. Así se infló una burbuja de proyectos de todo tipo, algunos delirantes, otros más sensatos. Cuándo la tentación es grande, se asumen más riesgos. Los nuevos proyectos generaron una demanda en transferencia de datos, hardware y software que se tradujo en más inversión. 

 

Las startups poco a poco comenzaron a mostrar serios problemas para generar ganancias en esa red donde todo parecía gratis y accesible; finalmente la desconfianza pinchó la burbuja y se produjo una estampida: entre marzo de 2000 y octubre de 2002 el índice NASDAQ perdió el 78% de su valor. Si bien, como explica Srnicek, la mayoría de los proyectos desapareció junto con el capital invertido «…el boom tecno de los 90’ fue una burbuja que dispuso el terreno para la economía digital por venir».

 

Gracias a este proceso económico darwinista se produjo una extinción masiva acelerada por el dinero y la tecnología. Los pocos sobrevivientes encontraron que la vida era posible en un ecosistema que permitiría sobrevivir a base de datos e inteligencia artificial. El caso más evidente fue el de Google, formada en 1998, que comprendió (no sin dificultades) cómo monetizar la ingente cantidad de datos que acumulaba sobre las búsquedas gracias a un algoritmo de inteligencia artificial. El proceso podía escalar solo y generar un efecto de red en el que cada nueva búsqueda permitiría acumular más inteligencia colectiva y comprender mejor qué busca cada persona para dar respuestas más precisas en un proceso sin fin. Así Google se alejó de sus competidores que ya nunca podrían alcanzarlo: en 2021 realiza el 92% de las búsqueda que se hacen en todo el mundo.

 

Hacia-dónde-nos-lleva-la-inteligencia-artificial_00_PORT

El hallazgo de Google fue aprovechar esa radiografía sobre los intereses de cada persona para segmentar las publicidades a nivel individual. Donde los diarios mostraban lo mismo a cada lector, ellos podían publicitar solo lo que podría interesarles. Así ofrecieron tercerizar la publicidad de otros sitios con empresas como AdWords y AdSense que permitían mejorar la performance publicitaria en cualquier sitio que los contratara. Las grandes corporaciones encontraron una enorme fuente de poder que podía ir más allá del rentable negocio publicitario. Como explica Evgeny Morozov, «La utopía escondía negocio y vigilancia». 

 

Los países del tercer mundo se enfrentaron a la disyuntiva de sumarse desde un lugar de usuarios pasivos o quedarse afuera de la revolución digital. Como explica Renata Avila, la conectividad que se ofrece «al tercer mundo es pobre o va más en la forma de controles y cadenas». En un mundo de creciente concentración, donde las principales corporaciones parecen en condiciones de desafiar incluso a los controles del Estado, los países del tercer mundo ven cómo la fibra óptica reproduce lo que en otros momentos hacían los trenes: llevarse recursos para devolver productos terminados. Antes se llevaban cuero para vendernos zapatos; hoy se llevan datos para vendernos servicios. 

 

En el corazón de este modelo está la inteligencia artificial, una herramienta tecnológica con un enorme impacto en la sociedad. Comprender su funcionamiento es imprescindible para reconstruir las bases sobre las que se asienta el sistema. Es sabido, la tecnología no es ni buena ni mala, pero tampoco es neutral. Su matemática, lejos de ser producto de una abstracción aséptica, está cargada de sesgos, tal como explica Sofía Trejo, y refleja en buena medida los prejuicios de los programadores y de los datos con los que se le «enseña». De alguna manera la inteligencia artificial es esencialmente conservadora porque reproduce lo que ve como si esto fuera la verdad revelada: lo que más se repite es lo normal y por lo tanto debe seguir ocurriendo. Y eso incluye el racismo, el sexismo, los prejuicios contra las distintas y numerosas formas de segregación.

 

Este modelo de negocios arrollador por su éxito, con márgenes de ganancias enormes y que se reinvierten permanentemente para encontrar nuevas formas de generar  ganancias, tiene una serie de efectos colaterales que lo afectan todo. Como explica Mercedes Bunz, los algoritmos «cambian a la sociedad» de una manera sutil, individualizada, que es difícil de analizar porque se da en el uno a uno entre la pantalla y un sujeto constantemente estimulado, interrumpido, manipulado de pequeñas formas que van impactando hasta en cómo construye la propia subjetividad. Lo que los medios masivos hacían a manotazos, las corporaciones tecnológicas lo realizan de manera individualizada, quirúrgica, con la ganancia como objetivo, aunque sigan usando muchas veces una cháchara democratizadora.

Hacia-dónde-nos-lleva-la-inteligencia-artificial_03_PORT (1)

 

Para Carlos Scolari, uno de los efectos colaterales de esta nueva forma de circulación de los contenidos es la «Cultura snack» que compite constantemente por nuestra atención recurriendo a mensajes cada vez más simples e irresistibles: clips, tuits, memes, trailers, webisodios, teasers, sneakpeaks, tiktok… Cada vez más cortos, cada vez más irresistibles y cada vez más superficiales. Llevar el celular en el bolsillo es como andar todo el día con una bolsa de papas fritas abierta; irresistible tomar otra aunque sepamos que engorda, tapa las arterias y afecta la presión.

 

Algo que parecen haber comprendido muy bien los algoritmos es que hay ciertos estímulos que nos interpelan en la parte más irracional de nuestra subjetividad y que no podemos controlar. Las noticias que confirman nuestros sesgos, que apuntan a nuestra indignación, a las emociones más básicas, nos resultan irresistibles. La discusión política, otro campo afectado por el poder de la inteligencia artificial, se enfermó de manipulación gracias al barro de la posverdad. Como se pregunta Jorge Carrión: ¿qué le queda hacer al periodismo en este nuevo contexto? La autoridad de los comunicadores, ya cuestionada hace años, es asediada ahora por todos los rincones con campañas delirantes que van empujando a los ciudadanos hasta los bordes de sí mismos, hacia las expresiones más radicalizadas que permite su subjetividad.

 

¿Cómo hacemos para entender estos fenómenos económicos, sociales, tecnológicos, políticos, artísticos y hasta subjetivos? ¿Quién toma nuestras decisiones? ¿Qué humanidades estamos construyendo? ¿Hacia dónde nos lleva la inteligencia artificial?