Debate tecnológico en un marco de justicia económica. Sally Burch entrevista a Evgueny Morozov

Entrevista realizada por Sally Burch 1 a Evgeny Morozov 2
Justo cuando el modelo neoliberal parece estar sumido en una crisis global de estancamiento económico y ha perdido cualquier semblanza de legitimidad, ha aparecido un nuevo sector de la economía globalizada que no sólo registra robustos márgenes de ganancia, sino que está reavivando la propia ideología neoliberal, bajo una nueva envoltura. Se trata de un puñado de corporaciones transnacionales de Internet que, a través de un proceso de rápida concentración oligopólica, ahora dominan la nueva economía digital.
La materia prima que estas empresas codician son los datos que extraen de casi todas las transacciones y comunicaciones en línea, en todo el mundo. Google, Apple, Facebook, Amazon y Microsoft (el llamado GAFAM), se encuentran entre los principales explotadores de estos bienes simbólicos, que los usuarios y transacciones de Internet les proporcionan y que luego se concentran en EE.UU., constituyendo una nueva fuente de riqueza y poder. Por lo tanto, esta actividad de “minería de datos” representa una nueva forma de extractivismo que responde a una lógica neocolonizadora, cuyas implicaciones la mayoría de gobiernos, especialmente en los países del Sur, desconocen o se sienten impotentes para prevenirlas.
La problemática va mucho más allá de la simple recolección y procesamiento de datos para su venta a anunciantes. Estos datos también son la materia prima de la inteligencia artificial (IA) y de los algoritmos que organizan y regulan cada vez más aspectos de nuestras vidas y sociedades. Estos procesos por lo general se definen en secreto, de acuerdo con los criterios de la empresa, lo que puede generar problemas cuando afectan el interés público o cuando implica obviar los mecanismos democráticos.
Entre los ejemplos más visibles, podemos mencionar los conflictos que algunas ciudades han tenido con empresas como Uber, cuyo software conecta conductores informales con pasajeros privados, pero bajo los términos dictados por Uber, lo que a menudo crea un serio conflicto con los taxistas registrados y el sistema que regula su servicio; también implica evadir derechos laborales, ya que Uber no reconoce una relación laboral.
El problema puede llegar a ser mucho más complejo cuando, por ejemplo, los anteriores servicios públicos de las denominadas “ciudades inteligentes”, como la gestión del tráfico vial o de la red eléctrica, comienzan a ser administrados por empresas tecnológicas privadas de acuerdo con sus propios criterios, cuyas decisiones potencialmente pueden imponerse por sobre la voluntad de los consejos locales. Los algoritmos que crean y los datos que generan suelen ser reservados como propiedad de la empresa; ello significa que, una vez que un contrato esté en funcionamiento, se vuelve casi imposible para la autoridad municipal tomar la decisión de dejarlo sin efecto, aunque haya insatisfacción con el servicio, ya que la ciudad entera podría verse hundida en el caos, hasta que un nuevo sistema se pueda instalar.
De hecho, apenas unos pocos actores globales tienen actualmente la capacidad suficiente para recoger y gestionar tales cantidades de recursos de datos, y el hecho de que sean principalmente empresas transnacionales basadas en Estados Unidos –además del propio gobierno estadounidense– se debe en gran medida al control que ese país ejerce sobre la Internet global. Incluso las grandes potencias enfrentan dificultades para contrarrestar la monopolización que esto implica; y para los países en desarrollo, está prácticamente fuera de alcance.
Tras las revelaciones de Edward Snowden, los gobiernos de los países del Sur por lo menos fueron alertados de los peligros del espionaje electrónico por parte de la Agencia de Seguridad Nacional de Estados Unidos (NSA, por sus siglas en inglés). En América del Sur, en 2012, los presidentes de la Unión de Naciones Suramericanas (Unasur) respondieron con el encargo al Consejo Suramericano de Infraestructura y Planeamiento (COSIPLAN) de instalar un anillo de fibra óptica a través de la región, con el fin de mantener un cierto nivel de soberanía sobre las comunicaciones intrarregionales, que actualmente pasan mayoritariamente por EE.UU. También mandataron al Consejo de Defensa regional para que desarrolle un plan de ciberdefensa y ciberseguridad3. Sin embargo, estas son respuestas muy parciales y los peligros de las nuevas amenazas relacionadas con la extracción de datos, los algoritmos y la IA todavía no constan en la agenda regional; mucho menos cómo responder adecuadamente.
Los datos: la clave de la inteligencia artificial
Evgueny Morozov
Evgueny Morozov
Para conocer su análisis respecto a estos retos, conversamos con el periodista y escritor de origen bielorruso, Evgeny Morozov, conocido principalmente por su crítica polémica de Silicon Valley como una extensión del poder de Estados Unidos. Morozov caracteriza la situación actual en estos términos: “el proyecto de la mayoría de empresas tecnológicas estadounidenses en esta coyuntura es seguir creciendo a nivel internacional y expandirse lo más que puedan; y lo hacen con fines de extraer la mayor cantidad posible de datos, sobre los comportamientos, las ansiedades y deseos de la población en cada lugar; los que posteriormente pueden ser empaquetados y vendidos a los anunciantes; pero también, a la postre, estos datos les permiten alimentar y ayudar a construir con mayor precisión sus proyectos de inteligencia artificial”.
Esto, explica Morozov, es un aspecto que muchas personas no comprenden: “piensan que el problema aquí es la mercantilización de las audiencias y nada más. Pero creo que eso es una visión muy equivocada, porque, además, les permiten construir plataformas de inteligencia artificial inmensamente poderosas, que a posteriori les pueden ayudar a automatizar, no sólo una gran cantidad de servicios comerciales, sino también buena parte de las funciones previamente asociadas con el Estado; y eso, no sólo en términos de seguridad, en el combate a la delincuencia, el crimen y la lucha contra el terrorismo, sino también cada vez más en el plano de la educación, la salud y otras cosas”. A modo de ejemplo, el analista (quien en los últimos años ha estado residiendo en EE.UU. y Europa), citó la noticia de que al parecer Microsoft podría estimar las probabilidades de que una persona tenga cáncer pancreático, incluso antes de que tenga un diagnóstico, con sólo mirar sus consultas de búsqueda de Internet; esto, dice, “da una idea de lo que esta agregación masiva de datos, combinada con todo tipo de servicios de diagnóstico de salud altamente individualizados, realmente puede lograr”.
Una condición previa para el proyecto de IA de estas corporaciones, precisa Morozov, es que todo el mundo debe estar en línea e intercambiando (lo que en la actualidad es el caso de sólo la mitad de la población mundial). Por lo tanto, muchas de estas empresas ofrecen ahora conectividad subvencionada a través de programas como el Free Basics de Facebook (recientemente derrotado, al menos parcialmente, en países como la India4) o el proyecto Loon de Google (de conectividad con aviones no tripulados y globos).
 “Hay una visión también de desbloquear el ‘potencial empresarial interior’ de la gente”, prosigue nuestro entrevistado. En tal sentido, se argumenta que “ahora que están en línea, y tienen las herramientas y las aplicaciones, todos ellos pueden convertirse en esta especie de tipos ideales, que personas como Hernando de Soto soñaban para las poblaciones locales. Una vez que se les dé las herramientas, se piensa poder realizar este sueño utópico, basado en una visión extremadamente neoliberal, donde todo el mundo saldría de la pobreza únicamente por convertirse en empresario”. Por lo tanto -concluye- Silicon Valley estaría integrando la visión histórica promovida durante mucho tiempo por el Banco Mundial y el FMI, entre otros.
América Latina: el desafío de la soberanía tecnológica
Con respecto a qué pasos los gobiernos latinoamericanos podrían dar para empezar a abordar estas cuestiones, Morozov hizo hincapié en la soberanía tecnológica. “Por lo menos una soberanía tecnológica inicial solía estar en la agenda de aquellos políticos en esta región que ya están preocupados con otros tipos de soberanía: la soberanía alimentaria, la soberanía energética, algún tipo de soberanía en infraestructura, y creo que todo eso es muy bueno y constructivo. El problema es que, si no se entiende las implicaciones para la soberanía que plantean las redes de datos y los sensores, es posible que se pierda terreno en las otras peleas. El hecho de que una empresa como Monsanto está ahora comprando todos los start-ups del big data que trabajan en la agricultura, o que una empresa como IBM esté comprando el Weather Channel, que es la empresa que básicamente tiene la mejor capacidad de predecir el tiempo, con toda clase de implicaciones para la agricultura y otros ámbitos, eso, para mí, implica que incluso un tema como la soberanía tecnológica no es una cuestión aislada hoy en día. Es algo que se fusiona con otras luchas por la soberanía; y si el proyecto para restaurar y preservar la soberanía sigue viva en esta región y en otras partes, no se lo puede realizar sin traer a la mesa los aspectos tecnológicos”.
Entre otras cosas, esto significaría cuestionar las soluciones para la propiedad de datos presentadas por las empresas de tecnología, que, de acuerdo con Morozov, se pueden resumir como: 1) “olvídense de los datos, ya que si los datos se quedan con nosotros, Google y Facebook, les ofreceremos todos estos servicios subvencionados, entonces ni siquiera piensen en ello como un asunto político”; y 2) “los datos son, por defecto, propiedad privada y hay que tener un régimen robusto de propiedad privada en torno a ellos, y así facilitar los mercados”. 
Esto -prosigue- significaría renovar el debate en curso sobre los regímenes de propiedad, entendiendo que “hay más unidades políticas en el mundo que sólo los individuos que interactúan a través del mercado” cuyos problemas tendrían solución, “siempre y cuando estén dispuestos a aceptar que el mercado va a intervenir y ayudarles a resolverlos, ya sea mediante la compra de una aplicación o mediante la entrega de todos los datos a Google o Facebook”. También significaría pensar en “las formas en que las comunidades, ciudades, estados-nación, y así sucesivamente, todavía pueden encontrar maneras de acumular estos datos con el fin de planificar mejor…”. Pero, se pregunta Morozov, ¿quién todavía habla de planificación?… Aparte de algunos países de América Latina, “los únicos actores que hacen la planificación organizada a esta altura son empresas gigantes”.
Evgeny Morozov, quien considera que las firmas tecnológicas ya prácticamente manejan la política occidental, hace hincapié en que “la capacidad de los gobiernos de América Latina para resistirse a Silicon Valley es, en última instancia, en función de su capacidad y voluntad de resistir al neoliberalismo como tal”.
Los gobiernos antineoliberales que han predominado en América del Sur durante la última década, y las renovadas iniciativas de integración regional, con autonomía de las potencias mundiales, tales como UNASUR y ALBA, potencialmente podrían constituir una de las pocas áreas del mundo con la capacidad política para asumir estos asuntos de forma colectiva. Sin embargo, el impacto de la crisis económica, a lo que se suman los recientes cambios políticos en países como Argentina, Brasil y Venezuela, hacen que esta posibilidad sea mucho menos probable.
En esta compleja situación política y económica de la región, Morozov reconoce que las condiciones no son favorables para tratar estas problemáticas y que falta voluntad política. Por otra parte, como es comprensible, incluso en los países con gobiernos progresistas, la lucha por la supervivencia básica de su proyecto tiene ahora primacía sobre este tipo de consideraciones. “Políticamente, entiendo lo difícil que es esta situación para cualquier gobierno izquierdista en América Latina que todavía quiere resistir la camisa de fuerza neoliberal”, añade.
En los países Brics: ¿réplicas locales de Silicon Valley?
Así las cosas, si bien Unasur potencialmente podría ser un espacio para abordar algunas de estas cuestiones como bloque, esto parece cada vez más improbable en el contexto actual. Los Brics son otro bloque con una cierta capacidad para actuar a nivel internacional. Pedimos a Evgeny Morozov que comente esta posibilidad. Su respuesta es que, a estas alturas, sólo ve a Rusia y China con la posibilidad de actuar sobre esas cuestiones. “Brasil está absorbido por su propia crisis interna. En la India, con la excepción de la oposición al Free Basics, que fue impulsado principalmente por activistas y la Comisión Federal Anti-Monopolios, el país en general parece bastante entusiasmado con la agenda neoliberal de desarrollo centrado en la tecnología; por eso (el presidente) Modi ha estado tan atento a las necesidades de las empresas extranjeras de tecnología que quieren llegar a la India para iniciar la construcción de ciudades inteligentes. En parte tiene que ver con su propia estrategia de urbanización y desarrollo económico, y en parte tiene que ver con el hecho de que él es el líder predilecto de Silicon Valley; él viaja para reunirse con sus líderes a cada rato. Así que con la India tampoco se puede contar”.
No obstante, en el plano del gobierno global de Internet, Morozov comenta que Rusia y China, y tal vez la India, se han dado cuenta de que sí es necesario actuar conjuntamente y unir sus fuerzas con el fin de contrarrestar a EE.UU. “Creo que ha sido lo único que se ha logrado a nivel de Brics. Ellos se reunieron en una cumbre en Moscú para tratar de articular algún tipo de visión contrahegemónica”.
Mientras tanto, Rusia y China son los dos países que han mostrado alguna capacidad para resistir internamente al modelo estadounidense, afirmando un cierto grado de soberanía -por lo cual reciben fuertes críticas bajo el argumento de que es para reprimir a su propia población-. Morozov, a la vez que reconoce las contradicciones internas, considera interesante el caso de Rusia y China, ya que han logrado plasmar el modelo de Silicon Valley a nivel nacional: entre los servicios exitosos que han lanzado y que generan bastantes ingresos, muchos son imitaciones de los servicios estadounidenses, afirma.
Considera que el modelo de Silicon Valley -que tiene una clara alianza con Wall Street, que podría describirse como la financiación de la vida cotidiana- significa desarrollar un tipo de capitalismo donde “todo se hiper-mercantiliza y bajo la bandera del ‘consumo colaborativo’ le invitan a uno a poner en circulación global todos sus activos, al arrendarlos en AirBnB o al convertirse en un conductor de Uber en su tiempo libre y así sucesivamente”. Los rusos y los chinos no necesariamente cuestionan la premisa neoliberal de estos modelos: “sólo desean implementarlos bajo sus propios términos”, afirma el analista.
Eso, a su vez, dice, lleva a abrir un debate sobre en qué medida los BRICS representan un cuestionamiento al capitalismo neoliberal o son sólo una especie de equivalente localizado. En términos de las implicaciones geopolíticas globales, aún pueden ser preferibles a la dominación unilateral de Estados Unidos. Pero en última instancia, las industrias de Internet de Rusia y China siguen siendo principalmente locales; no tienen el nivel de globalización de Silicon Valley. “Los jóvenes de Oriente Medio están todos en Facebook, también lo están muchos de los jóvenes del sudeste de Asia, y entiendo que también la mayoría de las personas en América Latina. Entonces, la capacidad de los rusos y los chinos para ofrecer una alternativa a Silicon Valley, fuera de sus propios patios traseros, es muy limitada”.
Al igual que en América Latina, en estos países también hay fuerzas contradictorias en juego. Por ejemplo, en la antigua URSS y Rusia -un área que conoce bien- Morozov percibe que “por un lado, hay fuerzas pro-estadounidenses que no creen básicamente en la capacidad de Rusia para desarrollar su propio camino; les gustaría pasar por alto por completo el proceso de algún tipo de industrialización y desarrollo y simplemente crecer mediante la entrega del país al capital extranjero. Así que les gustaría que una empresa como Cisco o Google o Microsoft llegue a Rusia”. Pero ahora, “debido a las sanciones y la guerra con Ucrania, están empezando a pensar en cuestiones de soberanía; y también ha habido un esfuerzo por pensar en lo que significaría en el panorama tecnológico”.
Temas para la construcción de la resistencia social
Ante este contexto global, buscamos indagar las ideas de Evgeny Morozov respecto a lo que podrían hacer los movimientos sociales y los individuos para resistir o crear alternativas a este modelo techno-neoliberal. O sea, qué temas serían susceptibles de movilizar a la gente y qué podría empezar a hacer una diferencia. A la vez que reconoce que es una pregunta difícil de responder, expresa dudas en cuanto a si se puede construir movimientos en torno a temas de tecnología, o, si es incluso aconsejable que se haga.
Tampoco considera la privacidad como el principal problema a abordar: “Mi opinión es que, en gran parte, el lenguaje de la privacidad y el debate acerca de la privacidad han sido acaparados por ese marco estadounidense-británico inocuo que se reduce a dar a las personas el control sobre sus datos, lo que en condiciones normales sería suficiente.
“El problema es que la transformación de otros sectores e industrias sobre la base de los datos ha conducido a una sociedad en la que diariamente la ciudadanía enfrenta incentivos para abandonar precisamente ese control que el derecho a la intimidad les garantiza, en la búsqueda de beneficios, ahorros, cupones, etc. La forma en que opera ahora la industria de seguros nos indica justamente la imposibilidad de seguir defendiendo la privacidad con ese lenguaje. Las compañías de seguros le dicen a uno que si se está dispuesto a monitorearse, poniendo un sensor en su coche, en su cocina, incluso en su cuerpo cuando camina, y si usted logra demostrar que es mucho menos riesgoso de lo que asumen que es, entonces obtendrá un gran beneficio. Ello implica que si no se tienen en cuenta las condiciones económicas y sociales estructurales que hacen poco probable la privacidad, nunca se va a llegar muy lejos”. Dada la crisis, el estancamiento de los salarios, el desempleo, “no se puede esperar que la gente continúe haciendo campaña para exigir privacidad cuando sacrificar la privacidad es lo que les permite ahorros o les da dinero”.
Morozov piensa que la clave para movilizar a la gente es más bien el debate y las luchas en torno a los datos y los sistemas inteligentes. Pone como ejemplo el hecho de que Google sólo pudo desarrollar su coche autodirigido debido a la capacidad de recogida de datos; y eso fue posible “porque alguien estaba dispuesto a pagar el costo de la recogida de los datos, y ese alguien son los anunciantes”. Sin embargo, una vez que Google haya construido sus vehículos de auto-conducción, la automatización podría ir desplazando a los choferes, incluyendo a los profesionales (los camioneros conforman la profesión más grande en EE.UU., con 3,5 millones de personas). Por lo tanto, dice, “si se comienza a reformular los debates sobre los datos y su extracción en este sentido, si se logra demostrar que nos estamos encaminando a toda velocidad hacia un futuro sin trabajo, en la que no es que se compensarán las pérdidas de puestos de trabajo con una renta básica, sino que en verdad estaremos sin ingresos, subsistiendo a base de gratificaciones en compensación por nuestros datos, entonces creo que se puede abrir un debate muy diferente”.
Esto requeriría –nuevamente– la construcción de movimientos alrededor de los asuntos que afectan a las personas directamente y golpean a sus bolsillos, “sea que se trate de la desigualdad, que implica apelar a un sentimiento de injusticia, o que se trate de la incertidumbre y la precariedad”… como se ve en las luchas actuales contra la reforma de la ley del trabajo en Francia. De hecho, señala, el único caso en los últimos años donde hubo resistencia en las calles en Francia respecto a una cuestión tecnológica fue cuando los taxistas franceses protestaron contra Uber, “y eso se debe a que se lo visualizó como una cuestión puramente económica, y no como una cuestión tecnológica o de privacidad”.
Por lo tanto, concluye, para lograr avances en cuestiones tecnológicas, primero tenemos que insertarlos en estos debates. Y eso significa ampliar la discusión más allá de la cuestión de la privacidad, por un lado, pero también más allá de la cuestión de la neutralidad de la red, como una intervención reguladora que debe ser plasmada en la ley. “Incluso con neutralidad de la red5, será muy difícil de entender donde ocurre el nuevo tipo de monopolización y exclusión en los niveles (o capas) superiores de la estructura tecnológica ya que lo que Google y Facebook ahora están construyendo son esencialmente nuevos niveles de exclusión en torno a los datos y el aprendizaje automático, y ya no en el acceso a la conectividad. Así que de la neutralidad de la red tendríamos que transitar hacia la neutralidad de la plataforma y de allí tendríamos que pasar a la neutralidad de los datos, y yo no creo que el sistema legal alcance a mantenerse al día con eso, incluso con un trabajo de incidencia política de por medio”.
El analista cree que esto requeriría de una convocatoria más emotiva, al evocar, por ejemplo, temas como el neo-feudalismo, la plutocracia o la monopolización de todo. “Sinceramente, creo que necesitamos una especie de tecno-populismo; el tipo de populismo que ha tenido una existencia muy productiva en América Latina tiene que lidiar con la cuestión de la tecnología. Y eso porque tenemos a la vez un fuertísimo populismo derechista de mercado libre que proviene de Silicon Valley, con empresas como AirBnB y Uber, como también Google y otros, que nos dice que la única razón por la que los ciudadanos no están obteniendo más beneficios de la tecnología es porque todos estos reguladores intervienen para defender a las industrias ya establecidas; pero una vez que los retiramos del camino y dejamos que Uber, AirBnB, Google y Facebook estén al mando, vamos a poder realizar todos esos beneficios y traspasarlos a los consumidores. Para mí, eso es populismo puro y simple, sólo que se trata de un populismo que se construye alrededor de los mercados, a pesar de que se presenta como el populismo en torno a la tecnología. Así que, a menos que haya una contrapartida desde la izquierda, creo que el campo discursivo estará completamente abandonado”