El capitalismo de la vigilancia vino para quedarse

John Naughton: Por el momento el mundo parece obsesionado con Facebook, pero como tú dijiste, Google es el principal jugador,
Shoshana Zuboff: El capitalismo de la vigilancia es una creación humana. Vive en la historia, no es la inevitabilidad tecnológica. Fue urdido y elaborado a través de prueba y error en Google del mismo modo en que la automotriz Ford descubrió la nueva economía de la producción en masa o General Motors la lógica del capitalismo gerencial.
El capitalismo de la vigilancia fue inventado alrededor del año 2001 como una solución a la emergencia financiera que apremió a la compañía cuando debieron afrontar la pérdida de confianza de los inversores. Mientras se incrementaba la presión de los financistas los líderes de Google abandonaron su declarada antipatía hacia la publicidad. Entonces decidieron impulsar sus ingresos publicitarios utilizando su acceso exclusivo a registros de datos de los usuarios, en combinación con su ya sustancial energía computacional y capacidades analíticas, para generar predicciones sobre las frecuencias de “clics” de los usuarios, tomadas como una señal de la relevancia para los espacios publicitarios.
Operacionalmente, esto implica que Google resignificó su creciente caché de datos comportamentales, y se ha puesto a trabajar con datos adicionales, desarrollando métodos para buscar agresivamente más fuentes de datos excedentes. En efecto, la compañía ha desarrollado técnicas para capturar datos secretos que los usuarios intencionalmente optaron por mantener privados, así como para interferir de modo extensivo información personal que los usuarios no proveyeron ni estarían dispuestos a hacerlo. Y estos datos luego son analizados para encontrar significados ocultos que puedan predecir la conducta online de los usuarios. Estos datos confomaron la base para nuevas estrategias de mercadeo online, llamadas publicidad dirigida.
Este fue el origen del capitalismo de la vigilancia que derivó en un fermento lucrativo y sin precedentes: datos comportamentales, ciencia de datos, infraestructura material, engería computacional, sistemas algorítmicos y plataformas automatizadas. Mientras la frecuencia de clics se disparó al espacio, la publicidad rápidamente se tornó tan importante como la búsqueda. Eventualmente fue el hito que dio inicio a un nuevo tipo de comercio que dependía de la vigilancia online a gran escala. El éxito de estos nuevos mecanismos se hizo visible cuando Google los reveló en 2004, publicando a la vez que entre 2001 y 2004 sus ingresos se incrementaron gracias a ellos un 3.590%.
JN: Entonces el capitalismo de la vigilancia comenzó con la publicidad, ¿y luego se hizo más general?
SZ: El capitalismo de la vigilancia no está más limitado a la publicidad que lo que la producción en masa lo estaba a la fabricación del Ford T. Rápidamente se transformó en el modelo por default de acumulación de capital en Silicon Valley, adoptado prácticamente por cada startup y app. Y fue una ejecutiva de Google, Sheryl Sandberg, quien cumplió el rol de Tifón Mary, trasladando el capitalismo de vigilancia de Google a Facebook, cuando asumió como segunda de Mark Zuckerberg en 2008. Actualmente no está más restringido a compañías individuales ni siquiera al sector de Internet. Se ha expandido a un amplio espectro de productos, servicios y sectores económicos, incluidos los de seguro, venta minorista, salud, finanzas, entretenimiento, educación, transporte y más, generando nuevos ecosistemas de proveedores, productores, clientes, creadores y jugadores de mercados. De hecho, cada producto o servicio que comienza con la palabra “inteligente” o “personalizado”, cada dispositivo de Internet, cada “asistente digital”, es simplemente una interfase de la cadena de suministro del constante flujo de datos comportamentales en su camino para predecir nuestros futuros en la economía de la vigilancia.
JN: En esta historia de conquista y apropiación, el término “nativos digitales” adquiere un nuevo significado…
SZ: Sí, “nativos digitales” es una frase trágicamente irónica. Estoy fascinada por la estructura colonial de la conquista, especialmente la de los primeros españoles que trastabillaron en las islas del Cribe. Los historiadores lo llamaron “patrón de conquista”, que se desenvolvía en tres fases: medidas legales para proveer a la invasión de una pátina de justificación, una declaración de posesión territorial y la fundación de una ciudad para legitimar la declaración. Entonces Colón simplemente declaró que las islas eran territorio de la monarquía española y el papa.
Los navegantes no imaginaron que estaban escribiendo el primer bosquejo de una patrón que se reproduciría a través del espacio y el tiempo al siglo 21 digital. Los capitalistas de la vigilancia también conquistaron por declaración. Simplemente declararon que nuestra experiencia privada era de ellos, para traducirla en datos para sus dueños privados y el conocimiento de sus propietarios. Se apoyaron en camuflaje retórico y la desorientación de los usuarios, con declaraciones secretas que no podemos comprender ni contestar.
Google comenzó declarando unilateralmente que la web le pertenecía para tomarla en su ingeniería de búsqueda. El capitalismo de vigilancia se originó en una segunda declaración que reclamaba que nuestra experiencia privada se destinaba a sus ingresos que fluían de contar y vender nuestros destinos para otros negocios. En ambos casos, se apropió de nuestras experiencias sin preguntar. Larry Page, el cofundador de Google, contempló que las operaciones de datos excedentes irían más allá del medio online al mundo real, donde los datos de la experiencia humana son libres y pueden ser apropiados. Mientras se producía su visión perfecamente reflejaba la historia del capitalismo, marcada por tomar cosas que viven fuera de la esfera del mercado y declarar su nueva vida como commodities del mercado.
Fuimos atrapados por el capitalismo de vigilancia porque no había modo de que pudiéramos imaginar su acción, así como los indígenas del Caribe no pudieron avizorar los ríos de sangre que fluirían por su hospitalidad hacia los navegantes que aparecieron en el delgado aire flameando la bandera de los monarcas españoles. Como los indios caribes, nos encontramos con algo verdaderamente sin precedentes.
Alguna vez nosotros buscamos a Google pero ahora Google nos persigue a nosotros. Alguna vez pensamos que los servicios digitales eran gratuitos, pero ahora los capitalistas de la vigilancia piensan que nosotros somos gratuitos.
JN: Entonces ahí está la narrativa de la “inevitabilidad”, la determinación tecnológica en esteroides.
SZ: En mi primer trabajo de campo en oficinas y fábricas de computación en los ‘70 y ’80 descubría la dualidad de la tecnología de la información: su capacidad de automatizar pero también de “informar”, que yo solía entender como traducir cosas, procesos, comportamientos y otros elementos en información. Esta dualidad aparta a la tecnología de la información de las primeras generaciones de tecnología: la tecnología de información produce nuevos territorios de conocimiento por virtud de su capacidad de informatización, también convirtiendo al mundo en información. El resultado es que estos nuevos territorios de conocimiento se dirimen conflictos políticos. El primer conflicto es sobre la distribución del conocimiento: “¿Quién conoce?”. El segundo es sobre autoridad: “¿Quién decide quién conoce?”. El tercero es sobre poder: “¿Quién decide quién decide quién conoce?”
Ahora los mismos dilemas sobre conocimiento, autoridad y poder han surgido sobre las paredes de nuestras oficinas, tiendas y fábricas para arrastrarnos a cada uno de nosotros… y nuestras sociedades. Los capitalistas de la vigilancia fueron los primeros jugadores en este nuevo mundo. Declararon su derecho a conocer, decidir quién conoce y quién elige a quienes deciden sobre la distribución del conocimiento. DE este modo han pasado a dominar lo que llamo “la división del aprendizaje en sociedad”, que es el principio de organización central del orden social del siglo 21, así como la división del trabajo fue el principio clave de organización de la sociedad en la era industrial.
JN: ¿Entonces la gran historia no es realmente la tecnología per se sino el hecho de que ha generado una nueva variante del capitalismo habilitada por la tecnología?
SZ: Larry Page comprendió que aquella experiencia humana podía ser el bosque virgen de Google, que podía extraerse sin costos extra online y a muy bajo costo en el mundo real. Para los dueños actuales del capital de vigilancia las realidades experienciales de los cuerpos, pensamientos y sentimientos son tan vírgenes y desvergonzadas como los alguna vez pletóricos médanos, ríos, océanos y bosques de la naturaleza antes que cayeran en la dinámica del mercado. No tenemos un control formal sobre estos procesos porque no somos esenciales a la nueva acción del mercado. En cambio, somos exiliados de nuestro propio comportamiento, nos niegan acceso o control sobre el conocimiento derivado de su desposesión por otros para otros. Conocimiento, autoridad y poder descansan con el capitalismo de vigilancia, que nos considera meramente “recursos humanos naturales”. Somos ahora los nativos cuyos reclamos de autodeterminación se han desvanecido de los mapas de nuestra propia experiencia.
Mientras es imposible imaginar al capitalismo de vigilancia sin el digital, es fácil imaginar el digital sin el capitalismo de vigilancia. El punto no puede ser enfatizado lo suficiente: el capitalismo de vigilancia no es tecnología. Las tecnologías digitales pueden adquirir diversas formas y tener diferentes efectos, dependiendo de las lógicas sociales y económicas que las traen a la vida. El capitalismo de vigilancia se basa en algoritmos y sensores, plataformas e inteligencia artificial, pero no es el mismo que cualquiera de ellos.
JN: ¿A dónde irá el capitalismo de vigilancia desde aquí?
SZ: El capitalismo de vigilancia se mueve de un foco en usuarios individuales a un foco sobre poblaciones, como ciudades y eventualmente, en sociedades enteras. Se puede pensar en el capital que puede ser atraído a futuros mercados en donde las predicciones sobre la evolución de la población se aproximan a la certeza. Esta ha sido una curva de aprendizaje para los capitalistas de la vigilancia, conducidos por la competencia en la predicción de productos. Primero aprendieron que cuanto más datos mejor será la predicción, lo que conduce a economías de escala en los esfuerzos de suministro. Luego aprendieron que cuanto más variados son los datos mayor es su valor predictivo. La nueva dirección a economías de enfoque los envió del escritorio al móvil, al mundo exterior: tu manejo, correr, compras, búsqueda de estacionamiento, tu sangre y rostro, y siempre… ubicación, ubicación, ubicación.
La evolución no se detuvo aquí. Ultimamente comprendieron que el dato comportamental más predictivo viene de lo que llamo “economías de acción”, como los sistemas son diseñados para intervenir en el estado del juego modificar realmente comportamientos, modelándolos hacia los resultados comerciales deseados. Vimos el desarrollo experimental de estos nuevos “medios de modificación comportamental” en los experimentos de contagio de Facebook, y el juego de realidad aumentada incubado en Google Pokémon Go.
Ya no es suficiente automatizar información que fluye sobre nosotros, ahora la meta es automatizarnos. Estos procesos fueron meticulosamente diseñados para producir ignorancia circunscribiendo el conocimiento individual, eliminando así cualquier posibilidad de autodeterminación. Y un científico de datos me explicó “Podemos crear el contexto en torno a un comportamiento particular y forzar su cambio de este modo… Estamos aprendiendo cómo escribir la música, y luego dejamos que la música los haga bailar”.
Este poder de moldear el comportamiento para beneficio o poder de otros requiere la autorización personal de los cibernautas. No se funda en una legitimidad moral o democrática, en tanto usurpa derechos de decisión y erosiona los procesos de autonomía individual que son esenciales a la función de una sociedad democrática. El mensaje aquí es simple: Alguna vez fui mío. Ahora soy de ellos.
JN: ¿Cuáles son las implicaciones para la democracia?
SZ: Durante las últimas dos décadas los capitalistas de la vigilancia han tenido una bonita carrera libre, sin casi ninguna restricción legal y/o regulatoria. La democracia ha dormido mientras los capitalistas de la vigilancia amasaron concentraciones de poder y conocimiento sin precedentes. Estas peligrosas asimetrías son institucionalizadas en sus monopolios de ciencia de datos, su dominio de inteligencia artificial, que son los “medios de producción” del capitalismo de vigilancia, sus ecosistemas de proveedores y clientes, sus lucrativos mercados de predicción, su capacidad de moldear comportamientos individuales y de poblaciones, su propiedad y control de nuestros canales de participación social y sus vastas reservas de capital. Ingresamos al siglo 21 marcados por esta rígida inequidad en la división del aprendizaje: ellos saben más de nosotros que nosotros mismos, o de lo que sabemos de ellos. Estas nuevas formas de desigualdad social son inherentemente antidemocráticas.
Al mismo tiempo, el capitalismo de vigilancia difiere de la historia del capitalismo de mercado en varios aspectos clave, y esto ha inhibido los mecanismos de respuesta normales de la democracia. Uno de estos aspectos es que el capitalismo de vigilancia abandona las reciprocidades orgánicas con la gente que en el pasado ha ayudado a encastrar el capitalismo en la sociedad y maniatarlo, no importa cuán imperfectamente, a los intereses de la sociedad. Primero, los capitalistas de la vigilancia ya no se basan en la gente como consumidores. En cambio, suministran y demandan orientaciones que el capitalista de la vigilancia requiere para intentar negocios sobre la anticipación del comportamiento de poblaciones, grupos e individuos. Segundo, por estándares históricos los grandes capitalistas de la vigilancia emplean relativamente poca gente comparados con sus recursos computacionales sin precedentes. General Motors empleaba más gente durante la Gran Depresión que la que emplean Google o Facebook en sus alturas de capitalización del mercado. Finalmente, el capitalismo de vigilancia depende de socavar la autodeterminación, la autonomía y los derechos de decisión de las personas en aras de un flujo sin obstáculos de datos comportamentales para alimentar mercados que son sobre nosotros pero no para nosotros.
Esta antidemocrática y anti-igualitaria situación ha sido mejor descrita como un golpe de mercado desde arriba: un derrocamiento de personas ocultas como el caballo de Troya tecnológico de la tecnología digital. En la fuerza de su anexión de la experiencia humana, este golpe logra concentraciones exclusivas de conocimiento y poder que sostienen una privilegiada influencia sobre la división del aprendizaje en sociedad. Es una forma de tiranía que se alimenta de gente pero que no es de la gente. Paradójicamente, este golpe es celebrado como la “personalización”, aunque ultraja, ignora, desplaza y avasalla todo lo que sea personal de tú y yo.
JN: Nuestras sociedades parecen transfiguradas por todo esto: somos como conejos paralizados en las luces delanteras de un auto avanzando a toda velocidad.
SZ: A pesar del dominio del medio digital y el ilegítimo poder del capitalismo de vigilancia para tomar la experiencia privada y moldear el comportamiento humano, a la mayoría de la gente le resulta dificultoso rendirse, y muchos consideran si es posible abandonarlo. De todos modos, esto no implica que seamos tontos, haraganes o desdichados. Por el contrario, en mi libro exploro numerosas razones que explican cómo los capitalistas de la vigilancia crean estrategias para mantenernos paralizados. Estas incluyen condiciones históricas, políticas y económicas que les permiten triunfar. Y ya hemos discutido algunas de las otras razones clave, incluida la naturaleza sin precedentes de la cosificación de los sujetos, la conquista por declaración. Otras razones significativas son la necesidad de inclusión, la identificación con líderes tecnológicos y sus proyectos, la dinámica de la persuasión social y un sentido de inevitabilidad, desamparo y resignación.
Estamos atrapados en una mezcla de necesidad personal y extracción económica, en tanto los mismos canales en los cuales confiamos para la logística diaria, la interacción social, el trabajo, educación, cuidado de la salud, acceso a productos y servicios, y mucho más, ahora se duplica como las operaciones de una cadena de suministro para los flujos excedentes del capitalismo de vigilancia. El resultado es que los mecanismos de opción que tenemos han sido tradicionalmente asociados con el reino privado y se encuentran viciados o corroídos. Puede no haber salida para procesos que son intencionalmente diseñados para omitir la precaución individual y producir ignorancia, especialmente cuando son los mismos procesos de los cuales dependemos para una vida diaria efectiva. Así nuestra participación se explica mejor en términos de necesidad, dependencia la clausura de alternativas y la ignorancia forzada.
JN: ¿Todo esto no significa que la regulación que sólo se focaliza en la tecnología está equivocada y condenada a fallar?, ¿Qué podemos hacer para tomar control antes de que sea demasiado tarde?
SZ: Los líderes tecnológicos quieren desesperadamente que creamos que la tecnología es la fuerza inevitable aquí, y sus manos están atadas. Pero hay una rica historia de aplicaciones digitales antes del capitalismo de la vigilancia que realmente eran poderosas y consistentes con los valores democráticos. La tecnología es el títere pero el capitalismo de la vigilancia es el titiritero.
El capitalismo de la vigilancia es un fenómeno humano y se encuentra en el reino de la política que debe ser confrontado. Los recursos de nuestras instituciones democráticas deben ser movilizados, incluidos nuestros representantes. La GDPR (una ley reciente de la Unión Europea sobre protección de datos y privacidad para todos los individuos dentro de la UE) es un buen comienzo, y el tiempo dirá si podemos construir lo suficiente para ayudar a encontrar y forzar un nuevo paradigma de capitalismo de la información. Nuestras sociedades han domesticado los peligrosos excesos del capitalismo rancio con anterioridad, y debemos hacerlo nuevamente.
Mientras que por mucho que queramos no hay un simple plan de acción de cinco años, hay algunas cosas para hacer. A pesar de los modelos económicos, legales y de acción colectiva existentes, como la acción antimonopólica, leyes privadas y asociaciones de comercio, el capitalismo de vigilancia ha tenido dos décadas relativamente tranquilas para arraigarse y florecer. Necesitamos nuevos paradigmas que nazcan de un mayor entendimiento de los imperativos económicos y mecanismos fundacionales del capitalismo de vigilancia.
Por ejemplo, la idea de “propiedad de datos” siempre es celebrada como una solución. ¿Pero cuál es el punto de la propiedad de datos que no debería existir en primer lugar? Todo lo que hace es institucionalizar y legitimar más la captura de datos. Es como negociar cuántas horas por día se le debería permitir trabajar a un niño de siete años, más que impugnando la legitimidad fundamental del trabajo infantil. La propiedad de datos también falla en el reconocimiento de las realidades del comportamiento excedente. Los capitalistas de la vigilancia extraen un valor predictivo de los puntos de exclamación en los posts, no simplemente del contenido escrito, o de cómo uno camina ni meramente donde trabaja. Los usuarios pueden tener la “propiedad” de los datos que dan a los capitalistas de la vigilancia en primer lugar, pero no tendrán propiedad del excedente o de las predicciones realizadas a partir del mismo –no sin nuevos conceptos legales construidos en base a una comprensión de estas operaciones.
Otro ejemplo, hay resonantes razones antimonopólicas para romper con las más grandes firmas tecnológicas, pero esto solo no eliminará el capitalismo de vigilancia. En contrapartida, producirá firmas capitalistas más pequeñas y abrirá un campo para más capitalistas de la vigilancia competidores.
Entonces, ¿qué se puede hacer? En cualquier confrontación con lo que no tiene precedentes, la primera tarea comienza por nombrar. Hablando por mí, ese es el motivo por el cual dediqué los últimos siete años a este trabajo… para sacar adelante el proyecto de nombrar como el primer paso necesario hacia la domesticación. Mi esperanza es que una cuidadosa denominación nos dará a todos una mejor comprensión de la verdadera naturaleza de esta deshonesta mutación del capitalismo, y contribuir a un cambio paradigmático en la opinión pública, sobre todo entre los jóvenes.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *