Ilustración tomada del libro The Mismeasure of Man by Stephen Jay Gould, 1981
Matteo Pasquinelli*
**Tomado de e – flux Journal #14, dic. 2023
*** Traducción: Guillermo Vanegas + ChatGPT 3,5 + Google Translate
Deshaciendo el algoritmo maestro
Dado el tamaño creciente de los conjuntos de datos, los costos de capacitación de los grandes modelos y el monopolio de la infraestructura que es necesaria en la nube para que unas pocas empresas (Amazon, Google y Microsoft —y sus contrapartes asiáticas Alibaba y Tencent—), alojen dichos modelos, se ha hecho evidente para todos que la soberanía de la IA sigue siendo un asunto difícil de escala geopolítica. Además, la confluencia de diferentes aparatos de gobernanza (ciencia climática, logística global e incluso atención médica) hacia el mismo hardware (computación en la nube) y software (aprendizaje automático) señala una tendencia aún más fuerte hacia la monopolización. Aparte del notorio problema de la acumulación de poder, el aumento de los monopolios de datos apunta a un fenómeno de convergencia técnica que es clave para este libro: los medios de trabajo se han convertido en los mismos medios de medición y, de la misma manera, los medios de gestión y logística se han convertido en los mismos medios de planificación económica.
Esto se hizo evidente durante la pandemia de Covid-19, cuando se estableció una gran infraestructura para rastrear, medir y pronosticar comportamientos sociales. (1) Sin embargo, esta infraestructura, sin precedentes en la historia de la atención sanitaria y la biopolítica, no fue creada exnihilo sino construida sobre plataformas digitales preexistentes que orquestan la mayoría de nuestras relaciones sociales. Especialmente durante los confinamientos, se utilizó el mismo medio digital para trabajar, comprar, comunicarse con familiares y amigos y, finalmente, para la atención sanitaria. Las métricas digitales del cuerpo social (geolocalización y otros metadatos), fueron clave para los modelos predictivos del contagio global, pero también han sido utilizadas durante mucho tiempo para rastrear el trabajo, la logística, el comercio y la educación. Filósofos como Giorgio Agamben han afirmado que esta infraestructura prolongó el estado de emergencia de la pandemia, cuando en realidad su despliegue en la atención sanitaria y la biopolítica continúa décadas de seguimiento de la productividad económica del cuerpo social, que ha pasado desapercibido para muchos. (2)
La convergencia técnica de las infraestructuras de datos también revela que la automatización contemporánea no trata sólo de la automatización del trabajador individual, como en la imagen estereotipada del robot humanoide, sino de la automatización de los amos y gerentes de la fábrica, como ocurre en las plataformas de la economía de trabajos por encargo (gig economy platforms) (3). Desde los gigantes de la logística (Amazon, Alibaba, DHL, UPS, etc.) y la movilidad (Uber, Share Now, Foodora, Deliveroo) hasta las redes sociales (Facebook, TikTok, Twitter), el capitalismo de plataformas es una forma de automatización que en realidad no reemplaza a los trabajadores sino que los multiplica y los gobierna de nuevo. Esta vez no se trata tanto de la automatización del trabajo sino de la automatización de la gestión. Bajo esta nueva forma de gestión algorítmica, todos somos trabajadores individuales de un vasto autómata compuesto por usuarios globales, turkers (4), cuidadores, conductores y pasajeros de muchos tipos. El debate sobre el temor de que la IA reemplace los empleos está equivocado: en la economía de plataformas, los algoritmos reemplazan la gestión y multiplican los empleos precarios. Aunque los ingresos de la gig economy siguen siendo pequeños en relación con los sectores tradicionales, al utilizar la misma infraestructura en todo el mundo, estas plataformas han establecido posiciones de monopolio. El poder del nuevo «amo» no tiene que ver con la automatización de tareas individuales sino con la gestión de la división social del trabajo. En contra de la predicción de Alan Turing, es al maestro no el trabajador, a quien el robot ha venido a reemplazar primero. (5)
Uno se pregunta cuáles serían las posibilidades de una intervención política en un espacio tan tecnológicamente integrado y si el llamado a «rediseñar la IA» que las bases e iniciativas institucionales defienden es razonable o factible. Este llamado debería responder primero a una pregunta más apremiante: ¿Cómo es posible «rediseñar» monopolios de datos y conocimiento a gran escala? (6) A medida que grandes empresas como Amazon, Walmart y Google han conquistado un acceso único a las necesidades y problemas de todo el cuerpo social, un movimiento creciente pide no sólo hacer que estas infraestructuras sean más transparentes y responsables, sino colectivizarlas como servicios públicos (como ha sugerido Fredric Jameson, entre otros), o sustituirlas por alternativas públicas (como ha defendido Nick Srnicek). (7) Pero ¿cuál sería una manera diferente de diseñar tales alternativas?
Como sugiere la teoría de la automatización en este libro, cualquier aparato tecnológico e institucional, incluida la IA, es la cristalización de un proceso social productivo. Los problemas surgen porque dicha cristalización «osifica» y reitera estructuras, jerarquías y desigualdades del pasado. Para criticar y deconstruir artefactos complejos como los monopolios de la IA, primero debemos emprender el meticuloso trabajo de desconexión —deshacer: paso a paso, archivo por archivo, conjunto de datos por conjunto de datos, metadato por metadato, correlación por correlación, patrón por patrón—, el tejido social y económico que los constituye en origen. Este trabajo ya está siendo impulsado por una nueva generación de académicos que están analizando el proceso de producción global de IA, especialmente aquellos que utilizan métodos de «investigación-acción”». Cabe destacar, entre muchas otras, la plataforma Turkopticon de Lilly Irani, utilizada para «interrumpir la invisibilidad de los trabajadores» en MTurk; la investigación de Adam Harvey sobre conjuntos de datos de entrenamiento para el reconocimiento facial, que expuso las violaciones masivas de privacidad por parte de las corporaciones de inteligencia artificial y la investigación académica; y el trabajo del colectivo Politically Mathematics de India, que analizó el impacto económico de los modelos predictivos de Covid-19 en las poblaciones más pobres y reclamó las matemáticas como un espacio de lucha política (ver su manifiesto citado al inicio de este texto). (8)
La teoría laboral de la automatización es un principio analítico para estudiar el nuevo «ojo del amo» que encarnan los monopolios de IA. Sin embargo, precisamente por su énfasis en el proceso laboral y las relaciones sociales que constituyen los sistemas técnicos, también es un principio sintético y «sociógeno» (para usar el término programático de Frantz Fanon y Sylvia Wynter). (9) Lo que está en el centro de la teoría laboral de la automatización es, en última instancia, una práctica de autonomía social. Las tecnologías sólo pueden juzgarse, cuestionarse, reapropiarse y reinventarse entrando en la matriz de las relaciones sociales que originalmente las constituyeron. Las tecnologías alternativas deberían situarse en estas relaciones sociales, de una manera no muy diferente a como lo han hecho los movimientos cooperativos en siglos pasados. Pero crear algoritmos alternativos no significa hacerlos más éticos. Por ejemplo, la propuesta de codificar reglas éticas en IA y robots parece insuficiente e incompleta porque no aborda directamente la amplia función política de la automatización en su esencia. (10)
Lo que se necesita no es tecno-solucionismo ni tecno-pauperismo, sino más bien una cultura de invención, diseño y planificación que se preocupe por las comunidades y lo colectivo, y que nunca abandone por completo la agencia y la inteligencia en favor de la automatización. El primer paso de la tecnopolítica no es tecnológico sino político. Se trata de emancipar y descolonizar, cuando no abolir en su conjunto, la organización de las relaciones laborales y sociales en las que se basan los sistemas técnicos complejos, los robots industriales y los algoritmos sociales; específicamente su sistema salarial incorporado, sus derechos de propiedad y sus políticas de identidad. Las nuevas tecnologías para el trabajo y la sociedad sólo pueden basarse en esta transformación. Está claro que este proceso se desarrolla desarrollando no sólo conocimientos técnicos sino también políticos. Uno de los efectos problemáticos de la IA en la sociedad es su influencia epistémica: la forma en que presenta la inteligencia como inteligencia artificial e implícitamente fomenta el conocimiento como conocimiento procedimental. Sin embargo, el proyecto de una epistemología política para trascender la IA tendrá que transmutar las formas históricas del pensamiento abstracto (matemático, mecánico, algorítmico y estadístico) e integrarlas como parte de la caja de herramientas del propio pensamiento crítico. Al confrontar la epistemología de la IA y su régimen de extractivismo del conocimiento, es necesario aprender una mentalidad técnica diferente, una «contrainteligencia» colectiva.
Notas
1.- «Breaking Models: Data Governance and New Metrics of Knowledge in the Time of the Pandemic», workshop, Max Planck Institute for the History of Science, Berlin, and KIM research group, University of Arts and Design, Karlsruhe, September 24, 2021.
2.- Giorgio Agamben, Where Are We Now? The Epidemic as Politics, trans. V. Dani (Rowman & Littlefield, 2021).
3.- Gig economy es una expresión que utiliza la palabra «gig» para referirse a los mismo que los miembros como de nuestro campo musical cuando realizan una actuación corta: una «chisga». En ese sentido, hablamos de un sistema de tercerizacion de chisgas configurado como «mercado» «abierto» apoyado, fundamentalmente, en la transitoriedad: contratistas «independientes» (en gomelo colombiano fundador de la aplicación de explotación laboral Rappi: «socios» —esclavizados—) ocupan posiciones momentáneamente para cumplir tareas específicas y sin protección laboral. En una actualización del lema neoliberal «el esclavo es esclavo porque quiere», Sebastián Rúales, Director Comercial de Rappi LatAm, declaraba en 2019 sobre el aporte criollo a este entramado de explotación global: «Rappi es una plataforma que conecta a dos tipos de usuario. Un usuario que está dispuesto a hacer un pago por conveniencia a cambio de un producto o servicio, con un usuario que se conecta a la plataforma para atender órdenes con el fin de generar un ingreso. En ese ejercicio, Rappi como compañía, funciona como un conector, que une a dos tipos de usuarios, y en ese orden de ideas Rappi no funciona como un empleador ni como un generador de la demanda.». Véase: Yolanda Isabel Medina, «”Rappitenderos no son empleados de Rappi, son usuarios”», Portafolio, Bogotá, 19 de julio de 2019. Disponible en https://www.eltiempo.com/economia/rappitenderos-no-son-empleados-de-rappi-son-usuarios-390362 N. D T.
4.- Se le llama Turker a quien realiza pequeñas tareas en el servicio de Amazon Mechanical Turk (MTurk). Por su parte, MTurk es —otra vez— un mercado inspirado en la lógica de la vaca, la colecta o la gestión comunista de recursos (en gomelo rolo: «crowdsourcing»), que «facilita» a individuos y negocios la tercerización de procesos y trabajos hacia una fuerza de trabajo distribuída que las pueda realizar virtualmente. Según promete la empresa «MTurk permite a las empresas aprovechar la inteligencia, habilidades y conocimientos colectivos de una fuerza laboral global para optimizar los procesos comerciales, aumentar la recopilación y el análisis de datos y acelerar el desarrollo del aprendizaje automático.» ¡Turkers de todo el mundo uníos!. Véase: https://www.mturk.com/ N. d T.
5.- Min Kyung Lee et al., «Working with Machines: The Impact of Algorithmic and Data-Driven Management on Human Workers», en Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems, Association for Computing Machinery, New York, 2015; Sarah O’Connor, «When Your Boss Is an Algorithm», Financial Times, September 8, 2016. Véase también Alex Wood, «Algorithmic Management Consequences for Work Organisation and Working Conditions», no. 2021/07, European Commission JRC Technical Report, Working Papers Series on Labour, Education, and Technology, 2021.
6.- Redesigning AI, ed. Daron Acemoglu (MIT Press), 2021.
7.- Leigh Phillips y Michal Rozworski, The People’s Republic of Walmart: How the World’s Biggest Corporations Are Laying the Foundation for Socialism (Verso, 2019); Frederic Jameson, Archaeologies of the Future: The Desire Called Utopia and Other Science Fictions (Verso, 2005); Nick Srnicek, Platform Capitalism (Polity Press, 2017), 128.
8.- Véanse los sites turkopticon.net, exposing.ai, and politicallymath.in
9.- Sylvia Wynter, «Towards the Sociogenic Principle: Fanon, Identity, the Puzzle of Conscious Experience, and What It Is Like to Be “Black”», en National Identities and Sociopolitical Changes in Latin America, ed. Antonio Gomez-Moriana, Mercedes Duran-Cogan (Routledge, 2001). Véase también Luciana Parisi, «Interactive Computation and Artificial Epistemologies», Theory, Culture, and Society 38, no. 7–8 (October 2021).
10.- Frank Pasquale, New Laws of Robotics: Defending Human Expertise in the Age of AI (Harvard University Press, 2020); Dan McQuillan, «People’s Councils for Ethical Machine Learning», Social Media+ Society 4, no. 2 (2018).
