Fuente: The Guardian – Autor: Ben Tarnoff – Septiembre 2019
Las grandes empresas tecnológicas afirman que la Inteligencia Artificial (IA) y la digitalización traerán un futuro mejor. Pero poner computadoras en todas partes es malo para las personas y el planeta
Nuestro entorno construido se está convirtiendo en un gran ordenador. La "inteligencia" está llegando a saturar nuestras tiendas, lugares de trabajo, hogares y ciudades. A medida que avanzamos en nuestra vida cotidiana, los datos se elaboran, se almacenan, se analizan y se utilizan para hacer inferencias algorítmicas sobre nosotros que, a su vez, estructuran nuestra experiencia del mundo. La computación nos rodea como una capa, densa e interconectada. Si nuestros padres y nuestros abuelos vivían con los ordenadores, nosotros vivimos dentro de ellos.
Un coro cada vez más numeroso de activistas, periodistas y académicos llama la atención sobre los peligros del encierro digital. Los empresarios utilizan herramientas algorítmicas para vigilar y controlar a los trabajadores. La policía utiliza herramientas algorítmicas para vigilar y controlar a las comunidades de color. Y no faltan posibilidades distópicas en el horizonte: propietarios que desalojan a sus inquilinos con "cerraduras inteligentes", aseguradoras que cobran primas más altas porque tu Fitbit dice que no haces suficiente ejercicio.
Pero la digitalización no sólo supone un riesgo para las personas. También supone un riesgo para el planeta. El 2020 ha sido el más caluroso de la historia empatando al año 2016. Grandes partes del Ártico se están derritiendo. En la India, más de 500 millones de personas sufren escasez de agua. Llevar la informática a todas partes contribuye directamente a esta crisis. La digitalización es una catástrofe climática: si las empresas y los gobiernos consiguen convertir una parte mucho mayor de nuestro mundo en datos, nos quedará menos mundo para vivir.
Para entender la relación entre los datos y el clima, el mejor lugar para empezar es el aprendizaje automatizado (Machine Learning o ML). Se invierten miles de millones de dólares en la investigación, el desarrollo y la implantación del ML porque los grandes avances de la última década lo han convertido en una poderosa herramienta de reconocimiento de patrones, ya sea para analizar rostros o para predecir las preferencias de los consumidores. El Machine Learning "aprende" entrenando con grandes cantidades de datos. Los ordenadores son estúpidos: los bebés saben lo que es una cara en los primeros meses de vida. Para que un ordenador sepa lo que es una cara, debe aprender mirando millones de imágenes de caras.
Se trata de un proceso exigente. Tiene lugar dentro de los centros de datos (data centers) que llamamos la nube, y gran parte de la electricidad que alimenta la nube se genera quemando combustibles fósiles. Como resultado, el Machine Learning tiene una gran huella de carbono. En un artículo reciente que ha causado sensación en la comunidad de la inteligencia artificial, un equipo de la Universidad de Massachusetts, Amherst, descubrió que el entrenamiento de un modelo de procesamiento del lenguaje natural - el campo que ayuda a los "asistentes virtuales" como Alexa a entender lo que se dice - puede emitir hasta 626.155 libras (284 toneladas métricas) de dióxido de carbono. Eso es más o menos la misma cantidad producida por un vuelo de ida y vuelta entre Nueva York y Pekín 125 veces.
La formación de modelos no es la única forma en que Machine Learning contribuye al calentamiento de nuestro planeta. También ha estimulado un hambre de datos que es probablemente el mayor impulsor de la digitalización de todo. Las empresas y los gobiernos tienen ahora un incentivo para adquirir tantos datos como sea posible, porque esos datos, con la ayuda del Machine Learning, podrían arrojar patrones valiosos. Podría indicarles a quién despedir, a quién detener, cuándo realizar el mantenimiento de una máquina o cómo promocionar un nuevo producto.
Una de las mejores maneras de obtener más datos es poner pequeños ordenadores conectados en todas partes: Cisco predice que habrá 28.500 millones de dispositivos conectados en red en 2022. Aparte de la energía necesaria para fabricar y mantener esos dispositivos, los datos que produzcan vivirán en la nube, que consume mucho carbono. Los centros de datos consumen actualmente 200 teravatios hora al año, más o menos la misma cantidad que Sudáfrica. Anders Andrae, un investigador muy citado de Huawei, me dice que es probable que esa cifra se multiplique por 4 o 5 para 2030. Esto pondría a la nube a la altura de Japón, el cuarto mayor consumidor de energía del planeta.
¿Qué se puede hacer para frenar los costes de carbono de los datos? Greenpeace lleva mucho tiempo presionando a los proveedores de la nube para que cambien a fuentes de energía renovables y mejoren la eficiencia. Estos esfuerzos han tenido cierto éxito: el uso de energías renovables por parte de los centros de datos ha crecido sustancialmente. Mientras tanto, el aumento de la eficiencia gracias a mejores técnicas y mayores economías de escala ha moderado el consumo energético de la nube en los últimos años. En lo que respecta a la inteligencia artificial, un grupo de investigadores reclama un enfoque más consciente de la energía, al que llaman "Inteligencia Artificial verde". Son tendencias alentadoras, y es probable que los propios trabajadores de la tecnología desempeñen un papel clave en su avance: Los empleados de Amazon llevan organizando un plan climático desde finales del año pasado, y organizaron un paro mundial para el 20 de septiembre. Entre sus reivindicaciones está la de que la empresa se comprometa a no producir emisiones para 2030 y deje de vender servicios en la nube a empresas de combustibles fósiles.
Pero está claro que para hacer frente a la crisis climática hará falta algo más radical que hacer que los datos sean más verdes. Por eso deberíamos poner sobre la mesa otra táctica: hacer menos datos. Deberíamos rechazar la suposición de que nuestro entorno construido debe convertirse en un gran ordenador. Deberíamos erigir barreras contra la propagación de la "inteligencia" en todos los espacios de nuestra vida.
Para descarbonizar, debemos descomputerizar.
Sin duda, esta propuesta será recibida con acusaciones de ludismo. Bien: El ludismo es una etiqueta que hay que abrazar. Los luditas eran figuras heroicas y agudos pensadores tecnológicos. Destrozaron la maquinaria textil en la Inglaterra del siglo XIX porque tenían la capacidad de percibir la tecnología "en tiempo presente", en palabras del historiador David F Noble. No esperaron pacientemente el futuro glorioso prometido por el evangelio del progreso. Vieron lo que ciertas máquinas les hacían en tiempo presente - poniendo en peligro sus medios de vida - y las desmantelaron.
A menudo se nos vende una factura similar: las grandes empresas tecnológicas hablan incesantemente de que la "Inteligencia Artificial" y la digitalización traerán un futuro mejor. Sin embargo, en el tiempo presente, poner ordenadores en todas partes es malo para la mayoría de la gente. Permite a los anunciantes, a los empresarios y a la policía ejercer un mayor control sobre nosotros, además de contribuir a calentar el planeta.
Afortunadamente, hay luditas de los últimos tiempos que trabajan para frenar la marea. Grupos comunitarios como la Coalición para Detener el Espionaje de la Policía de Los Ángeles se están organizando para acabar con los programas policiales algorítmicos. Una creciente campaña para prohibir el uso de software de reconocimiento facial por parte del gobierno ha obtenido importantes victorias en San Francisco y Somerville (Massachusetts), mientras que los trabajadores de Amazon están pidiendo que la empresa deje de vender este tipo de software a las fuerzas del orden. Y en las calles de Hong Kong, los manifestantes están desarrollando técnicas para evadir la mirada algorítmica, utilizando láseres para confundir las cámaras de reconocimiento facial y cortando postes de luz "inteligentes" equipados con dispositivos de vigilancia.
Éstas son sólo algunas posibles fuentes de inspiración para un movimiento más amplio de descomputerización, que persiga simultáneamente objetivos sociales y ecológicos. La premisa del Green New Deal es que podemos hacer que la sociedad sea más verde y más equitativa al mismo tiempo, que podemos democratizar mientras descarbonizamos. Deberíamos aplicar la misma lógica a nuestra esfera digital. Impedir que un departamento de policía local construya un panóptico impulsado por el ML es una cuestión de justicia algorítmica, social y climática. Como se decía en los años 60: una lucha, muchos frentes.
Sin embargo, para que esta lucha tenga éxito, no basta con la resistencia. También necesitamos una visión del futuro que queremos. De nuevo, la historia de los luditas puede ser útil. En 1812, un grupo de luditas de Yorkshire envió una carta al propietario de una fábrica en la que prometían seguir actuando hasta que "la Cámara de los Comunes apruebe una ley para acabar con todas las maquinarias que perjudiquen a la comunidad". Siguiendo su ejemplo, podríamos derivar un sencillo principio ludita para democratizar la tecnología: debemos destruir la maquinaria perjudicial para el bien común y construir maquinaria útil para él.
¿Qué significa esto en la práctica? Es difícil pensar en algo más perjudicial para nuestra vida común que calentar grandes partes del planeta más allá de los niveles habitables. Los defensores de la privacidad llevan mucho tiempo pidiendo que las empresas restrinjan su recopilación de datos al mínimo necesario para prestar un servicio, un principio ahora consagrado en el GDPR, el reglamento general de datos de la UE. Un ludismo del siglo XXI debería adoptar este principio pero ir más allá. Lo que importa no es sólo la cantidad de datos que recoge un servicio, sino la huella que ese servicio deja en el mundo y, por lo tanto, si debe realizarse.
La descomputarización no significa que no haya ordenadores. Significa que no todas las esferas de la vida deben ser convertidas en datos y computadas. La "inteligencia" omnipresente sirve en gran medida para enriquecer y dar poder a unos pocos a expensas de la mayoría, al tiempo que inflige un daño ecológico que amenazará la supervivencia y el florecimiento de miles de millones de personas.
Precisamente qué actividades computacionales deberían preservarse en un mundo menos informatizado es una cuestión que deben decidir esos miles de millones de personas. La cuestión de si una determinada máquina perjudica o ayuda al bien común sólo puede ser respondida por los involucrados. Sólo puede ser respondida colectivamente, a través del experimento y la discusión en democracia.
La mancomunidad de carbono cero del futuro debe capacitar a la gente para decidir no sólo cómo se construyen e implementan las tecnologías, sino si se construyen e implementan. El progreso es una abstracción que ha hecho mucho daño a lo largo de los siglos. El ludismo nos insta a considerar: ¿progreso hacia qué y progreso para quién? A veces una tecnología no debería existir. A veces lo mejor que se puede hacer con una máquina es romperla.