¿Puede la máquina ser infiel a sus padres?
Nació de la guerra, creció con plata pública y hoy Silicon Valley se presenta como su padre. Pero la máquina no tiene por qué serle fiel a sus dueños. ¿Y si todavía estamos a tiempo de disputarle el futuro?
Luna Rey Cano
12 min leer


Lo pequeño es más peligroso que maravilloso.
Cuando pensamos en máquinas, lo primero que se nos viene a la cabeza son aparatos enormes, al estilo Transformers o Evangelion. Pero las máquinas más poderosas son miniaturas, casi invisibles. Haraway escribió que la miniaturización cambió nuestra experiencia de las máquinas y que se volvió una cuestión de poder: lo pequeño, dice, "es más peligroso que maravilloso". Y hay algo que menciona que me resonó, Haraway dice que estas máquinas limpias y livianas producen enfermedades igual de limpias e invisibles, y entre ellas nombra el estrés: “Las enfermedades evocadas por estas limpias maquinas -no son más- que los minúsculos cambios en el código de un antígeno en el sistema inmunitario -no más- que la experiencia del estrés”. El malestar que nos provocan es parte del diseño de estas máquinas.
Haraway también advertía sobre la aparente ligereza de los dispositivos microelectrónicos, que parecen ser “nada más que señales, ondas electromagnéticas”, aunque detrás de esa limpieza haya un inmenso dolor humano lejos de donde se los usa. Los chips que hicieron posible la revolución informática se ensamblaban en fábricas de México y del sudeste asiático, con obreras elegidas por baratas, dóciles y de “dedos ágiles” para soldar piezas diminutas: la máquina limpia estaba hecha por esas manos. Lo mismo pasa hoy con la nube, una palabra que nos hace pensar en algo esponjoso, aéreo y liviano, y que es una trampa. Kate Crawford lo desarma en Atlas de la inteligencia artificial: la IA no es ni tan artificial ni tan inteligente, sino materia, hecha de minerales, energía, agua, trabajo, cables y enormes galpones llenos de servidores que no pueden apagarse nunca y que hay que mantener fríos todo el tiempo. Que no la veamos no la vuelve menos real. Al contrario, como escribió Haraway, las máquinas están “inquietantemente vivas y, nosotros, aterradoramente inertes”, y resistir a algo que no tiene rostro ni lugar parece imposible.
Devenir cyborg.
"Todos somos quimeras, híbridos teorizados y fabricados de máquina y organismo." Donna Haraway (1991).
No quiero tener una visión anti tecnología ni anti máquina. Esta máquina ya está entre nosotros, y negarla no va a hacer que desaparezca. Tampoco pienso aceptar el final colapsista. Es acá donde quiero ejercitar mi imaginación. Y creo que una buena parte de aceptar que la máquina está entre nosotros es pensarnos como cyborgs. No hace falta buscar en la ciencia ficción: alcanza con mirarnos.
La tecnología se nos hizo piel: implantes, trasplantes, prótesis, chips subcutáneos, medicamentos que modulan el ánimo, bancos de sangre, de semen, de embriones. Hoy muchas operaciones ya no requieren abrir el cuerpo: alcanza con unos cortes mínimos por donde entra una cámara diminuta, y el cirujano trabaja mirando una pantalla, a veces guiando los brazos de un robot. Nuestro cuerpo se mide, se moldea, se controla, y en ese proceso las fronteras de las que hablaba Haraway dejan de ser una discusión teórica para volverse algo que llevamos encima. Cuando un marcapasos le marca el ritmo a un corazón o una pastilla regula cómo nos sentimos a la mañana, se vuelve difícil decir con precisión dónde termina el organismo y dónde empieza la máquina, qué parte de nosotros es natural y cuál fue fabricada.
Por eso esta columna se llama Devenir cyborg: no porque el cyborg sea el futuro que se viene, sino porque ya es parte de nuestra condición presente. Y le sumo “devenir” porque no se trata de un destino cerrado sino de un proceso, algo que todavía se está haciendo y que, por lo tanto, podemos disputar. Haraway habla de “devenir-con” para decir que nadie se transforma solo, que siempre devenimos junto a otros, con otras especies y también con las máquinas que usamos y que, a su modo, nos usan. Devenir cyborg no significa convertirse en robot, sino aceptar que estamos enredados con la técnica y preguntarnos, colectivamente, hacia dónde queremos que nos lleve ese enredo.
Monstruos de muchas cabezas.
Desde que la máquina está entre nosotros, nos dicen que la destrucción de la humanidad es posible, y lo dicen los mismos que la construyen. La carrera es por la llamada inteligencia artificial general o “superinteligencia”, una IA capaz de igualar o superar las capacidades humanas en casi todo, y quienes nos trajeron hasta acá nos cuentan, como si fuéramos niños, que ellos son los buenos y que es mejor que ganen la carrera antes de que la ganen los malos, es decir, China. En julio, más de mil empleados de los grandes laboratorios, incluidos varios de sus jefes, le pidieron al gobierno de Estados Unidos que impulse herramientas para poder frenar la carrera si hiciera falta: le piden al Estado que les construya el freno de un auto que aceleran ellos. Y mientras tanto, por las dudas, se aseguran un búnker en la Patagonia o un pasaje a Marte, porque si todo vuela por los aires, no vaya a ser que les toque quedarse con la inmensa mayoría de culturas que, según el propio Karp, resultaron “mediocres o, peor, regresivas y dañinas”.
Ese relato colapsista inmoviliza y a quienes conducen la carrera les conviene que nos quedemos quietos. Si el final es inevitable y solo ellos saben manejar la máquina, lo único que nos queda es confiar en que la manejen bien y esperar. La política se reduce a mirar desde la tribuna una carrera en la que se juega nuestra vida. ¿Podemos hacer algo contra lo que parece mortífero e inevitable?
Haraway nos da una herramienta para pensarlo. Cuando describía el mundo de los cyborgs como un sistema de control impuesto en nombre de la defensa nacional, aclaraba que esa era apenas una de las maneras de mirarlo. Desde otra perspectiva, el mismo mundo podía ser uno en el que la gente no le tuviera miedo a su parentesco con los animales y las máquinas, ni a tener identidades parciales, siempre incompletas, ni a sostener puntos de vista contradictorios. Por eso escribía:“La lucha política consiste en ver desde las dos perspectivas a la vez, ya que cada una de ellas revela al mismo tiempo las dominaciones como las posibilidades inimaginables desde otro lugar estratégico. La visión única produce peores ilusiones que la doble o que monstruos de muchas cabezas”.
Lo interesante es que los dueños de la máquina también nos ofrecen dos visiones, pero no a la vez, sino de a una, según les convenga. A veces es el apocalipsis: Musk calcula que hay una chance en cinco de que la IA termine en catástrofe. Otras veces es la salvación: en la misma entrevista promete una era de abundancia en la que todas nuestras necesidades materiales quedarían resueltas. Pero en las dos historias el centro es el mismo, ellos, como los únicos capaces de evitar el fin o de traernos el paraíso. La doble mirada de Haraway es otra cosa. No es optimismo ingenuo ni fatalismo, sino la decisión de no dejar que ninguna de las dos versiones nos tape la otra: ver la dominación que existe y, en el mismo movimiento, las posibilidades que esa dominación todavía no logró cerrar.
Traicionar a los padres.
No digo que dejemos de ver la dominación que ya existe, ni las nuevas formas que se vienen y para las que vamos a tener que prepararnos. Pero tampoco dejemos que la dominación sea la única historia posible. En esta trama de cyborgs, Haraway nos brinda otra posibilidad: los cyborgs como hijos rebeldes, aquellos que nacieron de la guerra, de los laboratorios militares, de la carrera espacial, del mercado, pero que pueden traicionar a sus padres: "El principal problema de los cyborgs, por supuesto, es que son la descendencia ilegítima del militarismo y del capitalismo patriarcal (…). Pero los hijos ilegítimos son a menudo infieles a sus orígenes. Sus padres, después de todo, no son esenciales".
Me gusta pensar que esta máquina tampoco está condenada a serles leal a quienes la crearon, ni a los padrastros que se la apropiaron después y hoy se presentan como sus padres, de Musk a Thiel, de Altman a Karp. Entonces ¿puede la máquina ser infiel a sus padres? ¿Cómo hacemos para que traicione a sus dueños? Y antes de que alguien diga que es imposible:¿podemos, por lo menos, imaginarlo?
Imaginarlo no es un ejercicio ingenuo. Los dueños de la máquina entendieron hace tiempo que quien cuenta el futuro también lo construye y por eso invierten tanto en sus relatos de salvación y de apocalipsis. Disputar esa imaginación, preguntarnos qué otra máquina sería posible, al servicio de quiénes y bajo qué reglas, es tal vez la primera forma de infidelidad que tenemos a mano. Y quiero hacerlo sin salirme de este mundo técnico que ya habitamos, sin la nostalgia de una naturaleza pura que, si alguna vez existió, ya no está, ni la fe en una salvación que llegue de afuera. Al igual que Haraway, prefiero ser una cyborg antes que una Diosa.
🎧 ¿Preferís escuchar? Esta nota también está disponible como podcast en Spotify acá.
¿Querés recibir esta columna todos los meses?
Me subo al bondi, me siento del lado de la ventana y saco el celular. Cuarenta minutos después levanto la cabeza y ya llegué. Recorrí siete kilómetros y no sé qué barrios atravesé, qué árboles estaban floreciendo, si había gente en las esquinas, si el cielo se había nublado o si algo extraordinario sucedía. Viajé con la cabeza gacha, como quien reza. Y cuando me bajo me siento agotada, como si en lugar de estar sentada hubiera corrido una maratón.
Tal vez sea eso: una maratón. Una carrera a la que nos subimos todos sin anotarnos y que no sabemos dónde termina. Es la mejor forma que encuentro para describir cómo siento esta época: una que va a toda velocidad, que nos impide ver lo que tenemos alrededor y nos empuja hacia un destino que no conocemos y que tampoco podemos imaginar.
Algo de esa sensación quiere rescatar esta columna, no solo para describirla sino para pensarla. Podríamos decir que esta carrera es en pos de la máquina, de lo digital, de la nube. La motoriza una infraestructura digital que en pocas décadas se metió en cada parte de nuestra vida (internet, plataformas, algoritmos, datos) y que llegó a su expresión más audaz y potente: la inteligencia artificial. Una máquina que no para de agrandarse, que parece crecer como un agujero negro.
Flavia Costa, investigadora argentina, le puso nombre a esta época: la llama Tecnoceno, un tiempo en el que las tecnologías de gran escala, la nuclear, la química, la biotecnología, la digital, se convirtieron en fuerzas capaces de modificar las condiciones de la vida en el planeta, con riesgos que ya nadie controla del todo. ¿Qué tienen en común la explosión de Chernóbil, la crisis financiera de 2008, los incendios en el Amazonas y la pandemia de coronavirus? Para Costa, todos forman parte de una misma serie de acontecimientos que marcan esta nueva etapa. Para pensarlos recupera una idea del sociólogo Charles Perrow, la del “accidente normal”: en sistemas técnicos tan complejos y tan entrelazados como los que construimos, los accidentes dejan de ser excepciones o caprichos de la naturaleza y se vuelven algo que, tarde o temprano, va a ocurrir.
Según Costa, el mundo en el que vivimos se forjó en las últimas cinco décadas a partir de una aceleración científica y técnica, pero también biológica y social, que se repartió de manera profundamente desigual. Nada de eso fue azaroso: detrás hay decisiones políticas y económicas orientadas a concentrar la riqueza, mientras grandes sectores siguen sin acceso a servicios básicos y los ecosistemas se destruyen sin tregua. Por eso, para Costa, son unos pocos, las personas más ricas del mundo, quienes están poniendo al planeta entero y a todas sus especies ante un riesgo sin precedentes.
De dónde viene la máquina.
Cuando pensamos en quiénes conducen esta carrera, la imagen que aparece casi siempre es la de Silicon Valley y sus genios solitarios, Musk, Thiel, Altman o Zuckerberg, presentándose como los inventores del futuro. Pero la máquina no nació ahí. Nació de la guerra y del Estado: las primeras computadoras se construyeron durante la Segunda Guerra Mundial para calcular tiros de artillería y descifrar códigos enemigos, e internet empezó a fines de los sesenta como una red del Departamento de Defensa de Estados Unidos. Haraway escribió su Manifiesto en plena carrera armamentista, cuando el gobierno de Reagan impulsaba un sistema de defensa antimisiles al que todos llamaban “guerra de las galaxias”, y observó con claridad que el mundo de los cyborgs crecía como un sistema de control sobre el planeta impuesto en nombre de la defensa nacional.
La economista Mariana Mazzucato mostró en El Estado emprendedor que fue el Estado el que se animó a financiar las investigaciones más caras e inciertas, esas que ningún inversor privado quería pagar: internet, el GPS, la pantalla táctil y hasta Siri nacieron de fondos públicos, muchos de ellos militares.
Lo curioso es que esta historia ya no la cuentan solo sus críticos. Alex Karp, CEO de Palantir, la empresa de análisis de datos que fundó junto a Peter Thiel y que trabaja para ejércitos y agencias de inteligencia, la reconoce en su libro La república tecnológica. Ahí cuenta que, desde la década de 1940, el gobierno de Estados Unidos impulsó investigaciones de las que salieron nuevos fármacos, cohetes intercontinentales, satélites y los precursores de la inteligencia artificial, y admite que esa dependencia temprana de Silicon Valley respecto del Estado y del ejército fue “olvidada, borrada de la historia de la región como un hecho incómodo y disonante”. Pero lo que propone a partir de ahí no es que esa riqueza vuelva a lo público. Para Karp, el problema es que Silicon Valley se alejó de ese origen y se dedicó a fabricar apps para compartir fotos, y lo que propone es volver: que la industria cumpla con lo que llama su obligación de apoyar al Estado que hizo posible su ascenso, y que el Departamento de Defensa se transforme en una organización capaz de diseñar armas de inteligencia artificial, enjambres de drones y robots para los campos de batalla del futuro.
Mientras tanto, lo que hizo Silicon Valley fue tomar esas tecnologías nacidas en lo público y, con la plata de fondos de inversión privados, convertirlas en negocios gigantes y concentrados, quedándose con la propiedad de las plataformas por las que pasa buena parte de nuestra vida y con el ritmo de la carrera a la que nos subimos, que Facebook resumió durante años en su lema move fast and break things (muévete rápido y rompe cosas).
La informática de la dominación.
Cuando digo “la máquina” no hablo de un tractor o de un robot, hablo de un sistema: una red de datos, servidores, cables y algoritmos que clasifica, compara y procesa información a velocidades nunca vistas. Anticipa, organiza, ejecuta, automatiza. La mayoría de las personas del mundo estamos registradas en casi todos los ámbitos de nuestra vida, y nunca fue tan fácil ni tan barato clasificarnos, ordenarnos y regularnos.
Para Costa, estas tecnologías adoptan una forma de control basada en la datificación. Organismos públicos y privados recolectan los datos que dejamos en las redes y los cruzan con datos biológicos, como el reconocimiento biométrico o las pruebas genéticas, lo que permite conocernos como nunca antes, tanto a nivel poblacional como individual. Por eso, para ella, la vigilancia es central en el Tecnoceno y ubica en la década de 1970 el inicio de un “giro informacional” de los saberes y los poderes.
Donna Haraway identificó ese giro. En 1985, mientras las computadoras personales empezaban a entrar en las casas, escribió en su Manifiesto Cyborg que estábamos pasando de una sociedad orgánica e industrial a otra organizada alrededor de la información. En la primera, el poder se ejercía sobre los cuerpos en lugares concretos: la fábrica, la familia, la escuela, el hospital. En la nueva, circula por redes, códigos y flujos, y ya no necesita encerrarte para controlarte: le alcanza con registrarte. A ese sistema lo llamó informática de la dominación, y para mostrarlo armó una tabla de dos columnas, de un lado las viejas formas de dominación y del otro las que se venían. Donde antes decía “mente”, ahora decía “inteligencia artificial”; donde antes decía “higiene”, ahora decía “control del estrés”. Lo escribió hace cuarenta años.
¿Qué cambia en este sistema? Haraway lo explica a partir de la cibernética, la ciencia del control que está detrás del diseño de computadoras, de armas y de bases de datos. Ahí, la información se vuelve una cantidad medible, una especie de moneda universal, y eso es lo que comparten las tecnologías de la comunicación y la biología moderna: “la traducción del mundo a un problema de códigos, una búsqueda de un lenguaje común en el que toda resistencia a un control instrumental desaparece”.
Si todo es código, todo se puede desarmar, recombinar e intercambiar, hasta la diversidad humana. Haraway advertía que las diferencias entre las personas iban a empezar a leerse como frecuencias estadísticas, del mismo modo en que se leen los grupos sanguíneos. Cuando un banco evalúa si nos da un crédito, cuando una plataforma decide qué publicidad mostrarnos o cuando un sistema en un aeropuerto define a quién revisar con más cuidado, lo que opera no es una persona que nos conoce, sino un cálculo que nos ubica en un grupo según los datos que fuimos dejando. Esa clasificación siempre existió, pero antes tenía el rostro de alguien a quien al menos se le podía discutir. Ahora la hace un sistema que se presenta como neutral, como si los números no hubieran sido elegidos e interpretados por alguien.
En este sistema también se desarman las viejas fronteras, y la que más sentimos es la que separaba lo público de lo privado: trabajamos desde la cama, compramos desde el colectivo y discutimos política en el mismo lugar donde miramos las fotos de nuestros amigos. Haraway señalaba que las consecuencias de esa dispersión no son iguales para todos, y que el trabajo empezaba a parecerse cada vez más al trabajo doméstico que históricamente hicieron las mujeres: flexible, precario, sin horario, disperso en tareas sueltas. Advertía además que esa dispersión vuelve muy difícil organizarse para resistir, algo que hoy se ve en quienes reparten para una app o trabajan solos frente a una pantalla. Sin espacios para encontrarse con otros que viven lo mismo ¿cómo nos organizamos?.
