Palabras máquina, máquinas de palabras. Trabajo mental en subsuelo de la IA

Isabel Fargo Cole

Aus dem Deutschen von Rike Bolte

... estas personas llamadas trabajadores, producían máquinas para fabricar piezas de máquinas, a partir de las cuales se ensamblarían máquinas para fabricar máquinas ... cuando traduje esta frase en 2023, fue como si esta siguiera escribiéndose en el ahora. El ensayo Die Arbeiter. Ein Essay, escrito por Wolfgang Hilbig en1982, me había asaltado, desprevenida. [...] De manera reiterada, Hilbig desenmascara las estructuras de poder de las empresas estatales: el cerebro,  el cuerpo ingenieril, representa lo superior y hasta posee el monopolio sobre la formación del lenguaje. De esto resulta:

una lucha entre el lenguaje de los ingenieros y el silencio de los trabajadores. La lucha consiste en que hay una resistencia que llena el silencio de los trabajadores con el material lingüístico de los ingenieros [...]. [E]l rechazo de este lenguaje, el desarrollo de un lenguaje propio, rechazaría simultáneamente el estatus de los trabajadores.

Incluso en el socialismo realmente existente, las relaciones están determinadas por el dinero:  

[Pilas de palabras mercancía, por las que se pagó, palabras máquina, piezas de recambio de palabras a partir de las cuales se ensamblan palabras máquina, máquinas de palabras [...] el desgaste avanza de manera incontenible, y no hay otras palabras que éstas.

Hace veinte años, esas imágenes para mí eran simplemente metáforas. En mi función de productora de textos, aún estaba lejos de considerarme un modelo obsoleto. No me había percatado de que una máquina no tiene por qué escribir o traducir como un ser humano para poder sustituir a los humanos –simplemente siguiendo la lógica del mercado. Ni que el mercado podría desplegar para ello su propio lenguaje, convincente por su pura superioridad: los Large Language Models con su biblioteca de millones y millones de páginas de libros scrapeados (entre ellas, dos obras de Hilbig en traducción mía) con su estocástica, operada por innumerables Server-Farms, que va extrayendo frases de ellas.

           Palabras máquina, máquinas de palabras: también estas metáforas en 2023 han alcanzado la realidad. Nuestro silencio se llenará del material lingüístico de los ingenieros, de mercancía de palabras que, entretanto, simulan ser humanas: “inteligencia artificial”, “redes neuronales”. [...] La gente no se cansa de afirmar que el trabajador humano, el traductor por ejemplo, en cualquier caso se mantendrá in the loop, léase:  como un operador y un colaborador de las máquinas. Es decir, se vería  liberado del trabajo tosco, transferido a las esferas de los ingenieros. Y que en  el mercado desenfrenado, la desaparición del trabajo de traducción tradicional sería compensada con la multiplicación por diez de los trabajos de postedición, y que desesperadamente se buscaría mano de obra cualificada. Sin embargo, y siguiendo la misma lógica progresista, ya se tiende a dejar en manos de la IA la contabilización e incluso el control de calidad. ¿Por qué oponerse? Hoy, los bots escriben libros que inundan Amazon para ser “leídos” por millones de otros bots. Hoy, la pregunta que Italo Calvino planteó hace más de 50 años en su ensayo “Cibernética y fantasmas” parecería recibir una respuesta: [¿T]endremos [...] una máquina que sea  capaz de sustituir al poeta y al escritor?

No olvidemos lo que Calvino añadió, de manera lapidaria: [N]o valdría la pena [...] construir una máquina tan complicada. Ni que la imagen de un ciclo totalmente automatizado representa  una construcción artificial y desmiente el hecho de que las frases no continúan escribiéndose por sí mismas:  más que nunca, la gente ha caído en sus loops.

[...]

El "turco ajedrez": así fue llamado el tristemente célebre "autómata de ajedrez" del siglo XVIII, que en realidad fue manejado por un jugador de baja estatura que se encontraba embutido en él.  Este tipo de simulaciones de lo posthumano suele recibir el nombre de "inteligencia artificial artificial". Detrás de las actuaciones orquestales del Big Tech se esconde toda una economía subterránea de ghost workers. Hay millones de microempleos digitales, distribuidos por todo el mundo a través de plataformas de crowdsourcing como la de mturk.com, que debe su nombre al “mechanical turk”. Desde hace años, los clickworkers de países con mano de obra barata se encargan de limpiar nuestras redes de contenidos que atentan contra lo humano. También se ha desterrado hacia  Kenia el proceso de etiqueteo de datos de entrenamiento "tóxicos" de ChatGPT; decenas de miles de descripciones de asesinatos, torturas y violaciones han sido evaluadas sobre un salario de uno a tres euros por hora. A la vez, los medios estadounidenses han informado en detalle sobre el cotidiano laboral de un creciente precariado en home office: $ 14 la hora por hablar todo el día con ChatGPT; $ 45 por enseñarle jurisprudencia a los bots, $ 25 por enseñarles poesía. Los ingenieros de la IA compran ejemplos de diálogos socráticos (300 $/unidad) o "versos sin sentido de humor negro sobre peces dorados" (15 $/unidad). Así es como se a armando el alignment, la adaptación de la IA a la mente humana, en un trabajo a destajo, un trabajo mata cerebros. 

[...] El titubeo que experimento en la escritura  ante la primera frase, desde principios de 2023 se cargó de un temor absurdo: el temor a ser criticada por la máquina. La máquina critica la vacilación, la inhibición, porque supuestamente sabe más. Y hasta critica el “tumulto de palabras y frases” más desenfrenado –porque supuestamente es mejor en ello.

Otro temor también absurdo: que  la crítica expresada por la “inteligencia artificial” con todo su ser, fuera contrarrestada solamente a medias por el gremio de la inteligencia. ¿Será porque, apresuradamente, se ha declarado pasada de moda? ¿Acaso ya hemos deconstruido nuestros procesos de pensamiento de manera tan convincente? ¿Hemos deconstruido ya nuestro trabajo mental de forma tan convincente, lo hemos dividido en pasos y lo hemos reagrupado en nuevos work flows que resulta fácil renunciar a la responsabilidad de los ciclos que se han vuelto monótonos? ¿Hacemos todo esto por humildad, por solidaridad con quienes trabajan a destajo? ¿O más bien por arrogancia? Porque la “intelligentsia artificial” no representa únicamente a los informáticos y desarrolladores  a quienes se refería Joseph Weizenbaum en 1976: nosotros la somos. ¿No hemos afirmado y promovido desde hace tiempo ya el giro hacia lo abstracto, lo simulado, lo digital, creyéndonos en el papel de ingenieros? (Ingenieros del alma humana...)

Nos olvidamos de los proletarios cuyo destino –el trabajo en cadena o el despido– ahora amenaza con caérsenos encima también a nosotros. Las naves industriales que desterramos a lugares lejanos del mundo, de repente se han reconstruido en nuestro propio alrededor. ¡Escritores a las fábricas! Para poder estar finalmente codo con codo con los trabajadores, descendemos a los subsuelos de la industria de la conciencia, dejando atrás pisos vacíos y zumbantes.

[...]

¿Pero quizás, una vez tocado fondo, podamos hallar una salida de estos circuitos tan    clínicamente limpios? ¿Seremos capaces de ponernos en los zapatos del fogonero, cuyo trabajo, según Hilbig, es “Gedankenarbeit”, trabajo mental,  de pensamiento? El no asignado, despreciado y desconfiado incluso por los demás trabajadores, ve todo el edificio que se eleva sobre él como a través de un techo de cristal, no como el abstracto liso que conjuran los ingenieros, sino con todas las corrientes intermitentes de energía, todos los conflictos latentes, los  desechos, las desgracias.

Todo esto pesa sobre el lenguaje del fogonero, inhibe su pensamiento y al mismo tiempo se burla de su inhibición. Pero es precisamente en esta inhibición en la que emerge el propio punto de vista. El  "titubeo ante la primera frase" significa también el rechazo a ejecutar un impulso de manera automática, a dejar que un pensamiento salga rodando de la cinta transportadora.

En medio del organismo de este mundo, de este tiempo, el único lenguaje humano debe hacerse exclusivamente de frases inacabadas. La  libertad de encontrar un final que sea tuyo no puede concederte ningún orden, por feliz que sea, y ya en la mañana  te tienes que rebelar contra el lenguaje e  sus intentos de despachar lo que te afecta...

Las frases del fogonero nunca llegan a su fin: incluso cuando se acaban, se conectan subterráneamente a lo largo de toda su obra. [...] Una cosa caracteriza el lenguaje [...] de los ingenieros: Fluye a las maravillas.  Toma el camino de la menor resistencia.  Reboninándose a si mismo, siempre da con palabras y, por tanto, no encuentra  fin. El fogonero, en cambio, no encuentra, busca, atraviesa el muro con la cabeza hasta llegar al laberinto. Es en el deambular donde se crean los espacios en los que el “yo” logra moverse, donde el lenguaje propio logra mostrarse. Esto implica poner el cuerpo, “con todos mis sentidos”, mediante esfuerzos que hacen posible que  la fuerza y el tiempo de la vida se sientan, se experimenten. [...] Es justamente en la ascensión de Sísifo que el Yo no puede ser disuadido, que  la cuestión acerca de cuáles esfuerzos merecerían  la pena carece de sentido, ya que sin los esfuerzos, el Yo no existiría. Pretender deshacerse de ellos, deshacerse del mundo, significaría deshacerse del mundo que sólo el Yo es capaz de palpar. Para volverlas lenguaje, primero debe sentir su pesadez, la resistencia de la realidad física, su mutismo. Frente a las máquinas de palabras abstractas, el Yo cree tartamudear, enmudecer: tan apegado está su lenguaje a las cosas. Tanto es así que la materia desarrolla su propio lenguaje:

[S]on las cenizas que han escrito con su letra uniforme e ilegible sobre mis papeles. [...] Las cosas se describen a sí mismas en el hundimiento de las cenizas que las cubren, en el alisamiento de su rabia y en el paso del odio a la melancolía ...

El fogonero transfiere este lenguaje, una obra que nunca podrá concluirse; la materia a las palabras, las  palabras a la materia, al combustible, al fuego, a las cenizas, a la nieve, al silencio, a las palabras ...

[U]na nevada de letras que descendía como el humo de un incendio ... como si una inmensa biblioteca hubiera volado por los aires. [...]

 También el tenía que añadir nuevas líneas al torrente interminable... tenía que aumentar todas esas palabras y sílabas sacadas del carbón, tenía que avivarlas una vez más y exponerlas al fuego del tiempo, para que se convirtieran aún más pronto en grises cenizas.

En el archipiélago malayo, en la sala de calderas de la central eléctrica de una Server-Farm, un fogonero se sienta y duda antes de la primera frase. Una trabajadora fantasma se levanta de su ordenador, el último lote de palabras ya se ha quemado, y en el silencio se van formando su propios pensamientos. La pregunta del  Muss se responde afirmativamente. Y también en el sótano se siente un espacio que va más allá de la biblioteca de datos. Entra volando un faisán. El fogonero conoce las entradas y las salidas, desplazadas: el agujero de la mina a cielo abierto y la chimenea. Sabemos que toda la vida es un olor prestado del cielo, y cuando calentamos, volvemos a evocarlo.

---

Isabel Fargo Cole, nacida en 1973 en Estados Unidos, vive desde 1995 en Berlín, donde trabaja como escritora y traductora del alemán, entre otros, de Annemarie Schwarzenbach, Wolfgang Hilbig, Franz Fühmann y Adalbert Stifter. Su primera novela, Die grüne Grenze (Edition Nautilus, 2017), fue nominada al Premio de la Feria del Libro de Leipzig 2018. A esta le siguieron la novela Das Gift der Biene (Edition Nautilus, 2019) y el ensayo largo Die Goldküste. Eine Irrfahrt (Matthes und Seitz, 2022). En 2023 fue galardonada con el Premio de Literatura de la Fundación Cultural A und A por su obra en prosa. Cole es también la impulsora del proyecto www.waldschaffen.de y del tertulia TechMündigkeit für Wortmenschen. Foto: Dirk Skiba