Un ‘centauro’, en la teoría de la automatización, es una persona asistida por una máquina, y un ‘centauro inverso’, héroe del nuevo libro de Cory Doctorow, La guía del centauro inverso para la vida después de la inteligencia artificial, es un ‘humano que es conscripto para actuar como asistente a una máquina’. Cada trabajador de almacén que alguna vez tuvo que orinar en una botella de agua porque de otra manera no podía cumplir con los objetivos de cumplimiento establecidos por un algoritmo es un centauro inverso. Mirando hacia el futuro, cada persona que tenga que sentarse en un camión autónomo para asegurarse de que no se estrelle, presumiblemente con un salario mínimo en lugar de un salario de conductor de camión, es un centauro inverso; al igual que cada abogado que ya no gana dinero de abogado verificando el dominio de Gemini sobre los precedentes, cada banda independiente que apenas sobrevive haciendo versiones de éxitos generados por IA, y así sucesivamente. Esa, de todos modos, es la promesa: la IA está llegando por tu trabajo, y está llegando por el trabajo de tus hijos, y no tiene sentido luchar contra ella porque el futuro ya está aquí.
Borrando el mundo del trabajo, y con ello nuestra capacidad de sostenernos y vivir vidas autónomas, es solo el comienzo, si se escucha a los arquitectos de la IA. Elon Musk lo ha llamado la mayor amenaza para la civilización humana, Sam Altman ha dicho que ‘probablemente llevará al fin del mundo’ y Dario Amodei, CEO de Anthropic, predijo memorablemente que la IA nos vería como nosotros vemos a los animales: lindos para tener alrededor pero en última instancia un recurso a explotar. ‘La gente de la IA afirma que están a punto de crear a Dios, enseñando palabras a un programa adivinador de palabras’, dice Doctorow. ‘Es grandioso’.
Doctorow irrumpe en nuestra conversación por videollamada como si ya lleváramos dos horas, su entrega pícara y urgente. No está contento con su nueva cámara de IA, que ‘supuestamente sigue tu rostro y luego no lo hace, y simplemente señala en direcciones arbitrarias. Quiero decir, aquí es donde mi cámara cree que está mi rostro’, dice, y de hecho, no está ni cerca de su rostro. ‘Gracias, cámara. Me alegra estar usando pantalones.’
La IA no puede y nunca nos dejará obsoletos, dice Doctorow. ‘Es un truco de magia. Esa es probablemente la cosa más importante que hay que entender’. Se ha inventado una máquina que es realmente buena para construir frases prediciendo qué palabra vendrá a continuación, y le otorgamos significado, perspicacia, omnipotencia. ‘Pero le estamos imputando intencionalidad a esta cosa que no tiene intenciones. No es porque, objetivamente, parezca intencional, sino porque, en un estado de naturaleza, no encontramos frases que no tengan escritores de frases, no encontramos imágenes que no tengan pintores, y así sucesivamente’. Nos maravillamos cuando hace las cosas bien, y convenientemente ignoramos lo que falla, o indulgamos en sus ‘alucinaciones’, que es simplemente una palabra elegante para ‘errores’.
‘Donde creo que la palabra ‘alucinación’ es útil’, dice, ‘no es para describir lo que está haciendo la IA, sino lo que hacemos nosotros cuando encontramos una ensalada de palabras, e imputamos un escritor a la ensalada de palabras’. Si crees que la IA puede volverse consciente, sugiere, es porque has olvidado qué es la conciencia.
Pero eso no significa que no haya una amenaza. Esta tecnología puede causar estragos globales absolutamente; simplemente será de un tipo muy anticuado. Se ha invertido una cantidad enorme en IA. ‘Cuando escribí este libro [el año pasado], era una burbuja de 700 mil millones de dólares. Ahora es una burbuja de 1,4 billones de dólares. Lo único peor que una burbuja de 1,4 billones de dólares es una burbuja de 2,4 billones de dólares, hacia la cual nos dirigimos’, dice. Nueve empresas tecnológicas en EE. UU. representan el 35% de toda su valoración bursátil, lo que se ilustró bastante claramente cuando la guerra en Irán tuvo un mayor impacto en los mercados de valores europeos y asiáticos que en los estadounidenses: ‘estaban ‘aislados’ por la dominancia del sector tecnológico, dijeron las personas en ese momento’.
Pero podría no ser la palabra correcta. Doctorow describe ‘dos polos en la ley financiera. Uno es la Ley de Stein: cualquier cosa que no pueda seguir adelante eventualmente se detiene. Y el otro es Keynes: el mercado puede permanecer irracional más tiempo del que tú puedes permanecer solvente. Así que es difícil predecir cuándo van a estallar las burbujas. Pero es fácil predecir que las burbujas estallarán’.
Doctorow, de 54 años, se encuentra en Los Ángeles; divide su tiempo entre allí y Londres (su esposa británica, Alice Taylor, dirige el Laboratorio Creativo de IA de la BBC, lo cual no es irónico, pero nos llevaría mucho tiempo explicar por qué no lo es). Llamó la atención masiva como escritor de tecnología con su libro Enshittification: Por qué todo empeoró repentinamente y qué hacer al respecto; es difícil creer que fue publicado solo el año pasado, e imposible recordar qué hicimos sin esa palabra. Ahora, la gente usa ‘enshittification’ para todo, desde la degradación de los servicios públicos después de la austeridad hasta eventos de caos relacionados con la crisis climática, cuando de hecho la propuesta de Doctorow tenía un uso bastante específico con respecto a la tecnología: las plataformas gigantes te encierran y luego empeoran tu experiencia a propósito. ‘No estoy frustrado por eso en absoluto. Creo que es glorioso. Mis dos primeros idiomas son inglés y yidis, idiomas que no tienen academias de idiomas, donde los diccionarios son descriptivos, no prescriptivos, donde las palabras cambian de significado’.
Es canadiense, su vida temprana salpicada de signos de un espíritu independiente y una mente curiosa por la tecnología: abandonó la escuela secundaria y se graduó de Seed, una escuela ‘alternativa’ en Toronto; pasó tiempo en los años 00 creando OpenCola, una compañía de software peer-to-peer gratuita, luego editando Boing Boing, que fue muy popular durante un tiempo como un punto de reunión en línea para discutir tecnología, futurismo y la izquierda. Tiene un doctorado honorario en ciencias de la computación de la Open University, ha tenido numerosas residencias académicas y es profesor honorario en la Universidad de Cornell.
Junto con sus escritos de no ficción, es un prolífico escritor de ciencia ficción, tres veces ganador del premio Prometheus (por las novelas juveniles Little Brother, Pirate Cinema y Homeland). Escribe novelas gráficas, es autor de un libro ilustrado para niños que lleva el nombre de su hija, Poesy, que ahora tiene 18 años, y publica un boletín casi a diario. Me pregunto si es despectivo con la toma de control de la IA porque encuentra que escribir, crear y comunicarse es tan sencillo que tal vez no se da cuenta de que para muchas personas es como sacarse una muela, y desearían que una máquina lo hiciera. Absolutamente no, dice, pero más importante que todas las cosas que la IA no puede hacer, y nunca podrá hacer, desde operaciones de centros de llamadas hasta radiología, es comprender la motivación detrás de todas las afirmaciones febriles a favor de ella.
¿Por qué, se pregunta, los asignadores de capital están asignando tanto capital a esto? Es por una promesa tan antigua como el telar: que los jefes podrán reemplazar a sus trabajadores con máquinas. Esto no se trata solo de dinero, a menudo, cuando la máquina finalmente no es tan buena como un humano, o necesita tanta supervisión de un humano que se vuelve más costosa, todavía hay un tremendo apetito por la automatización.
‘Lo último que un jefe quiere es la co-determinación. Los jefes son perseguidos por el conocimiento de que aunque fantasean con que conducen el coche, si no se presentan, todo sigue funcionando. Mientras que si los trabajadores no se presentan, todo se detiene. Y tal vez están en el asiento trasero con un volante de juguete. La IA es la promesa de cablear ese volante de juguete directamente al tren motriz del coche. Son productos sin diseñadores de productos. Lugares de trabajo sin trabajadores, guiones sin guionistas, cine sin actores, hospitales sin médicos y enfermeras. Esta es la promesa.’
Una vez que se hace esa promesa, por supuesto, alimenta una inseguridad en la fuerza laboral, porque si todos realmente fuéramos obsoletos, eso sería bastante importante, y ya podemos ver indicios en nuestras cifras de desempleo juvenil y nuestras cajas de autoservicio. Pero luego nos convertimos en nuestro propio (segundo) peor enemigo, debido a lo que Doctorow, citando a Lee Vinsel de Virginia Tech, llama ‘criti-hype’ – una crítica que se alimenta y alimenta la exageración, y hace los escenarios apocalípticos más plausibles. Esto puede no haber sido más pronunciado nunca: los ministros de gobierno han hablado abiertamente sobre todo el tiempo y dinero que ahorrarán una vez que las tareas rutinarias estén automatizadas.
‘¿No recuerdan cuando decían que la criptomoneda reemplazaría todos los sistemas financieros del mundo? Nos dijeron que el metaverso sería lo predeterminado, que no tendríamos turismo ni sexo’, dice Doctorow, con indignación de vodevil. ¡Tenemos una tan pobre permanencia de objetos!’
Otra crítica poderosa de la IA, la periodista Karen Hao, ha argumentado que cuando se hacen afirmaciones apocalípticas sobre la IA, a menudo hay una amenaza velada detrás: ‘Déjennos experimentar como queramos, tener nuestros centros de datos, porque de lo contrario las empresas chinas llegarán primero’. Doctorow está de acuerdo. ‘No quieres un Dios confuciano. Quieres un Dios del Antiguo Testamento. Diferente castigo’. Esencialmente, aunque piensa que las grandes palabras tienen una motivación más simple: cualquier cosa para mantener fluyendo la inversión.
Cada vez que un ejercicio de automatización falla y es abandonado – tal vez recuerden las tiendas de comestibles sin personal de Amazon, que en realidad requerían que tres personas estuvieran constantemente observando a cada comprador en CCTV y adivinando qué estaban poniendo en sus cestas – nunca afecta la confianza de los abanderados de la IA de que se están acelerando hacia un mundo posobrero; ni, hasta ahora, el entusiasmo de los inversores. Se ha llegado al punto en que es más importante mantener a flote la narrativa que considerar si es realista.
‘No tienes que creer que una crema facial hará que las mujeres parezcan más jóvenes para creer que habrá mujeres que comprarán una crema facial comercializada para que parezcan más jóvenes. No tiene que funcionar. ¿Los inversores invierten en la crema facial porque creen que la crema facial funciona? Lo que estoy diciendo es tal vez están invirtiendo en la crema facial porque están familiarizados con el patriarcado’.
El problema es que la gente puede ver IA a su alrededor, funcionando mejor hoy que ayer – produciendo más puré de IA convincente, respondiendo a sus problemas personales, convirtiendo a mujeres completamente vestidas en desnudas, analizando poesía del siglo XVIII. Parece que puede hacer cualquier cosa, pero nada de eso es la base material para la inversión. ‘Creo que es muy importante ser crítico con cosas como Grok AI de Elon Musk que permiten a los usuarios producir pornografía infantil [en enero, se descubrió que Grok AI de Musk era capaz de generar imágenes sexualizadas no consentidas de personas, incluidos niños, y xAI estaba implementando ‘medidas tecnológicas’ para restringir la capacidad de Grok de desnudar a las personas en fotos]. Pero no podemos pretender que haya alguien que invirtió en su compañía de IA, que miró el prospecto y dijo: ‘Veo que tienes un ítem aquí para los ingresos esperados por pornografía infantil – eso es genial, por eso estoy aquí’.’ En otras palabras, adelante y prohíban la pornografía infantil – ‘deberíamos hacerlo de todos modos’ – pero nadie va a sacar su dinero. ‘Si queremos realmente abordar el daño que Musk está haciendo, debemos hacer que sus inversores piensen que no puede ganar dinero’.
Fundamentalmente, esta es un análisis marxista, sugiero: que el trabajo y el capital están elementalmente en desacuerdo, y este último explotará al primero incluso si todo valor se pierde en el proceso. ‘No necesariamente estoy en desacuerdo, pero ese no es el argumento que estoy haciendo. El argumento que estoy haciendo es que los jefes resienten y trabajan incansablemente para poner fin a la co-determinación como clase’. Pero es lo mismo, insisto, y él encoge los hombros, como si dijera: podemos discutir sobre Marx después de que detengamos este tren desbocado.
A lo que Marx no tuvo que enfrentarse es al billonario, incluso en dinero antiguo. ‘Hay algo en ser muy rico y estar aislado de las consecuencias de tus acciones que te vuelve solipsista. No puedes ganar miles de millones de dólares sin lastimar a muchas personas. Y no puedes lastimar a mucha gente sin, en cierto sentido, creer que en realidad no son personas’.
Él menciona el uso de ketamina de Musk públicamente reconocido. ‘Tengo una condición de dolor crónico, y me han administrado ketamina, y una de las cosas acerca de la ketamina es que sientes que todo el mundo es una cosa que imaginaste. Como si fueras la única persona real en el mundo. No creo que sea una coincidencia que Elon Musk llame a las personas que no están de acuerdo con él NPCs, personajes no jugadores, porque no cree que sean realmente reales’.
El problema más grande que la personalidad de Musk, o incluso la de tu multimillonario promedio, es esa burbuja. ‘Cuanto más del mercado de valores esté envuelto en eso, más daño económico habrá en la zona de explosión de la IA, que no llegará a los asignadores de capital que les han dado 1,4 billones de dólares para jugar – llegará a todos los demás. Tenemos un cuarto de siglo de experiencia ahora con burbujas explotadas, y las usamos como una excusa para hacer la austeridad con la que sueñan hacer nuestros políticos’.
Es el dilema más feo de todos, desear un colapso global ahora para evitar uno peor más adelante, cuando no hay mucho que puedas hacer para que eso suceda de todos modos. ¿Pero es mejor que preocuparse por tus hijos que trabajan para los señores de los robots? Tiene la ventaja de no ser un sueño febril.
