La fábrica de basura

A finales de 2022, varias de las noticias más difundidas en el mundo provenían de las industrias de tecnologías digitales, desde el colapso de la empresa de criptomonedas FTX a la toma de Twitter por parte de Elon Musk. Los medios, tradicionales y no, explotaban estas historias como suelen hacerlo en la actualidad, es decir, de manera sensacionalista: insistiendo en los detalles más indignantes de cada una para retener a su público.

Pero lo cierto es que los hechos relatados eran sensacionales, de esa forma simple, vulgar y atrayente que conocemos bien en este siglo. Tanto la crisis de edad madura (?) del empresario y trol de origen sudafricano como la ruina de Sam Bankman-Fried, fundador de FTX y, al parecer, un defraudador a escala masiva tan exitoso y cínico como Bernie Madoff, pueden ajustarse fácilmente a argumentos muy conocidos en la narrativa popular (literaria, audiovisual, etcétera) del mundo occidental. El príncipe que se vuelve loco, a la vista de todos, por su excesiva vanidad; el joven que asciende en el mundo gracias a una mentira que, al final, ya no es capaz de mantener. Ambas ofrecen una sensación de schadenfreude: placer y satisfacción ante la desgracia ajena, porque Musk está perdiendo dinero y perjudicando su reputación gracias a sus desplantes en Twitter; porque Bankman-Fried convenció a políticos y empresarios de ser un genio filantrópico y no es más que otro estafador, tan corrupto y despreciable como todos los demás.

Es más difícil ajustar a un argumento simple otro espectáculo tecnológico de estos días: el gran éxito de aplicaciones de inteligencia artificial como Midjourney, DALL-E y otros generadores de imágenes, o de ChatGPT, que genera texto escrito.

Básicamente, todas estas herramientas se emplean de la misma forma. Los usuarios humanos dan instrucciones escritas al software; éste interpreta el lenguaje natural de las mismas, extrae ciertas palabras clave que resumen las características de lo que se le está pidiendo, y genera, tras cierto tiempo, una imagen o un texto que más o menos se ajusta a lo que los usuarios deseaban. Ya se pueden encontrar miles de ejemplos de la actividad de estos sistemas, como “Una escena de Seinfeld en la que Jerry debe aprender un algoritmo de ordenamiento” o “La fiesta de cumpleaños de Yayoi Kusama con animales de peluche”.

Hace un año, estas tecnologías estaban mucho menos avanzadas. Además, en lugar de ser sólo un entretenimiento, ahora disponen de mucho dinero para desarrollarse y promoverse. Sucedió lo mismo hace un par de décadas con los primeros algoritmos de recomendación, que se ofrecían como un juguete de internet y después se integraron a sitios como Amazon y se volvieron ineludibles. Los inversionistas que quieren explotar las IAs de hoy ya han convencido a mucha gente de que sus propiedades son la siguiente gran transformación de internet, como no lo han sido ni las criptomonedas ni el “metaverso” de Mark Zuckerberg. Atados a las tendencias de moda, los demás nos dejamos llevar y seguimos alimentando a la máquina.

(Aquí hace falta decir que la frase anterior no es del todo una metáfora: el software para crear texto o imágenes a partir de instrucciones en lenguaje natural depende de la información que le den sus usuarios para “aprender” a hacerlo. A pesar de lo que dicen muchos artículos basura sobre el tema, DALL-E no tiene inspiración artística y ChatGPT no entiende realmente lo que está “diciendo”. Imágenes y textos se generan a partir de imitar y recombinar elementos preexistentes en sus bases de datos: miles de millones de imágenes, miles de millones de palabras de texto, tomadas de internet, no siempre con permiso ni conocimiento de quienes las pusieron allí. Lo que guía este proceso es la retroalimentación humana, que indica al software cómo relacionar y mezclar elementos de su repertorio de manera significativa y pertinente.)

¿Como deberíamos tratar de comprender un avance tecnológico que está ocurriendo ahora mismo, que en muchos sentidos no tiene precedentes y en cuyas consecuencias no nos hemos puesto a pensar?

Las interpretaciones más frecuentes también son erróneas. Como he dicho, ya no se trata solamente de una novedad divertida. Tampoco –aunque usemos el término “inteligencia artificial”– estamos hablando de verdaderas inteligencias, sino de herramientas con enormes capacidades de cómputo a las que, simplemente, resulta fácil atribuir cualidades humanas.

Y los argumentos literarios más usados se quedan igualmente cortos: son el mito de Frankenstein de Mary Shelley (la tecnología que se rebela contra su creador y amenaza con destruirlo) y el mito del robot como lo inventó el escritor checo Karel Čapek (la tecnología que empieza a volverse indistinguible de su creador y amenaza con suplantarlo).

Es muy interesante, y más que un poco deprimente, ver cómo estas interpretaciones dan lugar a mucho humor negro, muchos memes y artículos basura acerca de la obsolescencia inevitable de ciertas profesiones o de la misma especie: la mayor parte de los seres humanos entendemos, aunque sea oscuramente, que no tenemos ninguna capacidad para influir en cómo se utilizarán las IA, igual que nunca hemos influido significativamente en la conducta de empresas como Meta, en las decisiones que imponen y controlan tecnologías de entretenimiento como el streaming digital, ni en muchísimas otras tecnologías que en lo esencial son propiedad de poderes fácticos en sociedades insulares y profundamente desiguales.

Sin embargo, esta especie de consenso resignado es, además, enormemente ciego. Un gran ejemplo de esa ceguera está en este artículo del New York Times, escrito por el periodista Frank Bruni. El título se pregunta “¿Me volverá irrelevante ChatGPT?” y el texto, después de lo algunos lugares comunes y de considerar la satisfacción que los seres humanos (salvo los plagiarios compulsivos y otros estafadores) obtenemos del trabajo propio, llega al siguiente pasaje:

Tal vez no [será tan malo el futuro]. Tal vez estamos al borde de una nueva utopía, en la que las máquinas no sólo ensamblarán nuestros electrodomésticos y llevarán a cabo nuestras cirugías, sino que también crearán nuestras novelas, escribirán nuestras leyes y escribirán nuestros artículos de opinión, mientras nosotros tomamos soma o masticamos hojas de loto, mientras nos felicitamos por la programación [de las IA] y las instrucciones que les dimos.

Pero sospecho que extrañaremos el mismo sentimiento –la misma satisfacción– a la que yo renuncio cuando recibo y aprovecho más ayuda de la que estaba buscando. El orgullo de lo que es mío dejaría de existir.

Las referencias literarias de Bruni son clásicas, respectivamente a Un mundo feliz de Aldous Huxley (una novela distópica) y a la historia de los lotófagos de la Odisea (un episodio de horror dentro de la épica de Ulises). Que use ambas para describir lo que él llama una “nueva utopía” puede ser irónico, pero sospecho que es simplemente descuidado, haragán, una señal de privilegio no reconocido. Ojalá que todos los habitantes de la Tierra pudiéramos preocuparnos únicamente por nuestros electrodomésticos, nuestras cirugías, la siguiente novela que vamos a leer y el siguiente artículo que debemos entregar al Times. Que todos tuvieran una computadora, energía eléctrica, conexión a internet de alta velocidad, tiempo libre y todas las necesidades básicas cubiertas, para juguetear con la tecnología de punta y considerar en paz, serenamente, sus significados.

La realidad, que es muy diferente, incluye el hecho de que, como muchas otras tecnologías que se desarrollan en el llamado “norte global” y se implementan desde allí bajo la dirección de sus líderes promedio –blancos, hombres, acostumbrados a encontrarse por encima de los demás y a creer que lo merecen–, los generadores de texto e imagen no están pensados para todas las poblaciones humanas, van a ser más difíciles de adoptar para las “minorías” de cualquier tipo y con frecuencia las pondrán en situaciones de mayor desventaja, profundizando las que ya padecen.

A la vez, los beneficios económicos que esos sistemas podrán dar a sus inversionistas no se repartirán equitativamente. Por el contrario, ya se está viendo que Midjourney y otros generadores amenazan el trabajo de artistas visuales en cuyos estilos se están “inspirando” sin ninguna compensación de por medio. Con los generadores de texto sucederá lo mismo, incluso cuando ya es claro que la sustancia de lo escrito por ChatGPT es mucho menos perfecta que su superficie: que, como muchos seres humanos, es muy bueno para decir bullshit (palabrería, zarandajas, estupideces con la apariencia de algo inteligente) pero no para pensar.

En este artículo he mencionado dos veces la “escritura basura” que llena los medios a nuestro alrededor porque hemos aprendido a entenderlos como distribuidores de “contenido”, tubos que deben estar perpetuamente llenos y bombeando algo, lo que sea, a todas horas del día, en todas partes del mundo. Si esa es la idea de lo que las IA pueden hacer en vez de nosotros, la verdad es que no se pierde nada. La fábrica de basura puede abrir y no volver a cerrarse nunca.

Pero ninguna obra escrita o visual salida de ella nos va a dar una imagen o un argumento mejores para entender los cambios tecnológicos del presente. Habría que buscarlos en las obras –todavía no asimiladas– de otros seres humanos: mujeres, personas LGBTQ+, habitantes de países “en desarrollo”, gente que ha experimentado la escasez, la guerra o los efectos centenarios de un régimen explotador y colonialista.

*Mikel Martínez de Osaba

Alberto Chimal es autor de más de veinte libros de cuentos y novelas. Ha recibido el Premio Bellas Artes de Narrativa “Colima” 2013 por Manda fuego,  Premio Nacional de Cuento Nezahualcóyotl 1996 por El rey bajo el árbol florido, Premio FILIJ de Dramaturgia 1997 por El secreto de Gorco, y el Premio Bellas Artes de Cuento San Luis Potosí 2002 por Éstos son los días entre muchos otros. Su Twitter es @AlbertoChimal

©Literal Publishing. Queda prohibida la reproducción total o parcial de esta publicación. Toda forma de utilización no autorizada será perseguida con lo establecido en la ley federal del derecho de autor.

Las opiniones expresadas por nuestros colaboradores y columnistas son responsabilidad de sus autores y no reflejan necesariamente los puntos de vista de esta revista ni de sus editores, aunque sí refrendamos y respaldamos su derecho a expresarlas en toda su pluralidad. / Our contributors and columnists are solely responsible for the opinions expressed here, which do not necessarily reflect the point of view of this magazine or its editors. However, we do reaffirm and support their right to voice said opinions with full plurality.

Posted: January 8, 2023 at 8:49 pm