Esta antigua leyenda judía es una advertencia contra la IA generativa

Publié par Contra información sur 24 Avril 2023, 11:58am

El rabino Loew y el Golem, de Mikoláš Aleš

La automatización es poderosa, pero también peligrosa.
Cuenta una antigua leyenda judía que en la antigua Praga un rabino creó una poderosa criatura: el golem. Con aspecto de robot y dotado de una inteligencia artificial, el golem cumplió al principio las órdenes de su amo, pero al final todo salió terriblemente mal.

Esta antigua leyenda sobre las ventajas y desventajas de la automatización puede enseñarnos mucho sobre sistemas modernos de inteligencia artificial como ChatGPT y Midjourney.

En concreto, esta antigua leyenda puede ayudarnos a comprender en qué aspectos estas tecnologías son beneficiosas para la humanidad y en cuáles pueden resultar desastrosas.

El Golem

Aunque el cuento del golem de Praga es quizá el más conocido, la historia del golem se repite cientos o miles de veces en diferentes formas a lo largo de la literatura judía.
La palabra "golem" aparece en el Talmud, uno de los textos fundamentales de la fe judía. Variantes de la historia del gólem se han repetido y reinterpretado a lo largo de generaciones, desde poesía y novelas hasta un episodio de Los Simpson.

Aunque los detalles varían, la historia básica es la misma. Un rabino o místico judío crea una criatura artificial, utilizando palabras hebreas o conjuros para darle una especie de vida artificial y un nivel básico de inteligencia artificial.

Normalmente, hay alguna razón de peso para hacerlo. En algunos casos, el protagonista necesita proteger a su comunidad de una amenaza externa, como los pogromos. Y en otros casos, simplemente quieren un ayudante automatizado que les ayude con el trabajo duro.

Los gólems de estos cuentos suelen retratados como poderosos, pero en última instancia brutos. Realizan su trabajo más rápido que una persona, pero no son criaturas reflexivas ni con alma.

Ilustración de un gólem vía Midjourney

En esencia, son robots o autómatas artificialmente inteligentes. Al igual que los robots actuales, los gólems siguen instrucciones ciegamente, pero no piensan por sí mismos. Son lo bastante inteligentes como para entender las órdenes de los humanos, pero no lo bastante como para comprender los matices o las sutilezas humanas.

En el cuento clásico del gólem, las cosas van bien al principio. El protagonista obtiene grandes beneficios del gólem: puede trabajar más rápido o es capaz de proteger a su familia y a su comunidad de una amenaza.

Sin embargo, en casi todos los casos, las cosas acaban mal. La mayoría de las historias terminan con el protagonista destruyendo su gólem porque se vuelve demasiado poderoso o dañino.

Por lo general, consiguen inutilizar su gólem. Pero destruirlo suele tener un grave coste para ellos. En un relato, el creador de un gólem consigue inutilizar su creación, pero antes el gólem le deja cicatrices en la cara. Y en una variante contada por los hermanos Grimm, un gólem destruido se estrella contra su creador, aplastándolo hasta la muerte.

ChatGPT, el Golem de hoy

Esta antigua y recurrente leyenda puede enseñarnos mucho sobre los potentes sistemas de IA actuales.

Al igual que los golems de antaño, los sistemas de IA actuales, como Midjourney, ChatGPT y Stable Diffusion, se crearon imitando a los humanos.

Los antiguos rabinos de la leyenda solían crear sus golems moldeándolos en arcilla, imbuyéndolos de una forma pseudohumana. Del mismo modo, hoy en día hemos moldeado los sistemas de IA imitando el funcionamiento del cerebro humano. La mayoría de los grandes modelos lingüísticos funcionan con redes neuronales que imitan (pero no duplican) las funciones de las neuronas humanas.

Al igual que sus antiguos homólogos de arcilla, estos sistemas están inspirados en el ser humano, pero son menos que humanos.

Y al igual que los antiguos golems, estos sistemas han demostrado inicialmente ser increíblemente potentes y útiles. ChatGPT no se alzará para defenderte de un ejército invasor, pero los sistemas de IA están ya integrados en los flujos de trabajo de miles de empresas, automatizando tareas que van desde la redacción publicitaria hasta el trabajo médico.

Cuando los antiguos protagonistas crean gólems, suelen empezar por alegrarse. Eso es lo que parece que estamos haciendo ahora, con el entusiasmo desbordante por ChatGPT y sus similares.

Sin embargo, en las historias más antiguas de gólems autómatas, las cosas se ponen feas, y rápido. Los humanos acaban dándose cuenta -generalmente demasiado tarde- de que los poderes liberados en el mundo por la creación de un gólem amenazan en última instancia a la humanidad.

La reacción negativa de la IA

Ya estamos empezando a ver esto con los sistemas de IA. Los artistas se rebelan contra la capacidad de los sistemas para imitar y sustituir el arte humano, y muchas empresas han decidido por prohibir los códigos, las fotos y muchas otras cosas generadas por IA.

El final de la leyenda tradicional del gólem también ofrece algunas predicciones escalofriantes para el futuro. Una vez creado un gólem, no desaparece sin más. Destruir un gólem una vez desatado casi siempre exige dolor y sacrificio.

Es poco probable que los servidores de ChatGPT caigan sobre nosotros como el golem de los hermanos Grimm. Pero, como empiezan a ver los reguladores y los creadores, cada vez es más difícil convivir con los sistemas de IA y tratar de evitar que sus creaciones interfieran en nuestros procesos creativos humanos.

Sea como sea, el proceso de exorcización de nuestros gólems modernos de IA será doloroso. Las empresas que se nieguen a implantar las tecnologías de IA quizá se beneficiarán de una ventaja en el plano humano, pero seperderán el beneficio las poderosas posibilidades que estos sistemas automatizados pueden dar.

Al igual que con los gólems antiguos, los gólems actuales ofrecen una compensación. Podemos ganar en eficiencia pero crear graves amenazas potenciales, o arriesgarnos a perder nuestra propia humanidad.

Manipular al golem

Sin embargo, hay otra lección que podemos aprender de estos antiguos relatos más allá de la perdición y la destrucción. Aunque muchas leyendas de gólems acaban en destrucción, no todas lo hacen.

En las primeras versiones de la leyenda, el gólem se vuelve tan poderoso que los enemigos que oprimen a su creador se ven obligados a ofrecer un refugio a la comunidad de este último. Cuando esto ocurre, el creador del gólem lo inutiliza cuidadosamente sin destruirlo ni sacrificarlo, pero no lo destruye.

Lo más importante es que el creador conserva el gólem por si sus poderes vuelven a ser necesarios. La leyenda cuenta que el golem original sigue escondido en el ático de una sinagoga de Praga, listo para emerger si la comunidad judía local necesita protección.

En esta versión del cuento del gólem, los creadores del gólem utilizan su creación como una herramienta. El poder del gólem les ayuda a lograr su objetivo (en este caso, defender a su comunidad). Pero lo más importante es que, una vez alcanzado ese objetivo, los creadores del gólem saben cuándo dejar de utilizar a la criatura artificialmente inteligente.

Al desactivar su gólem en lugar de sucumbir a la tentación de abusar de su poder, los creadores originales del gólem se benefician de sus poderes, pero no permiten que el gólem destruya su humanidad o amenace a su comunidad.

Al utilizar ChatGPT y otras herramientas de IA, todos podemos aprender una lección de la narración original del antiguo cuento del gólem. La IA generativa es una herramienta poderosa que puede ayudarnos a alcanzar nuestros objetivos. Pero para utilizarla con seguridad, tenemos que saber cuándo aplicarla, pero también cuándo dejarla.

Thomas Smith

medium