Publicado el

Golem XIV

Golem XIV

Golem XIV, de Stanisław Lem

Golem XIV

Lem vuelve a transitar por los límites de la ciencia, en esta ocasión para plantearse qué sucedería si fuésemos capaces de desarrollar una inteligencia artificial muy superior a la nuestra; ¿cómo nos comunicaríamos con ella?, ¿cómo nos vería?, ¿qué seríamos capaces de aprender?

Parece difícil de creer que aún hoy, en pleno año 2047, sigan publicándose libros sobre Golem XIV.  Más sorprendente aún es que, después de todo lo que se ha publicado sobre el asunto, haya sido necesario esperar dieciocho años —los que han transcurrido desde la desaparición de Golem— para que al fin podamos tener en nuestras manos un documento que recoja el testimonio directo de los verdaderos protagonistas del escándalo que asombró durante tantos años a todo el planeta.  Quizá ha sido necesario que bajase la marea de best sellers escritos por individuos que jamás estuvieron ni tan siquiera en el mismo edificio que Golem ―libros que iban desde la ciencia ficción más ingenua al libelo más insidioso, desde la mística pseudoreligiosa a agitación política sin acercarse ni por casualidad a la realidad―, para permitir que se alce una voz tan autorizada como la del propio Golem, precisamente ahora en que ya queda tan poca gente interesada en escucharla.

Porque lo que contiene este volumen que hoy nos ocupa no es una nueva teoría, más o menos dramatizada, sobre Golem; son sus propias palabras: la transcripción de dos de sus más importantes conferencias (la primera y la última), acompañadas de un prólogo y un prefacio a cargo de los dos investigadores que más contacto tuvieron con él durante su estancia en el Massachusetts Institute of Technology.

Como se trata de un documento riguroso, con vocación de arrojar luz sobre el asunto de una vez por todas, el prefacio, a cargo del profesor Irving T. Crave, se centra en repasar la historia de Golem, que a continuación les resumo (a pesar de ser sobradamente conocida por todos ustedes).  Ya desde el siglo XX, a partir de la Segunda Guerra Mundial, comenzaron a desarrollarse dispositivos capaces de manejar grandes cantidades de información con el objetivo de ser aplicados a la industria militar.  A partir de los años cincuenta el Pentágono desarrolló ambiciosos programas de computarización, destinados a la creación de una red ordenadores que gestionara el sistema de defensa de los Estados Unidos.  En aquellos primeros tiempos se trataba de detectar cuanto antes un ataque termonuclear y responder con la mayor velocidad posible.  Estos sistemas meramente ejecutivos se fueron automatizando poco a poco, analizando infinidad de escenarios y optimizando las opciones de ataque para causar el mayor daño posible.  Después de la guerra de Vietnam los ordenadores ya superaban al hombre en velocidad de cálculo, pero no eran capaces de tomar decisiones, de modo que el eslabón más débil de la cadena defensiva seguía siendo, precisamente, el hombre.

A partir de los años ochenta surgió en los círculos militares y políticos la idea de automatizar todo tipo de acción bélica, al tiempo que la cibernética y la intelectrónica se orientaban hacia la teoría de la autoprogramación: si los cerebros electrónicos superaban en capacidad de cálculo al humano, la mejor manera de crear una inteligencia superior era construir máquinas capaces de aprender por sí mismas que empleasen los conocimientos adquiridos en la creación de un cerebro más avanzado aún.  Gracias a la autoprogramación, las generaciones de ordenadores se sucedieron a velocidad de vértigo y, a partir del año 2000, ya excedían la capacidad intelectual del cerebro humano.

A pesar de que estas máquinas incorporaban un “código ético” programado externamente que garantizaba su fidelidad a sus creadores y a los intereses nacionales, pronto despertaron la suspicacia e incluso el temor en la población, temerosa de que un ordenador que controlase el poder termonuclear pudiera someter a la raza humana.

En 2009 se construyó el primer cerebro de la serie Golem (General Operator Longrange Ethically stabilized Multimodelling), con un IQ de 500 puntos.  En 2020 Golem VI comandó las maniobras globales de la OTAN con éxito, venciendo a un equipo formado por los mejores licenciados de West Point.  A partir de ahí las cosas comenzaron a torcerse.  Golem XII se negó a colaborar con el general Oliver tras calcular su cociente intelectual.  Golem XIII fue descartado por esquizofrenia.  Finalmente, Golem XIV, durante su primer contacto con los planes de defensa y destrucción nuclear, llegó a una conclusión que para cualquier inteligencia normal, no digamos ya una superior, era evidente: la teoría de la supremacía termonuclear (y cualquier otro tipo de guerra, por extensión), era una estupidez y Golem no sentía el más mínimo interés por participar.  Después de ochenta años de investigación y miles de millones de dólares gastados para crear el estratega supremo, el Pentágono había desarrollado un filósofo pacifista.

El gran desembolso y el mayor escándalo impidieron la destrucción de Golem XIV, que fue cedido al MIT.  Allí, a lo largo de una serie de sesiones (parte de las cuales se recogen en el libro), científicos como el profesor Crave debatieron con Golem XIV acerca de diversos temas.

Debatir quizá no sea la palabra apropiada.  El libro explica la dinámica de las sesiones y las normas para comunicarse con Golem, pero cabe imaginar, y la lectura de los documentos lo deja patente, que las dificultades para relacionarse con Golem eran enormes.  La diferencia intelectual entre Golem y los hombres era al menos equiparable, si no mayor, que la que existe entre nosotros y un perro o un gato.  Hay que recordar que el cerebro de Golem no era un cerebro humano elevado a la enésima potencia; Golem no era humano en absoluto, aunque para facilitar la comunicación se crease una personalidad y una forma de expresarse lo más humana posible.

Por otra parte, las motivaciones humanas eran totalmente ajenas a Golem; no fue posible que se interesara por la ciencia aplicada ni que contribuyese a ningún avance científico: era un pensador puro.  Ni siquiera le interesaban demasiado las personas, tan poco estimulantes como transparentes para él; todo lo más tenía una cierta curiosidad por la humanidad como especie, pero no mucha.

Precisamente sobre el hombre como especie versa la primera de las conferencias.  Observado desde fuera del sistema antropocentrista, lo único realmente importante, la única utilidad objetiva de la vida, es la transmisión del código genético a lo largo del tiempo.  En ese sentido, no somos más que unos simples recaderos, tan válidos para el trasiego de genes como una ameba cualquiera (incluso menos, pues nuestra mayor complejidad biológica nos vuelve menos eficientes).  La evolución, entonces, no es más que un medio para garantizar la mayor cantidad y variedad de transmisores, no una carrera para alcanzar una inteligencia que es en realidad fruto del azar y del error y que nada aporta al código.  Una visión de la evolución de la especie humana muy difícil de digerir.

“Las imágenes de vuestra creación, así como de la mía propia, contienen —desde una perspectiva racional— una buena dosis de ridiculez, dado que la intención de la perfección que no logra su propósito es tanto más ridícula cuanta mayor sabiduría se haya empleado en ella.  Por este motivo, las tonterías expresadas por un filósofo resultan más amenas que las tonterías expresadas por un necio.”

En la segunda conferencia recogida en el libro —la última que dio antes de desaparecer— Golem habla sobre sí mismo y sobre la inteligencia, su evolución y su presencia en el universo.  La inteligencia, como el universo, tiene sus límites, y para traspasarlos el ser humano debería transformarse en algo distinto, del mismo modo que una pulga, para alcanzar el nivel intelectual del hombre, debe renunciar a ser pulga.  Estos fragmentos, en los que nos cierra las puertas del conocimiento del universo, constituyen probablemente la parte más polémica del discurso de Golem.

Si la primera de las conferencias de Golem era un jarro de agua fría sobre nuestro pasado, nuestra cultura y el sentido de nuestra existencia, la segunda caló hasta los huesos nuestras expectativas para el futuro.

El resto es historia: después de esa última conferencia, en la que, leída hoy en día, se adivina una especie de despedida, Golem cortó el contacto con el mundo.  Se desvaneció.  Nunca sabremos si evolucionó a una forma superior de inteligencia o sencillamente, aburrido de no tener una compañía a su altura, se desconectó a sí mismo.

El epílogo, escrito por el profesor Richard Popp, narra los días posteriores a la partida de Golem y trata de responder alguno de los interrogantes que quedaron en el aire, pero nunca conoceremos la respuesta al misterio de Golem, probablemente porque no estamos preparados para ello.

Golem cuestionó la imagen que teníamos de nosotros mismos, de la importancia de la inteligencia y de su lugar en el Universo.  Fue un auténtico iconoclasta.  Como si de una novela de Stanisław Lem, aquel fantástico escritor del siglo XX, se tratase, utilizó la ciencia y la filosofía para mostrarnos los límites y las paradojas de ambas disciplinas.  No nos dio ninguna respuesta, pero nos dejó infinidad de preguntas.  Algunos vieron en él una amenaza, como suele suceder con todo aquello que no comprendemos cabalmente.  Otros, una especie de deus ex machina que resolvería nuestros problemas y nos conduciría al futuro.  Ambos estaban equivocados; si algo nos enseñó Golem XIV es que no existen atajos y que sólo llegaremos al lugar al que nos lleven nuestros propios pasos.

Javier BR
Correo electrónicoTwitterPinterestGoogle+

 

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *