Dios & Golem, S.A.

Dioses, Hombres, Demonios y Máquinas

Luciano de la Rosa Aguilar

Wiener advierte que se debe tener una gran precaución a la hora de aplicar los métodos matemáticos de la cibernética a las
ciencias sociales como la sociología y la economía, para no cometer ninguna especie de "abuso". A pesar de lo que muchos
estudiantes erróneamente creen, el infinito no es un número.

Wiener advierte que el problema de las máquinas que aprenden a jugar cualquier juego
no está tan distanciado de la religión como podría pensarse, y ejemplifica con el tema
del Libro de Job, o con el Paraíso Perdido. Ambas son obras en las que el Demonio juega
un juego con Dios, por el alma de Job y por las de la humanidad, respectivamente. Pero,
¿No es el Demonio también una criatura de Dios? Dios creó todo y la respuesta es
afirmativa. Lo que significa que Dios está jugando contra una creación suya.

Norbert Wiener dice que el conocimiento está inextricablemente interrelacionado con la comunicación. Es así la
manera en que nos podemos valer de la teoría cibernética para generar conocimiento. En el ensayo "Dios &
Golem, S.A.", Wiener trata de temas encontrados en aquella frontera donde chocan la religión y la ciencia, en
especial la ciencia cibernética, que es la ciencia que trata de la comunicación y del control, ya sea en máquinas,
o bien, en seres vivos. A fin de cuentas en un modelo formal no interesa la sustancia de lo que se esté
hablando, así que podría incluirse aquí cualquier otra cosa que reúna las características para ser candidata a
ser estudiada por la teoría cibernética. Pero Wiener advierte que se debe tener una gran precaución a la hora
de aplicar los métodos matemáticos de la cibernética a las ciencias sociales como la sociología y la economía,
para no cometer ninguna especie de "abuso".
Wiener justifica la existencia de su ensayo aduciendo que existen analogías entre ciencia y religión. Por
ejemplo, el significado de las palabras Omnipotencia y Omnisciencia conllevan a una de las clásicas paradojas
lógicas como la siguiente "¿Puede Dios hacer una roca tan pesada que Él no la pueda levantar?". Esto pasa por
que se está hablando de totalidades; de absolutos. En matemáticas sucede algo similar con el concepto de
infinito y es por eso que expresiones como 0/0, (infinito)/(infinito), o (infinito) - (infinito) están indeterminadas. A
pesar de lo que muchos estudiantes erróneamente creen, el infinito no es un número. (El estudio del infinito
siempre fue más bien filosófico, hasta que fue formalizado e introducido completamente en las matemáticas por
Georg Cantor en el siglo XIX, y aún su tesis no estuvo exenta de especulaciones metafísicas). N. Wiener
considera tres cuestiones en la cibernética que incumben a las religiones. Estas son:
• Las máquinas que aprenden
• Las máquinas que se reproducen a sí mismas
• La coordinación de máquina y hombre
Actualmente existen programas de computadora que aprenden de la propia experiencia, tal como los hombres y
los animales. Es en este lugar donde pueden traspasarse fronteras y romperse barreras, pues el aprendizaje es
(¿o era?) considerado como una característica exclusiva de los sistemas vivientes, y en un modo particular, del
hombre. ¿Significará esto que si una máquina aprende, entonces está viva? Lo que entendemos por
"inteligencia" parece ser una característica exclusivas del hombre, sin embargo las computadoras pueden tener
comportamientos aparentemente inteligentes. ¿Es entonces una máquina igual a un hombre?
El punto al que Wiener se dirige para enfrascarse en este dilema científico-religioso estriba en las diferencias
que la conciencia humana ha creado. Diferenciar completamente a Dios del hombre, y por otro lado, diferenciar
por completo al hombre de la materia. En nuestro afán de concebir estas diferencias podríamos pensar que
nosotros no podemos crear máquinas que se reproduzcan a sí mismas, pero, si lo hiciéramos ¿no estaríamos
entonces al nivel de Dios? Los nuevos hallazgos científicos y tecnológicos hacen que las categorías de creador
y criatura se tornen borrosas.
En cuanto a temas de reproducción y aprendizaje existe un enfoque para contemplar a éstos dos tópicos juntos
dentro de un contexto de autosimilitud. Un individuo aprende, y a través de cada individuo y por la reproducción,
aprende también una especie. Así que se puede contemplar a la selección natural como una forma de
aprendizaje que opera dentro de las condiciones impuestas por la reproducción del individuo. Wiener advierte
que el problema de las máquinas que aprenden a jugar cualquier juego no está tan distanciado de la religión
como podría pensarse, y ejemplifica con el tema del Libro de Job, o con el Paraíso Perdido. Ambas son obras
en las que el Demonio juega un juego con Dios, por el alma de Job y por las de la humanidad, respectivamente.
Pero, ¿No es el Demonio también una criatura de Dios? Dios creó todo y la respuesta es afirmativa. Lo que
significa que Dios está jugando contra una creación suya. Tenemos la misma situación cuando nosotros los
humanos -creadores- jugamos contra una máquina que es una creación nuestra. Las máquinas que juegan
juegos como el ajedrez lo hacen de una manera muy similar a la que jugamos los seres humanos, y no lo hacen
mediante la teoría de juegos de von Neumann. Jugar de esta segunda manera significaría -dice Wiener-
"poseer una teoría completa del juego y haberlo reducido a una trivialidad." Aparte de esto hay que imaginar la
enorme cantidad de combinaciones con las que ni las máquinas más potentes de la actualidad pueden lidiar.
Wiener llega a decir también que los días del ajedrez como entretenimiento de los hombres están contados, y
ya vendrán otros juegos para descifrar, analizar y divertirnos. El ajedrez, al fin y al cabo, es un juego bien
definido y para cualquier juego con reglas claras y objetivos bien definidos podemos hacer una máquina que lo
juegue, y que lo juegue bien. Igual (¿o aún mejor?) que el jugador más experimentado a nivel mundial
(recordemos el caso de la computadora Deep Blue). Esto también es cierto para cualquier otro fenómeno que
pueda formalizarse como un juego y tal es el caso de las guerras, los negocios y, en general, cualquier tipo de
situación que involucre la toma de decisiones. Siempre y cuando, como se menciona arriba, la situación no esté
falta de objetividad.
Con relación a una de estas situaciones de reglas no bien definidas Wiener rememora un pasaje de Lewis
Carroll en donde en donde Alicia pretende jugar al croquet, pero en vez de bolas, hay erizos que se desenrollan;
en vez de palos, flamencos; en vez de arcos, soldados que caminan y, lo peor de todo, la Reina de Corazones
como árbitro, cambiando las reglas a cada rato. Así, simplemente no se puede.
Estas máquinas se programan para que jueguen tal y como lo hacemos los humanos: aprendiendo de su propia
experiencia. Aparte de las restricciones impuestas en cada movimiento se debe de realizar el movimiento más
ventajoso. Para decidir cuál será este movimiento se pueden identificar algunos criterios que por lo general nos
brindan ventaja al jugar ajedrez. Estos criterios pueden ser, por ejemplo, el controlar el mayor número posible
de casillas; el tener un mayor número de piezas que el oponente; tener movilidad sobre el tablero; etc. Aparte
de estos criterios generales existen otros, particulares, que dependen del estado en el que se encuentre el
juego en algún momento determinado. Todos estos criterios combinados nos darán estrategias para jugar bien.
Para que una máquina por fin pueda comenzar a jugar, necesitamos asignar valores numéricos a diversas
combinaciones de los criterios que mencionamos. Así la máquina evaluará distintas estrategias posibles y
finalmente hará el movimiento que tenga el valor más alto. La forma de asignar valores es algo similar a lo que
se hace en la teoría matemática de la utilidad, donde se asignan pesos a distintas situaciones dependiendo de
que tan convenientes nos parezcan.
Sin importar que tan mecánico parezca esto, en realidad la máquina estará jugando de manera muy similar -si
no es que idéntica- a la forma en que lo hacemos los humanos. Cuando la máquina haga un movimiento o
utilice una estrategia que le resulte ventajosa, la seguirá utilizando, al menos con el mismo jugador o con
jugadores que tengan el mismo perfil ajedrecístico.
Obviamente, para que esto sea posible la máquina debe de llevar un registro de las jugadas y partidas
anteriores, a las que asignará cifras de valuación altas a partidas ganadas y bajas a partidas perdidas. Es aquí
donde podemos encontrarnos con el fenómeno del comportamiento emergente, en donde la pericia y sagacidad
que la máquina desarrolla no fueron explícitamente programadas.
Cuando se habla de reproducción en máquinas y en seres vivos, filósofos y bioquímicos argumentan que estos
procesos se llevan a cabo de maneras totalmente distintas. Y como argumento a su favor podría decirse que la
materia viva sigue estando viva aún en niveles inferiores (por ejemplo, un organismo, sus órganos, sus tejidos,
sus células, las moléculas con su estructura basada en carbono, etc.) y una máquina esta hecha de fierros y
alambres, los cuales no están vivos. Pero, si nos vamos a niveles aún más bajos, los seres vivos terminan
siendo átomos o partículas subatómicas que tampoco están vivos. Con lo cual esta distinción no existe.
En nuevas disciplinas, como la vida artificial, abundan especulaciones metafísicas que son como ideas de
ciencia ficción. Pero esto no es razón para restarles importancia científica. Pues si bien es peligroso afirmar que
existe una analogía con evidencias insuficientes -dice Wiener- es igualmente peligroso rechazar una sin
pruebas de su falta de congruencia. Wiener califica estas ideas como "perturbadoras". Así fueron las ideas de
Darwin en su época, cuando se nos comparó con un mono. Ahora estamos siendo comparados con una
máquina.
Aún cuando el mundo actual es más racional que en otras épocas, podemos encontrar casos equivalentes a los
de tiempos pasados. Simón Mago negoció con San Pablo poderes que tenían los cristianos, y fue condenado
por querer utilizar para fines propios algo destinado solamente a la glorificación de Dios. El caso similar que hoy
tenemos es la cuestión de cómo se utilizarán los "poderes" que nos brindan las máquinas, poderes que si bien
no son sobrenaturales superan por mucho algunas capacidades de los hombres. Si manejamos un poder muy
grande, existe la posibilidad de que se salga de nuestro control, trayendo esto consecuencias catastróficas.
Wiener ejemplifica esto con obras literarias, como El Aprendiz de Brujo de Goethe, o el cuento clásico de horror
de W.W. Jacobs, La Garra del Mono. En estas obras se ilustra el peligro de la magia. Y existe el mismo peligro
con la tecnología. En el cuento de Jacobs tiene sumo peso el hecho de pedir deseos que sean interpretados
literalmente. ¿Quién nos asegura que las máquinas no malinterpretarán nuestras órdenes cuando les digamos
lo que queremos que hagan? El mismo caso tendríamos si al programar una máquina para cumplir un objetivo,
ésta intentara llegar al objetivo a través de medios que trajeran consigo consecuencias indeseables, incluso
fatales. Se tendría que ser sumamente cuidadoso al condicionar a la máquina para que no haga lo que no
deseamos.
Para que no sucedan estas catástrofes, la realimentación es fundamental. Si la máquina actúa como una caja
negra y después de pedirle que haga algo arroja una salida hasta el final del proceso, las posibilidades de que
una catástrofe ocurra serán mucho mayores. La retroalimentación en este caso, significaría ir regulando
periódicamente (por etapas) el procedimiento que se está llevando a cabo. Así, si algo marcha mal, podemos
corregir el error antes de que sea demasiado tarde.
Algún día la humanidad tendrá que enfrentarse con el tercer punto que Wiener considera: La relación entre el
hombre y la máquina. Bastan los ejemplos que la ciencia biónica (derivada de la cibernética) nos ofrece. El
hombre no sólo puede fabricarse extensiones mecánicas de su propio cuerpo, sino que también puede dotarse
de cosas con las que la naturaleza no lo dotó, y como un claro ejemplo están el sonar y el radar.
Norbert Wiener, como persona razonable que era, desacredita tajantemente esas ideas tan comunes que dicen
que si construimos máquinas "inteligentes" los hombres se volverán flojos y ya no va a ser necesario pensar.
Creo que cualquiera que haya realizado un programa de computadora sabe la gran falsedad que puede
significar lo anterior. Wiener dice al respecto: "El futuro ofrece pocas esperanzas a quienes aguardan que
nuestros nuevos esclavos mecánicos nos ofrezcan un mundo en el que podamos dejar de pensar.
Pueden ayudarnos, pero a costa de plantear reivindicaciones supremas a nuestra honestidad y a nuestra
inteligencia. El mundo del futuro será una lucha todavía más intensa contra las limitaciones de nuestra
inteligencia, y no una cómoda hamaca en la que podamos echarnos a ser atendidos por nuestros esclavos
robot.