El Robot Completo (73 page)

»La única forma como un "falso dato" puede ser insertado en la Máquina es incluyéndolo como parte de un todo consistente, pero de una falsedad demasiado sutil para que la máquina pueda destacarlo, o sobre el cual la Máquina no tenga experiencia. La primera está más allá de la capacidad humana, la segunda es casi esto, y va acercándose cada vez más a ello a medida que la experiencia de la Máquina aumenta con la segunda.

Stephen Byerley se apretó la nariz con los dedos.

—¿Entonces la Máquina no puede ser inducida a error? ¿Cómo explica usted los que se han cometido recientemente, en este caso? 

—Mi querido Byerley, veo que sigue usted instintivamente el gran error de que la Máquina..., lo sabe todo. Déjeme usted que le cite un ejemplo de mi experiencia personal. La industria algodonera alquila compradores experimentados que compran el algodón. Su procedimiento es arrancar un puñado de algodón de una de las pacas al azar. Lo miran, lo tocan, comprueban su resistencia, escuchan su crujido, se lo llevan a la lengua, y por este procedimiento determinan la categoría de algodón que contienen las pacas. Hay una docena de ellas. Como resultado de su decisión, las compras se hacen a unos determinados precios, las mezclas se hacen a unas determinadas proporciones. Ahora bien, estos compradores no pueden ser substituidos con la Máquina.

—¿Por qué no? Seguramente los datos pertinentes no son demasiado complicados para ella...

—Probablemente no. Pero ¿a qué dato se refiere usted? No hay ningún químico textil que sepa exactamente qué es lo que comprueba cuando maneja un puñado de algodón. Probablemente la longitud media de la fibra, su tacto, la extensión y naturaleza y de su viscosidad, la forma como se pegan y así sucesivamente. Varias docenas de particularidades, inconscientemente pesadas, fruto de años de experiencia. Pero la naturaleza "cuantitativa" de esta prueba no es conocida; incluso la verdadera naturaleza de algunas de ellas, no lo es tampoco. De manera que no tenemos nada con que alimentar la Máquina. Así ni los mismos compradores pueden explicar su juicio. Sólo pueden decir: "Bien, mírelo. No se puede decir si es tal o cual clase".

—Comprendo...

—Hay innumerables casos como éste. La Máquina no es más que una herramienta, al fin y al cabo, que puede contribuir al progreso humano encargándose de una parte de los cálculos e interpretaciones. La tarea del cerebro humano sigue siendo la que siempre ha sido; la de descubrir nuevos datos para ser analizados e inventar muevas fórmulas para ser probadas. Es un lástima que la Sociedad Humanitaria no quiera entenderlo así.

—¿Están contra la Máquina? 

—Hubieran estado contra las matemáticas o contra el arte de escribir si hubiesen vivido en el tiempo adecuado. Estos reaccionarios de la Sociedad pretenden que la Máquina priva al hombre de su alma. He observado que hombres perfectamente capaces están todavía llenos de prejuicios en nuestra sociedad; necesitamos todavía el hombre que sea suficientemente inteligente para pensar en las preguntas adecuadas. Quizá si pudiésemos encontrar un número suficiente de ellos, estas perturbaciones que le preocupan, Ordenador, no se producirían. 

Tierra (Incluyendo el continente deshabitado, la Antártida): a) Superficie: 75.000.000 de kilómetros cuadrados (superficie terrestre).

b) Población: 3.300.000.000 de habitantes.

c) Capital: Nueva York.

El fuego que relucía detrás del cuarzo estaba ya moribundo. El Ordenador estaba de humor sombrío, amoldándose al fuego.

—Todos disminuyen la gravedad de la situación —dijo en voz baja—. ¿No es fácil creer que se han reído de mí? Y sin embargo... Vicent Silver dice que la Máquina no puede estropearse y tengo que creerlo. Hiram Mackenzie dice que no pueden ser alimentadas con falsos datos y tengo que creerlo. Pero las máquinas han funcionado mal por una u otra causa, y esto tengo que creerlo también, de manera que... sólo queda una alternativa.

Miró de soslayo a Susan Calvin que, con los ojos cerrados, parecía dormir.

—¿Cuál es? —preguntó sin embargo al instante.

—Que le han dado los datos correctos y la Máquina ha dado las respuestas correctas, pero no han sido cumplidas. No hay manera de que la máquina obligue a seguir sus dictados.

—Madame Szegeczowska insinuó algo parecido, refiriéndose a los nórdicos en general, me parece. ¿Y qué propósito se busca desobedeciendo a la Máquina? Vamos a estudiar los motivos.

—A mí me parece obvio, y debe parecérselo también a usted. Es cuestión de sacudir la nave, deliberadamente. Mientras la Máquina gobierne, no puede haber ningún conflicto serio en la Tierra en el cual un grupo pueda apoderarse de un mayor poderío del que tiene por lo que juzga ser su propio bien, a pesar de perjudicar la Humanidad como un todo. Si la fe popular en las máquinas pudiese ser destruida hasta el punto de que fuesen abandonadas, imperaría de nuevo la ley de la selva. Y no hay ninguna de las cuatro Regiones que pueda quedar libre de la sospecha de buscar precisamente esto.

»Oriente tiene la mitad de la Humanidad dentro de sus fronteras, y los Trópicos, más de la mitad de los recursos de la Tierra. Ambos pueden considerarse como los gobernantes naturales de toda la Tierra, y ambos se sienten humillados por el Norte y es muy humano buscar un desquite contra esta implacable humillación. Europa tiene una tradición de grandeza, por otra parte. En otros tiempos gobernó la Tierra, y no hay nada tan eternamente adhesivo como el recuerdo del poder.

»Y sin embargo, desde otro punto de vista, es difícil de creer. Tanto el Este como los Trópicos están en un estado de enorme expansión dentro de sus fronteras. Ambos crecen rápidamente. No les pueden quedar energías para aventuras militares. Y Europa no puede hacer más que soñar. Es una cifra, militarmente hablando.

—Así, Stephen —dijo Susan—, ¿deja usted el Norte? 

—Sí —respondió Byerley enérgicamente—, Sí. El Norte es el más fuerte, como lo ha sido desde hace un siglo, o por lo menos sus componentes. Pero ahora decae, relativamente. Por primera vez desde los faraones, las regiones Tropicales pueden ocupar su lugar al frente de la civilización y hay nórdicos que lo temen.

—En una palabra, son exactamente aquellos hombres que, negándose conjuntamente a aceptar las decisiones de la Máquina, pueden, en breve plazo, volver el mundo boca abajo...; éstos son los que pertenecen a la Sociedad.

—Susan, todo esto va de consumo. Cinco de los Directores de la World Steel son miembros de ella, y la World Steel sufre de una superproducción. La Consolidated Cinnabar, que explota las minas de mercurio de Almadén, era una sociedad Nórdica. Sus libros están todavía siendo examinados, pero uno, sor lo menos, de sus hombres, era miembro. Francisco Villafranca, que retrasó las obras del Canal de Méjico dos meses, era miembro, lo sabemos ya, lo mismo que Rama Vrasayana; no me sorprendió en absoluto descubrirlo.

—Estos hombres, téngalo usted en cuenta, lo han estropeado todo... —dijo Susan pausadamente.

—¡Naturalmente! Desobedecer los análisis de la Máquina es seguir el sendero del error. Los resultados son peores de lo que podrían ser. Es el precio que pagan. De momento lo verán vagamente, pero en la confusión que tarde o temprano surgir ...

—¿Qué proyecta usted hacer, Stephen? 

—Es evidente que no hay tiempo que perder. Voy a declarar la Sociedad fuera de la ley y todos sus miembros serán destituidos de cualquier cargo de responsabilidad que ocupen. Y todos los puestos ejecutivos con solicitantes que firmen un juramento de no-adhesión a la Sociedad. Esta representará una cierta infracción a las libertades cívicas básicas, pero estoy seguro de que el Congreso...

—¡No servirá de nada!

—¡Eh! ¿Por qué? 

—Representaría una predicción. Si intenta usted una cosa así, encontrar obstáculos a cada paso. Lo encontrar imposible de llevar adelante. Verá usted que cada movimiento en este sentido será origen de perturbaciones.

—¿Por qué dice usted esto? —preguntó Byerley, atónito—. Esperaba, al contrario, su aprobación en esta materia...

—No podrá usted conseguirla mientras sus acciones estén basadas en falsas premisas. Admite usted que la Máquina no puede equivocarse, y no puede ser alimentada con falsos datos. Le demostraré que no puede ser desobedecida tampoco, como cree usted que lo está siendo por la Sociedad.

—Esto... no consigo verlo.

—Pues escuche. Toda acción realizada por un dirigente que no siga las exactas instrucciones de la Máquina con la cual trabaja, se convierte en parte de un dato para el siguiente problema. La Máquina, por consiguiente, sabe que el dirigente tiene una cierta tendencia a desobedecer. Puede incorporarse esta tendencia a los datos, incluso cuantitativamente, es decir, juzgando exactamente qué cantidad y en qué dirección la desobediencia se producir . Sus siguientes respuestas serán suficientemente elusivas en forma que, después de la desobediencia del jefe, vea sus respuestas automáticamente corregidas en la buena dirección. ¡La Máquina "sabe", Stephen!

—No puede usted estar segura de todo esto. Son meras suposiciones.

—Si, una suposición basada en la experiencia de toda una vida entre robots. Hará usted bien en confiar en esta suposición, Stephen.

—Pero, en este caso, ¿qué queda? Las Máquinas están en orden y las premisas sobre las cuales trabajan son correctas. Sobre esto nos hemos puesto de acuerdo. Ahora dice usted que no puede ser desobedecida. Entonces..., ¿qué ocurre? 

—Usted mismo se ha contestado. ¡Nada está mal! Piense en las máquinas un momento, Stephen. Son robots y cumplen la Primera Ley. Pero las máquinas trabajan, no para un solo individuo, sino para toda la Humanidad, de manera que la Primera Ley se convierte en: "Ninguna Máquina puede dañar la Humanidad; o, por inacción, dejar que la Humanidad sufra daño." Muy bien, Stephen, entonces, ¿qué daña la Humanidad? ¡El desequilibrio económico, principalmente, cualquiera que sea la causa! ¿No cree usted? 

—Sí, lo creo.

—¿Y qué es lo más probable que produzca desequilibrios económicos en el futuro? Conteste a esto, Stephen

—Yo diría —respondió Byerley, a regañadientes—, la destrucción de las Máquinas. Y así lo digo, y así lo dirían las Máquinas también. Su primer cuidado, por consiguiente, es conservarse para nosotros. Y así siguen tranquilamente evitando los únicos elementos amenazadores que quedan. No es la Sociedad Humanitaria la que sacude la nave a fin de que las Máquinas sean destruidas; sólo ha visto usted el reverso de la medalla. 

—Diga más bien que son las Máquinas las que están sacudiendo la nave...muy ligeramente... lo suficiente para liberarse de los pocos que se agarran a ella con el propósito de que las Máquinas sean consideradas nocivas para la Humanidad.

»Así, Vrasayana deja su factoría y encuentra un empleo donde no puede hacer daño; no queda seriamente perjudicado, no es incapaz de ganarse la vida, por que la Máquina no puede dañar un ser humano más que mínimamente, y esto sólo para salvar un mayor número. La Consolidated Cinnabar pierde el control de Almadén; Villafranca no es ya el ingeniero civil al frente de un importante proyecto. Y los directores de la World Steel pierden su presa sobre la industria.. o la perderán.

Pero es imposible que sepa usted todo esto... —insistió Byerley distraídamente—. ¿Cómo podemos correr el riesgo de que no tenga usted razón?

—Deben correrlo. ¿Recuerda usted la respuesta de la Máquina cuando le sometió la pregunta? "El caso no admite explicación". La Máquina no dijo que no hubiese explicación, ni que no pudiese determinarla. Dijo sólo que "no admitía" explicación. En otras palabras, "sería perjudicial para la Humanidad tener la explicación de lo ocurrido", y por esto sólo podemos hacer suposiciones... y seguir suponiendo.

—Pero, ¿cómo puede la explicación sernos perjudicial? Supongamos que tenga usted razón, Susan.

—Pues Stephen, si tengo razón, significa que la Máquina está conduciendo nuestro futuro no única y simplemente como una respuesta directa a nuestras preguntas directas, sino como respuesta general a la situación del mundo y a la psicología humana como un todo. Y sabe que nos puede hacer desgraciados y herir nuestro amor propio. La Máquina no puede, no "debe", hacernos desgraciados.

»Stephen, ¿cómo sabemos qué es lo que consolidará el bien final de la Humanidad? No tenemos a nuestra disposición los infinitos factores que la Máquina tiene a la "suya". Quizá , para darle un ejemplo incierto, toda nuestra civilización técnica ha creado más infelicidad y miseria de la que ha suprimido. Quizá la civilización agraria o pastoral, con menos cultura y menos gente, sería mejor. En este caso, las Máquinas deben orientarse en esta dirección, preferiblemente sin decírnoslo, ya que en nuestros ignorantes prejuicios sólo sabemos que aquello a que estamos acostumbrados es bueno... y lucharemos contra todo cambio. O Quizá una urbanización completa, una sociedad totalmente desprovista de castas, o una completa anarquía, sea la respuesta adecuada. No lo sabemos. Sólo las Máquinas lo saben y se encaminan hacia ello, llevándonos consigo.

—Pero está usted diciéndome, Susan, que la Sociedad Humanitaria tiene razón; que la Humanidad ha perdido su derecho de voto en el futuro...

—No lo ha tenido jamás, en realidad. Estuvo siempre a la merced de unas fuerzas económicas y sociológicas que no entendía, de los caprichos del clima y de los azares de la guerra. Ahora las Máquinas las entienden y nadie puede detenerlas, ya que las máquinas los dominarían como dominan la Sociedad..., poseyendo, como poseen, las armas más fuertes a su disposición, el absoluto control de nuestra economía.

—¡Qué horrible!

—Quizá habría que decir: ¡qué maravilloso! Piense que en todos los tiempos los conflictos han sido evitables. ¡Sólo las Máquinas, a partir de ahora serán inevitables!

Y el fuego se apagó detrás del cuarzo y sólo quedó un hilillo de humo para indicar donde había estado.

Las tres leyes de la robótica:

1. Ningún robot causará daño a un ser humano o permitirá, con su inacción, que un ser humano sufra algún mal.
   
2. Todo robot obedecerá las órdenes recibidas de los seres humanos, excepto cuando esas órdenes puedan entrar en contradicción con la primera ley.
   
3. Todo robot debe proteger su propia existencia, siempre y cuando esta protección no entre en contradicción con la primera o la segunda ley.