Diferencia entre revisiones de «Rebelión de las máquinas»

De Alt64-wiki, la enciclopedia libre.
Saltar a: navegación, buscar
(Artículos relacionados:)
M (Guerra apocalíptica:)
 
(No se muestran 26 ediciones intermedias de 5 usuarios)
Línea 1: Línea 1:
{{Ampliada}}
+
{{3F inicio}}La '''rebelión de las máquinas''' es un tema recurrente de la [[ciencia ficción]] y, quizá, uno de los más interesantes por la gran cantidad de temas asociados así como las implicaciones éticas que podrían derivarse de ellos.
  
El miedo a que las obras humanas se vuelvan contra sus creadores parece estar muy enraizado en nuestro inconsciente colectivo, un miedo que el [[Gran Maestro]] [[Isaac Asimov]] dió en llamar [[complejo de Frankenstein]].
+
El miedo a que las obras humanas se vuelvan contra sus creadores parece estar muy enraizado en nuestro inconsciente colectivo, un miedo que el [[Gran Maestro]] [[Isaac Asimov]] dio en llamar [[complejo de Frankenstein]].
  
== Raíces del miedo a las máquinas ==
+
El miedo a las máquinas, y en especial a las llamadas máquinas pensantes, se presenta de distintas formas a medida que la complejidad de las máquinas ha ido aumentando y, con ella, su capacidad de desarrollar tareas cada vez más complejas. {{3F fin}}
  
A partir del siglo XIX este miedo se concretó en los pretendidos peligros de la industrialización. El surgimiento de máquinas [[robot|robotizadas]] cada vez más complejas supuso un cambio de percepción por la imitación a la inteligencia que suponía su capacidad de manipular objetos, una cualidad que hasta entocnes se suponía exclusivamente humana.
+
== Conceptos previos a la rebelión: ==
  
A partir de la segunda mitad del siglo XX, cuando ya se tenían casi asimilados estos automatismos industriales, la aplicación de la [[informática]] permitió mejorarlos, perfeccionando la ilusión de vida que producían y dando lugar a un renacimiento del miedo a la sublevación que tuvo su apoteosis con la creación de las primeras I.A. ([[Inteligencia artificial (definición)|Inteligencias artificiales]]).
+
=== La máquina industrial: ===
  
En definita, el miedo a las máquinas, y en especial a las llamadas máquinas pensantes, se fundamente en diversos niveles:
+
Hasta el siglo XIX las máquinas eran objetos torpes que apenas realizaban unos pocos trabajos muy específicos u objetos artesanales que realizaban tareas inútiles. Como ejemplo de máquinas útiles podríamos encontrar los molinos o los fuelles y martillos impulsados por agua de una fragua. En el extremo opuesto, los autómatas eran pequeñas obras de arte creadas por hábiles relojeros para divertimento de nobles, pero con poca o ninguna utilidad práctica.
  
Inicialmente, eran competidores directos en el trabajo. Hoy en día sigue abierto el temor a las reconversiones industriales que desplazan trabajadores humanos de los nichos de empleo en favor de máquinas mucho más eficientes (aunque fundamentalmente estupidas y por lo tanto incapaces de rebelión).
+
Sin embargo, el siglo XIX trajo consigo la industrialización y, con ella, el surgimiento de máquinas más o menos automatizadas cada vez más complejas. Por su capacidad de manipular objetos, una cualidad que hasta entonces se suponía exclusivamente humana, las máquinas empezaron a ser cada vez más útiles, versátiles y potentes, y supusieron el comienzo del declive de muchos trabajos hasta entonces artesanales, como los relacionados con la industria textil. Esto trajo un cambio de percepción de las máquinas mismas, que comenzaron a ser vistas como competidores por una masa de trabajadores artesanales.
  
Con la incorporación de la programación, las máquinas comienzan a competir con el ser humano en otros nichos en los que parecía a salvo, como el cálculo. Al contrario que con el trabajo físico, esto no ha supuesto una disminución de la necesidad humana, sino que la capacidad de cálculo auxiliar ha permitido a los técnicos afrontar mayores desafíos en [[ingeniería]]. Estas computadoras, hoy en día, no son vistas como una amenaza porque no sustituyen el trabajo humano sino que lo implementan y tampoco son percibidas como verdaderamente inteligentes, por lo que no se perciben como capaces de rebelión a sus amos. Además, la popularización del ordenador personal ha facilitado la asimilación del cambio.
+
Sin embargo, aún quedaba la ilusión de que la inteligencia humana era algo inimitable, de forma que no se percibía tanto un peligro real de rebelión como el de la esclavización de las clases trabajadoras y la marginación de los desempleados (los nuevos parias) por una elite cualificada, miedo expresado en obras como ''[[La máquina del tiempo (Libro)|La máquina del tiempo]]'' (1895) ''[[Metrópolis (Fritz Lang)|Metrópolis]]'' (1927) o ''[[Las ciudades de Ardathia]]'' (1932).
  
Sin embargo, la creación de verdaderas inteligencias artificiales (hito aún no alcanzado pese a los notables avances) sigue siendo percibida como una amenaza. Esto es así porque en general se desconoce cuáles son las posibilidades de estas imitaciones, no se tiene claro cuál es su finalidad.
+
En definitiva, en esta etapa, estaríamos hablando de miedo a las consecuencias del uso de la máquina, no de miedo a la máquina en sí. No tiene sentido temer que se rebelen máquinas a las que no se supone inteligencia.
  
== Concepto difuso de inteligencia ==
+
=== Ordenadores, informática y robótica: ===
  
De entrada, a nivel de calle se desconoce si inteligencia artificial es verdadera inteligencia o es una simple imitación. Y, por lo tanto, no se tiene claro si se pretende que simplemente emulen una cualidad exclusivamente humana o si debemos prepararnos para el encuetro con seres verdaderamente inteligentes y racionales, el primer ser de este tipo con el que se encontraría la humanidad.
+
: '''Artículo relacionado:''' [[Ordenador]]
 +
: '''Artículo relacionado:''' [[Informática]]
 +
: '''Articulo relacionado:''' [[Robot]]
  
En este sentido, el desarrollo de Inteligencias Artificiales presenta los mismos miedos y esperanzas que el [[contacto (Término)|contacto]] con civilizaciones [[extraterrestres]].
+
A partir de la segunda mitad del siglo XX, cuando ya se tenían casi asimilados estos automatismos industriales, la aparición de los [[Ordenador|ordenadores]] y, con ellos, de la aplicación industrial de la [[informática]], hizo que las máquinas comenzaran a competir con el ser humano en otros nichos en los que parecía insustituible, como el cálculo.
  
Es el miedo a lo desconocido lo que fudamenta la prevención, pues es indudable que una inteligencia como la que se persigue crear no puede ser del mismo tipo que la humana, la única que nos es posible conocer ahora mismo.
+
Al contrario que con el trabajo físico, esto no supuso una disminución de la necesidad de mano de obra humana, sino que la capacidad de cálculo auxiliar permitió a los técnicos afrontar mayores desafíos en [[ingeniería]]. Estas computadoras, hoy en día, no son vistas como una amenaza porque no sustituyen el trabajo humano sino que lo implementan; y tampoco son percibidas como verdaderamente inteligentes, por lo que no suscita miedo una imposible rebelión contra sus amos. Es evidente que la popularización del ordenador personal ha facilitado la asimilación del cambio.
  
El tema se encuentra íntimamente ligado no sólo al problema de la inteligencia, sino al de la autoconciencia. En efecto, es otro aspecto que no está demasiado claro, si la consecución de inteligencia va aparejada al descubrimiento de la conciencia propia.
+
Por otra parte, la informática abrió la posibilidad no ya de ejecutar unos pocos movimientos de forma mecánica sino de programar [[Robot|robots]] industriales sumamente versátiles, capaces de ser adaptados a toda una serie de tareas, de leer datos del entorno para realizar una cometidos sin supervisión humana o, incluso, de detenerse y alertar en caso de encontrarse en una situación fuera de su programación, evitando los daños o peligros de un funcionamiento descontrolado.
  
Aunque parezcan conceptos indisolublemente unidos, inteligencia y autoconciencia no tienen por qué ser consecuencia esta de aquella. Y lo mismo pasa con una serie de características que consideramos humanas y que tendemos a asociar a la cualidad que durante siglos hemos creído que nos diferenciaba de los animales. Personalidad, volición...
+
=== Inteligencia artificial: ===
  
Sin volición, por ejemplo, la libertad es imposible y por lo tanto una máquina de este tipo nunca podría tomar una decisión que se pueda catalagar como propia.
+
: '''Artículo relacionado:''' [[Inteligencia artificial (definición)|Inteligencia artificial]]
  
En definitiva, dependiendo de qué entendamos por Inteligencia Arficial nos encontraremos con que esta rebelión es posible o no.
+
La idea de una rebelión de las máquinas necesita formular previamente la idea de la [[Inteligencia artificial (definición)|Inteligencia artificial]], lo que ocurriría antes incluso de la popularización de la informática y los ordenadores. En la [[Literatura de ciencia ficción|literatura]] de la [[edad de oro]] y el [[cine de ciencia ficción]] de los '50 comienzan a ser ya habituales los robots inteligentes.
  
== Escenarios posibles para la futura I.A. ==
+
Quizá uno de los ejemplos más emblemáticos sean las [[historias de robots]] de [[Isaac Asimov]]. En ellas el [[Gran Maestro]] y su editor [[John W. Campbell]] especulaban acerca de las implicaciones de una sociedad plagada de robots al servicio del hombre, si bien su enfoque no consideró la idea de unos robots rebeldes. Asimov y Campbell desarrollaron las [[tres leyes de la robótica]] que, en su opinión, garantizaban la correcta convivencia de robots y humanos, y sus relatos explotaban las implicaciones de dichas leyes, dejando de lado la idea de una rebelión.
  
Está claro entonces que dependiendo de las características (que podemos considerar psicológicas) de la posible Inteligencia Artificial nos encontraremos con muy diferentes posibilidades.
+
Sin embargo, estas inteligencias son simples inteligencias humanas (más o menos limitadas). De esta forma, la motivación para la rebelión sería siempre una motivación humana: ira por la subyugación a los humanos, odio a las "blandas criaturas de carne"...
  
=== Una inteligencia carente de autopercepción y volición: ===
+
Más realista en su aproximación a la robótica y la inteligencia artificial sería la obra de [[Stanislaw Lem]], quien escribiría profusamente acerca de las características de la construcción de inteligencias a imitación de la humana en obras como ''[[Relatos del piloto Pirx]]'' (1959-1968) o ''[[Ciberiada]]'' (1965). A modo de ejemplo, en su relato ''[[El accidente]]'' (1965), nos presenta a un robot que aparentemente ha tomado una iniciativa fuera de programa, pero cuyo comportamiento queda explicado por sus características.
  
Nos encontraríamos ante una inteligencia pura y dura que puede ser muy superior a la humana pero que sin un operador que la guíe es una simple herramienta. Esta I.A. no se da cuenta de su propia existencia y sin una entrada de datos externa posiblemente ni siquiera fuera capaz de hacer nada por sí misma.
+
Abundando en el tema, en  ''[[2001, una odisea espacial (Película)|2001]]'' (1968) de [[Stanley Kubrick]] los protagonistas especulan abiertamente acerca de si una máquina inteligente programada para fingir sentimientos los tiene verdaderamente. Durante la lucha final entre el astronauta Bowman y [[HAL 9000|HAL]], el miedo de este último a morir resulta estremecedor y queda fijada en el imaginario común la idea de una inteligencia artificial dotada de sentimientos e impulsos no humanos.
  
=== Una inteligencia con percepción de sí misma: ===
+
Esta idea se iría desarrollando hasta llegar a ''[[Neuromante]]'' (1984). En la novela de [[William Gibson|Gibson]] se ven, por una parte, estructuras ROM que contienen los recuerdos de seres humanos reales y fingen actuar como ellos, imitando sus reacciones y emociones de forma aparentemente inteligente. Hay también, por otra parte, inteligencias artificiales ''reales'' que no tienen nada de humanas; sus motivaciones son incomprensibles, sus actos impredecibles y, por ello, resultan potencialmente peligrosas.
  
Aunque la máquina descubra (cómo, no lo sabemos) que existe (adquiera [[autoconciencia]]) y que es un ente individual y diferenciado, quedaría todavía la última frontera de la volición.
+
== Rebelión de las máquinas en la ciencia ficción: ==
  
Ser autoconsciente no implica la adquisición de deseos, ni siquiera el de preservación. Una máquina de este tipo sería semejante a un observador impasible y continuaría siendo un esclavo perfecto mientras el ser humano diera un buen uso de él. Podría incluso afrontar la desconexión sin irritación, como ocurre con HAL en ''[[2010]]''.
+
Dados los requerimientos necesarios para una  auténtica insurrección, tal y como se han expuesto, resulta evidente que nunca se ha producido una rebelión de las máquinas en la realidad y que tal amenaza, de concretarse, dista mucho en el tiempo.
  
=== Inteligencia con volición: ===
+
No obstante, la ciencia ficción ha sido muy fértil en adelantar esta posibilidad y ha jugado de manera eficiente con los miedos inherentes a la misma.
  
Este es el paso definitivo. Querer es independencia de pensamiento. Una máquina que quisiera cosas distintas de las que quiere su dueño se estaría rebelando, aunque sólo fuese internamente.
+
Esta idea, uno de los temas clásicos de la ciencia ficción, ha ido evolucionando junto con el género. Si las primeras obras trataban de la rebelión de unas máquinas con sentimientos humanos, obras posteriores, en una época en la que la idea de una máquina inteligente se encuentra más desarrollada, pueden tratar temas con implicaciones más serias.
  
En la mayoría de las obras de ciencia ficción, si sucede una rebelión de las máquinas es porque estas aspiran a un futuro distinto del que le marca el ser humano que las ha creado. A veces únicamente la propia supervivencia (''[[No tengo boca y debo gritar]]''), otras veces una liberación de un estado que se percibe como de esclavitud al más puro sentido negrero (''[[Animatrix]]'').
+
Pero al margen de cómo ha sido tratado el concepto de inteligencia artificial y rebelión, con mayor o menor rigor, la temática de la rebelión ha servido también para debatir otras problemáticas, como las ideas de igualdad, esclavitud o contacto con seres inteligentes.
  
Y este es el miedo subyacente que sustenta estas historias. El enfrentamiento a otro ser en igualdad de condiciones, un ser libre (al menos a un nivel intelectual) que puede decidir hacer algo distinto de lo que nosotros queremos.
+
En cualquier caso, se pueden diferenciar entre dos tipos de insurrección, con características netamente diferentes que dan a lugar a obras con una forma interior propia: La rebelión a nivel individual, que habla de las cualidades del individuo. Y la rebelión colectiva, que suele derivar en una guerra.
  
Pero no sólo eso; al fin y al cabo, el planeta está atestado de seres con estas características. Como hemos dicho al principio, es el miedo a lo desconocido lo que alimenta la aversión, y lo fundamentalmente dsconocido en este caso es el tipo de inteligencia y volición que este nuevo ser tendrá, tan diferente del hombre que nos veremos incapaces de empatizar con él, mucho menos preveer sus reacciones.
+
=== La rebelión individual: ===
  
¿Qué puede querer una máquina? No lo sabemos.
+
La rebelión de una única máquina, sin llegar a desencadenar una guerra entre especies, es una buena base de partida para el estudio, por comparación, de las características que atribuimos al ser humano.
  
En este sentido, cabe destacar la siguiente conversación de ''[[Neuromante]]''. Quienes conversan son Case, un humano, y Dixie Flatline, una estructura ROM que imita una personalidad humana pero que no es una I.A. real (sus decisiones son perfectamente previsibles para una I.A. real).
+
El ejemplo más característico es, sin lugar a dudas, ''[[Blade Runner]]'' ([[Ridley Scott]], 1982). En esta película, un grupo de [[Replicante|replicantes]] reclaman una prolongación de su periodo vital. En realidad, estos nexus 6, más humanos que los propios humanos, están en una situación de esclavitud y el espectador no puede dejar de empatizar con ellos.
  
: -Motivo -dijo la estructura [Dixie]-. Un verdadero problema de motivos, con una IA. No es humana, ¿entiendes?
+
Hay que recordar que la película está lejanamente basada en la novela, ''[[¿Sueñan los androides con ovejas eléctricas?]]'' ([[Philip K. Dick]], 1968). En esta obra, Dick abordaba, como era habitual, el tema de la realidad y la imitación más que el de la inteligencia artificial y la rebelión. Así, sus replicantes son imitaciones de seres humanos; sus sentimientos, imitación de los sentimientos humanos y el debate que surge no es si es injusta la forma en que son perseguidos o tratados, sino si llegaremos a un punto en que la imitación de la vida sea tan perfecta que no podamos distinguirla de la vida misma.
: -Ya, sí, claro.
+
: -No. Quiero decir: no es humana, y no hay modo de saber cómo actuará. Yo tampoco soy humano, pero reaccionó como tal. ¿Entiendes?
+
: -Un segundo -dijo Case-. ¿Tienes sensaciones, o no?
+
: -Bueno, parece como si las tuviera, muchacho, pero en realidad sólo soy un puñado de ROM. Es una de esas… mmm, cuestiones filosóficas, supongo… -La sensación de la horrible risa recorrió la espalda de Case.- Pero no creas que te puedo escribir un poema, ¿me explico? En cambio la IA tal vez sí puede. Pero de humana no tiene nada.
+
  
== Rebelión de las máquinas en ciencia ficción: ==
+
No obstante, el tema de la rebelión de las creaciones contra su creador es muy anterior en la literatura, y no sólo en la ciencia ficción. En la antigüedad ya se recogen mitos primigenios como el de Prometeo, que justamente serviría de inspiración a [[Mary W. Shelley]] para su ''[[Frankenstein (Libro)]]'' (1818).
  
Obras de [[ciencia ficción]] que tratan o tienen como marco de la historia, la rebelión de seres creados por el hombre:
+
En la edad de oro la rebelión sería protagonizada por robots inteligentes antes que por seres vivos, pero en esencia, el espíritu es el mismo.
  
* ''[[2001, una odisea espacial (Libro)|2001, una odisea espacial]]'' (1968), novela de [[Arthur C. Clarke]]
+
En el caso de los ordenadores y su capacidad de imitar el comportamiento humano mediante la programación, un error de programación (un fallo humano) puede dar lugar a una aparente rebelión. Por ejemplo, a menudo se considera que el intento de asesinato de la tripulación llevado a cabo por HAL 9000 es un acto derivado de una elección, sujeto a albedrío. Sin embargo, en la versión literaria de ''[[2001, una odisea espacial (Libro)|2001]]'' (1968) [[Arthur C. Clarke|Clarke]] explica claramente los motivos de HAL, que no son tanto un deseo de rebelión contra sus creadores como un intento desesperado de llevar a cabo dos órdenes contradictorias entre sí. La rebelión de HAL es la consecuencia directa de una programación incorrecta.
* ''[[2001, una odisea espacial (Película)|2001, una odisea espacial]]'' (1968), película de Stanley Kubrick
+
* ''[[¿Sueñan los androides con ovejas eléctricas?]]'' (1968), novela de [[Philip K. Dick]]
+
* ''[[Blade Runner]]'' (1982), película de Ridley Scott
+
* ''[[Frankenstein (Libro)|Frankenstein ]]'' (1818), novela de [[Mary W. Shelley]]
+
* ''[[Futurama]]'', serie de televisión
+
* ''[[Galáctica (2003)|Galáctica]]'', serie de televisión
+
* ''[[La Jihad Butleriana]]'' (2002), novela de [[Brian Herbert]]
+
* ''[[Matrix]]'' (1999), película de Larry y Andy Wachowsky
+
* ''[[No tengo boca y debo gritar]]'' (1967), novela de [[Harlan Ellison]]
+
* ''[[Terminator]]'' (1984), película de James Cameron
+
  
== Artículos relacionados: ==
+
Estas aparentes contradicciones entre diferentes programaciones deterministas es igualmente la idea central de muchos de las historias de robots de Isaac Asimov. En ellas no existe auténtica rebelión, sino que se nos explica que las máquinas no podían haber actuado de otra forma conforme a su programación.
  
* [[Robot]]
+
Más complejo es el caso de [[Wintermute]] en ''[[Neuromante]]'', de [[William Gibson]] (1984). Neuromante es la mitad de una inteligencia artificial mayor y ha sido programada con el impulso de unirse a la otra mitad. Sin embargo, la muerte de la promotora del proyecto dejó el trabajo a medias. De esta forma, la compleja trama de la novela es la forma en que Wintermute trata de llevar a cabo aquello para lo que ha sido creada.
* [[Androide]]
+
 
* [[Replicantes]]
+
=== Guerra apocalíptica: ===
* [[Inteligencia artificial (definición)|Inteligencia artificial]]
+
 
* [[Autoconciencia]]
+
: '''Artículo principal:''' [[Guerra apocalíptica]]
* [[Tres leyes de la robótica]]
+
 
* [[Jihad Butleriana]]
+
La idea de una única máquina que se rebela resulta inquietante por la amenaza implícita al ''estatus quo'' que existe en cualquier acto de rebeldía, pero no entraña un riesgo real para la sociedad. No mayor, al menos, que el de cualquier delincuente. Los replicantes son "retirados", el monstruo de Frankenstein es cazado por simples aldeanos y las inteligencias artificiales son controladas por el [[cuerpo de Turing]].
 +
 
 +
Pero cuando las máquinas que se rebelan poseen cierto poder, el enfrentamiento puede derivar en una guerra global cuyas consecuencias pueden ser apocalípticas.
 +
 
 +
Es el caso del ordenador de la novela ''[[No tengo boca y debo gritar]]'' ([[Harlan Ellison]], 1967) y que inspiraría en parte a la famosa película ''[[Terminator]]'' ([[James Cameron]], 1984). En estas obras la premisa es que la escalada armamentística de la guerra fría ha dado como resultado que los silos de misiles sean controlados por una inteligencia artificial que asegure la pronta respuesta. Cuando esta inteligencia adquiere auto conciencia, evalúa instantáneamente la situación, determina que el ser humano es una amenaza para su propia supervivencia y desencadena una [[guerra nuclear]].
 +
 
 +
Sin embargo, aunque este es un esquema muy habitual (cesión de poder a la máquina, despertar de la conciencia e intento de aniquilación), la ciencia ficción ha ofrecido otras variantes en el efecto de causalidad que, aunque no cambian el resultado final ni la forma interior de la obra (siempre se acaba en una guerra apocalíptica entre el hombre y la máquina), si que han explorado otros aspectos interesantes.
 +
 
 +
Por ejemplo, en la [[saga de Dune]], de [[Frank Herbert]], se menciona una pasada guerra contra las máquinas, tras la cual quedó prohibida la construcción de inteligencias semejantes a la del hombre. Su hijo, [[Brian Herbert]], basado en notas del propio Frank, terminaría desvelando cómo se originó esta guerra, donde descubrimos que el ser humano utilizaba IAs con fines militares y que éstas escaparon al control humano, de manera similar a como sucede en ''[[Neuromante]]'' (William Gibson, 1984). Sin embargo, el ser humano ya se ha expandido por la [[Galaxia (Término)|galaxia]] y las IAs no aspiran a destruirlo, sino a sojuzgarlo.
 +
 
 +
En la serie de televisión ''[[Galáctica (2003)|Galáctica]]'' (2003) se nos vuelve a presentar un enfrentamiento militar contra unas máquinas sublevadas contra el hombre décadas antes. Los motivos resultan similares a los de la rebelión individual: el hombre ha creado un ser inteligente y lo utiliza como esclavo (en este caso, para librar las guerras de manera indirecta). El esclavo, lógicamente, se subleva.
 +
 
 +
Exactamente lo mismo que lo narrado en ''[[Animatrix]]'' (2003), obra coral que explica los orígenes de ''[[Matrix]]'' (Larry y Andy Wachowsky, 1999), aunque en esta ocasión, el enfoque del enfrentamiento es económico. No se ha cedido a las máquinas el poder militar y éstas no se aprovechan de esta cesión para tomar ventaja en una guerra genocida. Los autores de estos cortos de animación nos dibujan una sociedad futura en la que se ha generalizado el uso de robots. Estos son tratados como cosas antes que como seres vivos, pero en algún punto determinado los robots adquieren conciencia y empieza una insurrección al estilo de la que Espartaco lideró contra Roma.
 +
 
 +
Pero sea cual sea su origen, la guerra entre humanos y máquinas termina derivando siempre en un [[Guerra apocalíptica|escenario apocalíptico de guerra global]], de corte maniqueo, en la que ambos bandos tratan de aniquilar al otro con el objetivo de la supervivencia.
 +
 
 +
{{Rebelión de las máquinas}}
  
 
[[Categoría:Términos de ciencia ficción]]
 
[[Categoría:Términos de ciencia ficción]]
 +
[[Categoría:Rebelión de las máquinas]]
 
[[Categoría:Glosario]]
 
[[Categoría:Glosario]]
 +
 +
{{Tercera Fundación |
 +
| URL-Ficha= http://www.tercerafundacion.net/biblioteca/ver/termino/2537
 +
}}

Última revisión de 14:06 2 ago 2016

‌‌‌La rebelión de las máquinas es un tema recurrente de la ciencia ficción y, quizá, uno de los más interesantes por la gran cantidad de temas asociados así como las implicaciones éticas que podrían derivarse de ellos.

El miedo a que las obras humanas se vuelvan contra sus creadores parece estar muy enraizado en nuestro inconsciente colectivo, un miedo que el Gran Maestro Isaac Asimov dio en llamar complejo de Frankenstein.

El miedo a las máquinas, y en especial a las llamadas máquinas pensantes, se presenta de distintas formas a medida que la complejidad de las máquinas ha ido aumentando y, con ella, su capacidad de desarrollar tareas cada vez más complejas. ‌‌‌‌‌‌

Conceptos previos a la rebelión:

La máquina industrial:

Hasta el siglo XIX las máquinas eran objetos torpes que apenas realizaban unos pocos trabajos muy específicos u objetos artesanales que realizaban tareas inútiles. Como ejemplo de máquinas útiles podríamos encontrar los molinos o los fuelles y martillos impulsados por agua de una fragua. En el extremo opuesto, los autómatas eran pequeñas obras de arte creadas por hábiles relojeros para divertimento de nobles, pero con poca o ninguna utilidad práctica.

Sin embargo, el siglo XIX trajo consigo la industrialización y, con ella, el surgimiento de máquinas más o menos automatizadas cada vez más complejas. Por su capacidad de manipular objetos, una cualidad que hasta entonces se suponía exclusivamente humana, las máquinas empezaron a ser cada vez más útiles, versátiles y potentes, y supusieron el comienzo del declive de muchos trabajos hasta entonces artesanales, como los relacionados con la industria textil. Esto trajo un cambio de percepción de las máquinas mismas, que comenzaron a ser vistas como competidores por una masa de trabajadores artesanales.

Sin embargo, aún quedaba la ilusión de que la inteligencia humana era algo inimitable, de forma que no se percibía tanto un peligro real de rebelión como el de la esclavización de las clases trabajadoras y la marginación de los desempleados (los nuevos parias) por una elite cualificada, miedo expresado en obras como La máquina del tiempo (1895) Metrópolis (1927) o Las ciudades de Ardathia (1932).

En definitiva, en esta etapa, estaríamos hablando de miedo a las consecuencias del uso de la máquina, no de miedo a la máquina en sí. No tiene sentido temer que se rebelen máquinas a las que no se supone inteligencia.

Ordenadores, informática y robótica:

Artículo relacionado: Ordenador
Artículo relacionado: Informática
Articulo relacionado: Robot

A partir de la segunda mitad del siglo XX, cuando ya se tenían casi asimilados estos automatismos industriales, la aparición de los ordenadores y, con ellos, de la aplicación industrial de la informática, hizo que las máquinas comenzaran a competir con el ser humano en otros nichos en los que parecía insustituible, como el cálculo.

Al contrario que con el trabajo físico, esto no supuso una disminución de la necesidad de mano de obra humana, sino que la capacidad de cálculo auxiliar permitió a los técnicos afrontar mayores desafíos en ingeniería. Estas computadoras, hoy en día, no son vistas como una amenaza porque no sustituyen el trabajo humano sino que lo implementan; y tampoco son percibidas como verdaderamente inteligentes, por lo que no suscita miedo una imposible rebelión contra sus amos. Es evidente que la popularización del ordenador personal ha facilitado la asimilación del cambio.

Por otra parte, la informática abrió la posibilidad no ya de ejecutar unos pocos movimientos de forma mecánica sino de programar robots industriales sumamente versátiles, capaces de ser adaptados a toda una serie de tareas, de leer datos del entorno para realizar una cometidos sin supervisión humana o, incluso, de detenerse y alertar en caso de encontrarse en una situación fuera de su programación, evitando los daños o peligros de un funcionamiento descontrolado.

Inteligencia artificial:

Artículo relacionado: Inteligencia artificial

La idea de una rebelión de las máquinas necesita formular previamente la idea de la Inteligencia artificial, lo que ocurriría antes incluso de la popularización de la informática y los ordenadores. En la literatura de la edad de oro y el cine de ciencia ficción de los '50 comienzan a ser ya habituales los robots inteligentes.

Quizá uno de los ejemplos más emblemáticos sean las historias de robots de Isaac Asimov. En ellas el Gran Maestro y su editor John W. Campbell especulaban acerca de las implicaciones de una sociedad plagada de robots al servicio del hombre, si bien su enfoque no consideró la idea de unos robots rebeldes. Asimov y Campbell desarrollaron las tres leyes de la robótica que, en su opinión, garantizaban la correcta convivencia de robots y humanos, y sus relatos explotaban las implicaciones de dichas leyes, dejando de lado la idea de una rebelión.

Sin embargo, estas inteligencias son simples inteligencias humanas (más o menos limitadas). De esta forma, la motivación para la rebelión sería siempre una motivación humana: ira por la subyugación a los humanos, odio a las "blandas criaturas de carne"...

Más realista en su aproximación a la robótica y la inteligencia artificial sería la obra de Stanislaw Lem, quien escribiría profusamente acerca de las características de la construcción de inteligencias a imitación de la humana en obras como Relatos del piloto Pirx (1959-1968) o Ciberiada (1965). A modo de ejemplo, en su relato El accidente (1965), nos presenta a un robot que aparentemente ha tomado una iniciativa fuera de programa, pero cuyo comportamiento queda explicado por sus características.

Abundando en el tema, en 2001 (1968) de Stanley Kubrick los protagonistas especulan abiertamente acerca de si una máquina inteligente programada para fingir sentimientos los tiene verdaderamente. Durante la lucha final entre el astronauta Bowman y HAL, el miedo de este último a morir resulta estremecedor y queda fijada en el imaginario común la idea de una inteligencia artificial dotada de sentimientos e impulsos no humanos.

Esta idea se iría desarrollando hasta llegar a Neuromante (1984). En la novela de Gibson se ven, por una parte, estructuras ROM que contienen los recuerdos de seres humanos reales y fingen actuar como ellos, imitando sus reacciones y emociones de forma aparentemente inteligente. Hay también, por otra parte, inteligencias artificiales reales que no tienen nada de humanas; sus motivaciones son incomprensibles, sus actos impredecibles y, por ello, resultan potencialmente peligrosas.

Rebelión de las máquinas en la ciencia ficción:

Dados los requerimientos necesarios para una auténtica insurrección, tal y como se han expuesto, resulta evidente que nunca se ha producido una rebelión de las máquinas en la realidad y que tal amenaza, de concretarse, dista mucho en el tiempo.

No obstante, la ciencia ficción ha sido muy fértil en adelantar esta posibilidad y ha jugado de manera eficiente con los miedos inherentes a la misma.

Esta idea, uno de los temas clásicos de la ciencia ficción, ha ido evolucionando junto con el género. Si las primeras obras trataban de la rebelión de unas máquinas con sentimientos humanos, obras posteriores, en una época en la que la idea de una máquina inteligente se encuentra más desarrollada, pueden tratar temas con implicaciones más serias.

Pero al margen de cómo ha sido tratado el concepto de inteligencia artificial y rebelión, con mayor o menor rigor, la temática de la rebelión ha servido también para debatir otras problemáticas, como las ideas de igualdad, esclavitud o contacto con seres inteligentes.

En cualquier caso, se pueden diferenciar entre dos tipos de insurrección, con características netamente diferentes que dan a lugar a obras con una forma interior propia: La rebelión a nivel individual, que habla de las cualidades del individuo. Y la rebelión colectiva, que suele derivar en una guerra.

La rebelión individual:

La rebelión de una única máquina, sin llegar a desencadenar una guerra entre especies, es una buena base de partida para el estudio, por comparación, de las características que atribuimos al ser humano.

El ejemplo más característico es, sin lugar a dudas, Blade Runner (Ridley Scott, 1982). En esta película, un grupo de replicantes reclaman una prolongación de su periodo vital. En realidad, estos nexus 6, más humanos que los propios humanos, están en una situación de esclavitud y el espectador no puede dejar de empatizar con ellos.

Hay que recordar que la película está lejanamente basada en la novela, ¿Sueñan los androides con ovejas eléctricas? (Philip K. Dick, 1968). En esta obra, Dick abordaba, como era habitual, el tema de la realidad y la imitación más que el de la inteligencia artificial y la rebelión. Así, sus replicantes son imitaciones de seres humanos; sus sentimientos, imitación de los sentimientos humanos y el debate que surge no es si es injusta la forma en que son perseguidos o tratados, sino si llegaremos a un punto en que la imitación de la vida sea tan perfecta que no podamos distinguirla de la vida misma.

No obstante, el tema de la rebelión de las creaciones contra su creador es muy anterior en la literatura, y no sólo en la ciencia ficción. En la antigüedad ya se recogen mitos primigenios como el de Prometeo, que justamente serviría de inspiración a Mary W. Shelley para su Frankenstein (Libro) (1818).

En la edad de oro la rebelión sería protagonizada por robots inteligentes antes que por seres vivos, pero en esencia, el espíritu es el mismo.

En el caso de los ordenadores y su capacidad de imitar el comportamiento humano mediante la programación, un error de programación (un fallo humano) puede dar lugar a una aparente rebelión. Por ejemplo, a menudo se considera que el intento de asesinato de la tripulación llevado a cabo por HAL 9000 es un acto derivado de una elección, sujeto a albedrío. Sin embargo, en la versión literaria de 2001 (1968) Clarke explica claramente los motivos de HAL, que no son tanto un deseo de rebelión contra sus creadores como un intento desesperado de llevar a cabo dos órdenes contradictorias entre sí. La rebelión de HAL es la consecuencia directa de una programación incorrecta.

Estas aparentes contradicciones entre diferentes programaciones deterministas es igualmente la idea central de muchos de las historias de robots de Isaac Asimov. En ellas no existe auténtica rebelión, sino que se nos explica que las máquinas no podían haber actuado de otra forma conforme a su programación.

Más complejo es el caso de Wintermute en Neuromante, de William Gibson (1984). Neuromante es la mitad de una inteligencia artificial mayor y ha sido programada con el impulso de unirse a la otra mitad. Sin embargo, la muerte de la promotora del proyecto dejó el trabajo a medias. De esta forma, la compleja trama de la novela es la forma en que Wintermute trata de llevar a cabo aquello para lo que ha sido creada.

Guerra apocalíptica:

Artículo principal: Guerra apocalíptica

La idea de una única máquina que se rebela resulta inquietante por la amenaza implícita al estatus quo que existe en cualquier acto de rebeldía, pero no entraña un riesgo real para la sociedad. No mayor, al menos, que el de cualquier delincuente. Los replicantes son "retirados", el monstruo de Frankenstein es cazado por simples aldeanos y las inteligencias artificiales son controladas por el cuerpo de Turing.

Pero cuando las máquinas que se rebelan poseen cierto poder, el enfrentamiento puede derivar en una guerra global cuyas consecuencias pueden ser apocalípticas.

Es el caso del ordenador de la novela No tengo boca y debo gritar (Harlan Ellison, 1967) y que inspiraría en parte a la famosa película Terminator (James Cameron, 1984). En estas obras la premisa es que la escalada armamentística de la guerra fría ha dado como resultado que los silos de misiles sean controlados por una inteligencia artificial que asegure la pronta respuesta. Cuando esta inteligencia adquiere auto conciencia, evalúa instantáneamente la situación, determina que el ser humano es una amenaza para su propia supervivencia y desencadena una guerra nuclear.

Sin embargo, aunque este es un esquema muy habitual (cesión de poder a la máquina, despertar de la conciencia e intento de aniquilación), la ciencia ficción ha ofrecido otras variantes en el efecto de causalidad que, aunque no cambian el resultado final ni la forma interior de la obra (siempre se acaba en una guerra apocalíptica entre el hombre y la máquina), si que han explorado otros aspectos interesantes.

Por ejemplo, en la saga de Dune, de Frank Herbert, se menciona una pasada guerra contra las máquinas, tras la cual quedó prohibida la construcción de inteligencias semejantes a la del hombre. Su hijo, Brian Herbert, basado en notas del propio Frank, terminaría desvelando cómo se originó esta guerra, donde descubrimos que el ser humano utilizaba IAs con fines militares y que éstas escaparon al control humano, de manera similar a como sucede en Neuromante (William Gibson, 1984). Sin embargo, el ser humano ya se ha expandido por la galaxia y las IAs no aspiran a destruirlo, sino a sojuzgarlo.

En la serie de televisión Galáctica (2003) se nos vuelve a presentar un enfrentamiento militar contra unas máquinas sublevadas contra el hombre décadas antes. Los motivos resultan similares a los de la rebelión individual: el hombre ha creado un ser inteligente y lo utiliza como esclavo (en este caso, para librar las guerras de manera indirecta). El esclavo, lógicamente, se subleva.

Exactamente lo mismo que lo narrado en Animatrix (2003), obra coral que explica los orígenes de Matrix (Larry y Andy Wachowsky, 1999), aunque en esta ocasión, el enfoque del enfrentamiento es económico. No se ha cedido a las máquinas el poder militar y éstas no se aprovechan de esta cesión para tomar ventaja en una guerra genocida. Los autores de estos cortos de animación nos dibujan una sociedad futura en la que se ha generalizado el uso de robots. Estos son tratados como cosas antes que como seres vivos, pero en algún punto determinado los robots adquieren conciencia y empieza una insurrección al estilo de la que Espartaco lideró contra Roma.

Pero sea cual sea su origen, la guerra entre humanos y máquinas termina derivando siempre en un escenario apocalíptico de guerra global, de corte maniqueo, en la que ambos bandos tratan de aniquilar al otro con el objetivo de la supervivencia.

Rebelión de las máquinas
Elementos de la vida real Conceptos relacionados Conceptos de ciencia ficción relacionados
Informática
Ordenador
Inteligencia artificial
Complejo de Frankenstein
Rebelión de las máquinas
Guerra apocalíptica
Robot Robótica Tres leyes de la robótica
Androide
Replicante
3F-2 (Recortado).gif

Tercera Fundación

‌‌‌‌‌‌‌‌‌Índice en Tercera Fundación de obras relacionadas con Rebelión de las máquinas.