Riesgo de autorreplicación de los robots, y la IA consciente

Literatura. Pensamiento. Ciencia. Crítica.
Por Manuel Gayol Mecías.

Wikimedia Commons

Una situación preocupante en la relación entre la inteligencia artificial y la conciencia del ser humano es el hecho de la autorreplicación de las máquinas con la intención de conquistar y colonizar otros planetas, según también señala Ray Kurzweil. Esto implicaría el riesgo de que los robots se separen del homo sapiens; o que ya estos quedaran desplazados a un segundo término debido a factores de superación de inteligencia y, a su vez, del riesgo mismo de que el control humano sobre los robots se vaya de las manos.

Flickr. Ray Kurzweil.

En este sentido, ya se habla de tomar, desde ahora, una serie de pasos que impongan estrictas medidas de seguridad a la hora de programar la replicación a los robots para que después ellos la lleven a cabo por sí mismos, al cumplir el objetivo de conquistar otros planetas, aunque siempre seguirían bajo la dirección y control de los seres humanos. Y es entonces que me surge una inquietud más, por lo que me hago dos preguntas, y son (primero) la de si los robots se pudieran autorreplicar, ¿serían entonces, ellos mismos, capaces de programarse el chip de seguridad para continuar bajo el control humano? Y (segundo), ¿podrían aceptar que los humanos los continúen programando? La respuesta a la primera interrogante vendría a ser: si no aceptan el chip de seguridad, es porque se rebelarían. Y la respuesta a la segunda pregunta sería aquella de que si lo aceptan o no pueden rebelarse por algún mecanismo de seguridad impuesto antes de su “fabricación creativa”, de hecho, seguirían siendo máquinas y no personas. Pero bien, esto concerniente a la segunda respuesta podría ser otra historia, la historia de una disyuntiva de ética tecnocientífica y hasta filosófica para el futuro.

Public domain. ¿Podrían ser libres los robots?

Independientemente de todo, otra cuestión inquietante es que podría suceder un error, una negligencia o una acción consciente por parte de los humanos. También hay que contar con la diferencia que ya mencioné en anteriores escritos que tocan el tema del libre albedrío, y que siempre existirá entre la conciencia artificial de la máquina y la conciencia profunda e inteligente de los humanos. Que esta diferencia se borrara (es decir que el libre albedrío se pusiera también a favor de los robots), por muy grande, sutil o mínima que fuera en relación con los sapiens, podría ser una brecha por donde escaparía el descontrol de las máquinas. Por otra parte, desde el momento en que los robots tengan el libre albedrío, o la posibilidad siquiera de poseerlo, insisto, contarían asimismo con la potencialidad, la intención y hasta con una supuesta razón para liberarse de cualquier tipo de sujeción.

Stephen Hawking. Wikipedia.

En el sentido de la intención de esa “supuesta razón” que pudieran tener los robots para “liberarse”, debido a esa perspectiva científica de convertirlos en “personas” (Kurzweil), es entonces que los androides podrían esgrimir la “razón” de hacer valer su “derecho” para ser considerados “gentes” o “individuos” (aun cuando sean máquinas. Claro, en ese tiempo existirían ya leyes, reglas y códigos de éticas. ¿Qué sería la ciencia sin la ética?, pues correría el peligro de convertirse en una abominación); y no solo exigir, sino que además parecería “moral” el hecho de rebelarse, para obtener su libertad ante el “yugo” de los humanos. En este sentido pasaría que los androides serían perseguidos por detectives o cazarrecompensas, como sucede en la famosa película de Blade Runner, creándose un nuevo drama existencial dado por un antecedente futurista de ficción.

En otro sentido, pienso que cabe un paralelismo con Stephen Hawking en cuanto a lo que este otro reconocido científico llegó a discernir y advirtió acerca del cuidado que hay que tener a la hora de tratar de contactar a los extraterrestres, puesto que siempre serán —muy posiblemente ellos los que nos contacten a nosotros (1)— una raza de inteligencia superior, y no se puede descontar que las intenciones de los mismos sean pacíficas sino que, contrariamente, estas sean hostiles, como igualmente sucedió en la conquista de América por los españoles; en que las intenciones de estos últimos eran las de apoderarse de las tierras y del oro a sangre, fuego y espada.

Esto mismo es lo que podría suceder si a los robots (antes de enviarlos al cosmos a poblar planetas), como cuentan ya con una mente y una tecnología probablemente superior a la nuestra, les dé por conquistarnos a nosotros; o simplemente de los planetas poblados regresen para destruirnos, y así quitarse la Historia y el peso de la Humanidad de encima. Algo quizás parecido a lo que sucede en los varios filmes de Terminator, y otras tantas películas de ciencia-ficción.

Naturalmente, es lógico que a este tipo de premonición (2) se le anteponga el también razonable argumento del mecanismo de seguridad, del cual ya he hablado, un mecanismo de garantía de no agresión, o de no atentar contra los humanos. En otras palabras, de la necesidad de contar con un sentido de confiabilidad en el que no se les permita a las máquinas dar un paso más allá de lo que pueda constituir un peligro para nosotros (3).

De esta manera el ser humano intentará neutralizar cualquier tipo de peligro ante los robots por muy superinteligentes que fueran. Por supuesto, esto es lo que habría que hacer. Pero ¿hasta dónde podrá ser confiable este mecanismo o recurso de seguridad?; ¿hasta qué punto habrá derecho de violar los valores de los androides, ya que pudieran ser considerados “personas”?

Es muy probable entonces que, en relación con este tema, desde el momento en que los robots puedan ser desestabilizados, desarticulados por los humanos, su conciencia artificial fuera a ser afectada de manera que nunca la máquina llegaría a ser una réplica exacta de la humana. Esa diferencia —como ya dije— podría constituirse en un escollo fuerte, de rango conceptual, para definir si esa realidad es posible en una era “poshumanista”, o clarificando mejor la idea: si es posible que llegara en la realidad a consumarse el poshumanismo (4). La máquina entonces —todavía en existencia paralela al humano— no contaría con este recurso (de un total libre albedrío, lo que significaría que puede tener cierto poder de decisiones) en su conciencia; aun cuando no superaría al hombre en relación con un reservorio de percepciones, de sentimientos o  cualesquiera sean. Y es aquí cuando pudiera ocurrir un estancamiento en el desarrollo exponencial y evolutivo de la humanidad misma, al llegar a esta disyuntiva, la de tener que decidir si se dota a la inteligencia artificial de un completamiento humano para la conciencia robótica o se la inhibe de determinadas sensibilidades con el propósito de garantizar un uso seguro de las máquinas.

Por el camino de Ray Kurzweil, ya que él es uno de los más reconocidos y persistentes especialistas de IA, todo este plan para llegar al poshumanismo es factible de convertirse en realidad, y según su polémico criterio, las máquinas para el año 2029 pueden perfectamente estar a la par de la inteligencia del hombre, y en poco tiempo más superar la inteligencia humana. Sobre esto, el mencionado antropólogo y filósofo Carlos Beorlegui —interpretando los planteamientos de Kurzweil— nos dice:

Esto se conseguirá en tres fases: en la primera se irán implantando prótesis artificiales en el cerebro humano, que complementarán la capacidad intelectual de los humanos; a continuación, se dará una superación de la inteligencia humana, biológica, por la artificial y, en tercer lugar, se procederá a una colonización del universo, con robots inteligentes y conscientes, de tal modo que la IA será el futuro de la inteligencia, y el futuro del universo. Todo el universo está orientado hacia la inteligencia, pero la inteligencia biológica será superada por la IA (5).

Tomado de “La Estudiantil Estéreo”.

En mi criterio, el día que la conciencia pase a formar parte de las máquinas, ese será un momento de indudable transformación del género humano a una trascendencia de vida, en el caso hipotético de que pudiera llegarse a ello. En realidad, no hay una firme convicción de esto, ya que hay diferentes ideas y teorías sobre el tema en los campos de la ciencia y la tecnología. Pero dado el caso de que pudiera lograrse, la conciencia seguirá siendo tal, como mismo lo ha sido para nuestro cuerpo físico, y de hecho continuará profundizando su evolución en busca de nuevos cambios, nuevas épocas, nuevas eras acercándose cada vez más a su sustanciación como energía espiritual.

______________________________________

Notas:

1.- Remito a la película de ciencia-ficción, Contact (1997), dirigida por Robert Zemeckis. Es una adaptación cinematográfica de la novela del mismo nombre escrita por Carl Sagan en 1985. Sin embargo, en este filme la intención del astrofísico Carl Sagan fue un tanto la de mostrar la superioridad y la manera de ayudarnos. Pero al tiempo de que nos quiere hacer ver además que los terrestres aún no estamos preparados para acercarnos a ellos.

2.- Premonición bien usada por escritores y cineastas de ciencia ficción. Recordemos las películas ya citadas de Blade Runner (1984) y Terminator (1984), además de muchos otros filmes que tocan este tema, como son El hombre bicentenario (1999), Inteligencia Artificial (2001), Yo, Robot (2004) y Ex Machina (2015), entre muchos más.

3.- Consultar el artículo de Beatriz Guillén: “El gran botón rojo que puede parar la inteligencia artificial” (Deep Mind, una start-up de Google, ha desarrollado un mecanismo que puede interrumpir toda la inteligencia de sus sistemas en caso de emergencia), en El País [Tecnología], Madrid, 26 de dic. 2016: http://tecnologia.elpais.com/tecnologia/2016/12/20/actualidad/1482236622_315819.html?rel=mas.

4.- “El término poshumanismo es utilizado, por una parte, como forma de designar las corrientes de pensamiento que aspiran a una superación del humanismo en el sentido de las ideas y las imágenes provenientes del Renacimiento clásico. Así se pretende actualizar dichas concepciones al siglo XXI implicando frecuentemente una asunción de las limitaciones de la inteligencia humana”.

“Otro uso del término poshumanismo es el que suele asimilarse como destino del transhumanismo al superar las limitaciones intelectuales y físicas mediante el control tecnológico de su propia evolución biológica (véase Ingeniería genética humana), emergiendo un estado existencial fisicalista en el que ya se domina la trascendencia natural de la humanidad”.

“Poshumano o post-humano [sic] es un concepto notablemente originado en los campos de la ciencia ficciónfuturologíaarte contemporáneofilosofía. Esos múltiples orígenes interactuantes han contribuido a la profunda confusión en torno a las similitudes y diferencias entre el posthumano [sic] del ‘posmodernismo’ y el poshumano del ‘transhumanismo’”.

“El poshumanismo y la tecnología han ido avanzando de la mano ya que actualmente es una forma de poder acceder al conocimiento. Redes sociales, teléfonos inteligentes y demás son instrumentos que nos facilitan el acceso al conocimiento. El conocimiento relativista y el cuántico han sido diferentes tipos de conocimiento con el cual hemos ido desarrollando la tecnología debido a que estos surgen propiamente de la física moderna”.

“Además de que el poshumanismo toma cuerpo de naturaleza en la sociedad, las hipótesis sobre el surgimiento de un nuevo prototipo humano abren un período de reflexión sobre las promesas de la tecnología”. (Wikipedia).

5.- Carlos Beorlegui; Tendencias21 de las Religiones. Ver en: http://www.tendencias21.net/De-la-vida-a-la-conciencia-la-emergencia-y-el-futuro-de-la-mente-humana_a39850.html.

_______________________________________

 

 

©Manuel Gayol Mecías. All Rights Reserved

 

 

 

 

 

 

 

About the Author

Manuel Gayol Mecías is the Director and Editor of Palabra Abierta (“Open Word”; mu.gayol3@gmail.com), and a Cuban writer and newspaper man. He holds a 1979 Master’s Degree in Hispanoamerican Language and Literature from the University of Havana. He was a Senior Researcher in the Literature Investigation Center of the Casa de las Américas (Havana, 1979-1989), and was a member of the editorial board of Vivarium magazine, a review published under the tutelage of the Archidiosis of Havana. He has published innumerable critic essays, short stories, novels and poetry in many Cuban and foreign literary reviews and newspapers, and has been the recipient of various prizes in literature, among them the Short Story National Prize of the Union of Writers and Artists of Cuba (UNEAC), 1992, and the Enrique Labrador Ruiz International Short Story Prize of the Círculo de Cultura Panamericano (Pan-American Circle of Culture) of New York, 2004. He worked as editor of Contact Review, from 1994 to 1996. He worked at La Opinión Spanish Newspaper as Editor and Copyeditor (1998 to 2014). At present, he is one of the founders of the Club del Pensamiento Crítico at the Huntington Park Public Library. He is a member of Cuban History Academy in Exile, and a member of Cuban Pen Club in Exile, too, and vice president of Vista Larga Foundation. Published works include Retable of the Fable (Poems, Editorial Letras Cubanas, 1989); Multiple Appraisal of Andre’s Bello (Compilation, Editorial Casa de las Américas, 1989); The Jaguar is an Amber Dream (Short stories, Provincial Center of the Havana Book Editorial, 1990); Return of the Doubt (Poems, Vivarium Editions, Archiepiscopal Center of Studies, Havana, 1995); The Night of the Great Goth (Short stories, Neo Club Editions, Miami, 2011); Eyes of Red Goth (Novel, Neo Club Editions, Miami, 2012); Marja and the Eye of the Maker (Novel, Neo Club Editions, Miami, 2013); Inverse Trip towards the Reign of the Imagery (Essays, Neo Club Editions, Miami, 2014) and The Fire’s Artifice (Short stories, Neo Club Editions, Miami, 2014); Coincidencias de un editor (o el exorcismo de Joel Merlín) (Novel, Palabra Abierta/Neo Club Ediciones, Eastvale/Miami, 2015); La penumbra de Dios (De la Creación, la Libertad y las Revelaciones) (Essays, Palabra Abierta/Neo Club Ediciones, Eastvale/Miami, 2015); Las vibraciones de la luz (Ficciones divinas y profanas). Intuiciones II (Essays, Palabra Abierta Ediciones/ Alexandria Library Publishing House, Eastvale/Miami, 2016).

Leave a Comment