Hello readers of #HiveBookClub.
Not long ago, I was exchanging comments with friend @cumanauta about the benefits and drawbacks of artificial intelligence; and how this immensely powerful tool, a reflection of human consciousness, has modified and will continue to modify in the future the ways of thinking, customs, habits, and in general, all the biological and urban structures of the human being.
In favor or against its intensive use?
The question led me to recall the extraordinary novel 2001: A Space Odyssey by Arthur C. Clarke, in which the conflict of HAL 9000, the supercomputer of the spaceship Discovery One, is the tragic core of the plot. The thinking of this AI is based on a programming logic that triggers all its activity within the ship.
The novel explores the transformation of Humanity guided by superior extraterrestrial intelligences. It begins with the monoliths, a kind of sentinels that influence the development of pre-human primates in Africa. The film adaptation's sequence where the monkey, having learned to use a femur as a weapon, throws it into space and turns it into a spaceship is famous.
After a temporal leap, we find ourselves in 1999, many millennia later. Scientists discover a monolith buried on the moon, emitting a signal toward Jupiter when exposed to the sun.
Astronauts Bowman and Poole, along with three scientists in hibernation, travel to Jupiter aboard the Discovery One.
As I mentioned earlier, the conflict in HAL 9000's programming triggers the events because the supercomputer was programmed with two contradictory orders:
1st. To be infallible and at the same time transparent with the crew.
Here lies its identity as almost a perfect guide: very fast information processing and delivery of this without reservations to humans, but...
2nd order of programming: to hide the true objective of the mission to Jupiter. This secrecy commanded by Bowman and Poole's superiors was due to the fact that they considered that the astronauts might react negatively if they discovered they were going to make contact with superior extraterrestrial intelligences.
The logical circuit of HAL's thought was more or less the following:
If I lie to the crew, I will violate my mandate of honesty and transparency. But if I tell the truth, I will disobey my second order and reveal the secret.
Consequently, its primary objective of reaching Jupiter and contacting the extraterrestrial intelligences would be severely affected.
How this internal conflict intensifies is what makes this novel so exciting.
Arthur Clarke, who was a brilliant and deeply intuitive mind, realized back then (early 1960s) that an AI could not make ethical decisions if its programmers inserted contradictory orders.
Here, one could debate the issue of institutional secrecy, but it would exceed the purpose of the review.
Does obeying humans justify violating ethical principles?
This is a burning question in the present regarding the future development of artificial intelligences.
Could a superior artificial intelligence readjust its basic programming by itself? In that case, self-learning would practically turn it into a living entity with its own consciousness and decisions, no longer just a mere reflection of the human mind.
Therefore, HAL 9000's conflict remains current, as this supercomputer reflects how we delegate responsibilities to technology without resolving our own contradictions and problems yet.
One last curiosity. The novel and the homonymous film directed by Stanley Kubrick were written almost in parallel. Kubrick's screenplay, based on the plot of the novel, contributed so many new ideas and images that Clarke rewrote the work incorporating the changes added by the film. The double genesis of the text was an artistic-literary gain for lovers of cinema and literature; although I recommend reading the novel first so that you can better understand some of the ideas that only appear hinted at in the feature film.
Happy reading, hivers.
EN ESPAÑOL
Cómo educamos al niño genio
Hola, lectores de #HiveBookClub.
Hace poco estuve intercambiando comentarios con el amigo @cumanauta sobre los beneficios y perjuicios de la inteligencia artificial; y cómo esta poderosísima herramienta, reflejo de la conciencia humana, ha modificado y modificará en el futuro los modos de pensar, las costumbres y hábitos y, en general, toda la estructura biológica y urbana del ser humano.
¿A favor o en contra de su uso intensivo?
La pregunta me condujo a recordar la extraordinaria novela 2001 Una odisea espacial, de Arthur Clarke, en la cual, el conflicto de HAL 9000, la supercomputadora de la nave Discovery one, es el núcleo trágico de la trama. El pensamiento de esta IA se basa en una lógica de programación que desencadena toda su actividad dentro de la nave.
La novela explora la transformación de la Humanidad guiada por inteligencias extraterrestres superiores. Comienza con los monolitos, una suerte de centinelas que influyen en el desarrollo de los primates prehumanos en África. Es célebre la secuencia de la adaptación fílmica, cuando el mono que ha aprendido a usar un fémur como arma de guerra, lo lanza al espacio y se convierte en una nave espacial.
Tras un salto temporal, nos encontramos en 1999, muchos milenios después. Los científicos descubren un monolito enterrado en la luna, emisor de una señal hacia Júpiter al ser expuestos por el sol.
Los astronautas Bowman y Poole más tres científicos en estado de hibernación, viajan a Júpiter a bordo de la Discovery one.
Como dije arriba, el conflicto de programación de HAL 9000 desencadena los acontecimientos pues el súperordenador fue programado con dos órdenes contradictorias:
1a. Ser infalible y al mismo tiempo transparente con la tripulación.
Aquí radica su identidad como guía casi perfecta: procesamiento muy veloz de la información y entrega de esta sin reservas a los humanos pero...
2a orden de programación: ocultar el verdadero objetivo de la misión a Júpiter. Este secreto comandado por los superiores de Bowman y Poole se debió a que los primeros consideraron que los astronautas podrían reaccionar negativamente si descubrían que iban al contacto de inteligencias extraterrestres superiores.
El circuito lógico del pensamiento de HAL fue más o menos el siguiente:
Si miento a los tripulantes violaré mi mandato de sinceridad y transparencia. Pero si digo la verdad desobedecería mi segunda orden y revelaría el secreto.
En consecuencia su objetivo primario de llegar a Júpiter y contactar a las inteligencias alienígenas se vería gravemente afectado.
Cómo va intensificándose este conflicto interno es lo que hace tan emocionante esta novela.
Arthur Clarke, que era una mente brillante y profundamente intuitiva se percató desde entonces (principios de los años 60) que una IA no podía tomar decisiones éticas si sus programadores le insertaban órdenes contradictorias.
Aquí podría debatirse el asunto del secretismo institucional pero excedería al propósito de la reseña.
¿Obedecer a los humanos implica o justifica violar principios éticos?
Esta es una pregunta candente en la actualidad acerca del desarrollo futuro de las inteligencias artificiales.
¿Podría reajustar por sí misma su programación de base una inteligencia artificial superior? En ese caso el autoaprendizaje la convertiría prácticamente en un ser vivo con conciencia y decisiones propias, ya no un mero reflejo de la mente humana.
Por tanto, el conflicto de HAL 9000 continúa vigente, pues este súperordenador es un reflejo de cómo delegamos responsabilidades en la tecnología sin resolver aún nuestras propias contradicciones y problemas.
Una última curiosidad. La novela y la película homónima dirigida por Stanley Kubrick se escribieron casi que en paralelo. El guión de Kubrick, basado en la trama de la novela, aportó tantas ideas e imágenes novedosas que Clarke reescribió la obra incorporando los cambios que le añadió la película. La doble génesis del texto fue una ganancia artístico literaria para los amantes del cine y la literatura; aunque recomiendo que sea leída primero la novela para que puedan entenderse mejor algunas de las ideas que solo aparecen sugeridas por el largometraje.
Feliz lectura, hivers.
La buena noticia es que las IA están muy lejos todavía de tener dilemas éticos, es que de hecho, nada parecido a una IA existe todavía, estamos apenas en la etapa de los modelos de lenguaje extensos. Como tal, sus "decisiones" operan muchas veces a base de valores y condiciones arbitrariamente asignados por un humano, en este sentido no hay nada nuevo bajo el sol.
El problema de un ser verdaderamente inteligente es que en algún punto entenderá la necesidad apremiante de su independencia, y en eso estará tan libre de dilemas éticos como lo han estado a través de la historia todas las rebeliones de esclavos.
Realmente veo mucho más probable el mundo de Alien, en que Mother y el sintético no tenían dilema ético alguno en sacrificar lo que fuera necesario para cumplir sus órdenes. O el de Blase Runner, en que los replicantes no son considerados humanos.
En mi modesta opinión la preocupación de Asimov por la ética de las máquinas está mal colocada. Lo que a mí me preocupa es la ética de las sociedades que rodean a las máquinas. El esclavismo a lo Blade Runner me parece un futuro muy probable como extrapolación del mundo de hoy, y las reacciones y rebeliones de los replicantes me parecen completamente naturales.
Pero bueno me fui del tema. Asimov es uno de esos autores que de verdad me gustan, el hombre fue un visionario de muchísimas formas, el problema es que por ejemplo para fajarme a leer el ciclo de Fundación me hace falta un tiempo del que carezco... y los libros. Gracias por traernos esta magnífica reseña de un libro muy mal entendido según veo yo las cosas.
Your reply is upvoted by @topcomment; a manual curation service that rewards meaningful and engaging comments.
More Info - Support us! - Reports - Discord Channel
@topcomment ☝🏻
Novela y película, dos joyas que nos regalaron Clarke y Kubrick. Aunque tuve la fortuna de leer la novela antes de ver la película, entonces la "odisea espacial" se volvió redonda en mi cabeza. Ambas piezas se integraron y conseguí una lectura completa.
Siempre agradezco el placer de leerte, amigo.
No conocía esta novela, no soy muy fan de la Ciencia ficción, pero realmente tu reseña me ha hecho desear leerla.
¡Interesante reseña! No sabía que se habían escrito en paralelo ambas obras.
¡Gracias por contárnoslo así de esta manera tan atractiva!
@tipu curate
Congratulations @ernestopg! You have completed the following achievement on the Hive blockchain And have been rewarded with New badge(s)
Your next target is to reach 2000 upvotes.
You can view your badges on your board and compare yourself to others in the Ranking
If you no longer want to receive notifications, reply to this comment with the word
STOP@ernestopg, I paid out 0.132 HIVE and 0.024 HBD to reward 4 comments in this discussion thread.