Drones y Asimov, la robótica descuidada



Leyes de la Robótica de Isaac Asimov:
  • Un robot no puede hacer daño a un humano.
  • Un robot obedecerá las órdenes humanas, a menos que estas contradigan la primera ley
  • Un robot protegerá su propia existencia excepto si esto entra en conflicto con la primera o segunda ley

Hoy leía un artículo (el original aquí por Antonio Orbe) que hablaba de los drones y las leyes de la robótica de Asimov y justo venía pensando en ese tema hace rato, lo que me resultó interesante es que consideran en el artículo ingenuo a Asimov por lo siguiente

Resulta curioso lo visionario y a la vez ingenuo que resultaba Asimov. En un sentido, ya prevé robots autónomos, cosa que ahora empezamos a ver. Es ingenuo porque los robots que estamos empezando a fabricar están en buena medida diseñados para matar.


Y no puedo estar más en desacuerdo, Isaac Asimov redactó dichas leyes porque sabía perfectamente que el primer uso que se le iban a dar a los robots era matar gente, no era ingenuo, tenía miedo y con razón.

Años separan estos principios de Asimov de los actuales robots asesinos, llamados inocentemente "drones" pero que deberían llamarse por su verdadero nombre, porque no estan para vigilar, ese fue el primer uso que se les dio, no, estan para matar y es el uso que tendrán durante los próximos cientos de años (si es que llegamos a tanto).

Toda la literatura de Robots de Asimov está escrita pensando en las consecuencias de las tres leyes, el planteo es curioso siempre, son todas las ocurrentes situaciones que pueden poner en manifiesto el uso de las mismas, demostrando cuando son necesarias y cuando, por más ley que tengas, también todo puede fallar ante las circunstancias humanas.

Básicamente es un manual de por donde deberíamos ir con el uso de los robots. En el universo de Asimov los autómatas operan individualmente con suficiente inteligencia para interpretar las tres leyes y reaccionar rápidamente para cumplirlas, hoy todavía no son tan autónomos pero si lo suficiente como para identificar un blanco y eliminarlo.

Con "eliminar" no nos referimos a un videojuego, hablamos de matar a una persona, no a otro robot, algo que atenta con la primera ley de Asimov, ahí es donde remarco que él sabía perfectamente que el primer uso que se le iba a dar a la robótica era el homicidio.

Ahora bien, algo que nunca resolvió Asimov es esa etapa entre un CPU básico con programación limitada y los cerebros positrónicos fantásticos que suponía en sus cuentos y le permitían a estas inteligencias artificiales un nivel de abstracción tal como para entender las tres leyes. En todo ese camino tal vez un siglo de matanzas nos desvíen demasiado del objetivo del viejo Isaac, pero bueh, al menos nos avisó! Estamos fabricando robots sin moral.

Y vos ¿Cómo te sentís con la idea de que hay en este momento un avioncito a control remoto vigilando cada uno de tus actos sin que vos puedas notarlo?

Categoría: Tecnología Etiquetas:  armas asimov drone drones guerra robots tecnología
Otros posts que podrían llegar a gustarte...

Comentarios

  • chimango    

    Me espanta casi tanto como la liviandad con la que se está tomando que te puedan grabar en todo momento con el google glass.

    • Responder
    • Citar
    • Comentado:
  • Sofocador    

    Las leyes de Asimov aún no han sido puestas a prueba y para eso habrá que esperar hasta que el teorema de Gödel sea refutado. La cuestión central es: ¿Puede un sistema conocerse a si mismo? ¿Puede programarse algo para que llegue a la autoreferencia? Si eso sucediera algún día, sería suicida fabricar un robot con la posibilidad de matar pues se convertiría en un soldado más, sólo que absolutamente libre de decidir qué hacer con sus armas sin la posibilidad de lavarle el cerebro con patriotismos, sentimientos religiosos y todas esas supercherías que utiliza la política.
    Douglas Hofstadter se acercó a la idea en "Gödel, Escher, Bach: un Eterno y Grácil Bucle" pero le dieron el Pulitzer y los titulares de prensa se fueron para el lado de lo cuasi religioso y malinterpretando a Sagan dijeron: ¡Oh ¿Entonces el hombre no es más que el camino que usa el universo para conocerse a si mismo?

    • Responder
    • Citar
    • Comentado:
  • Cattel    

    Cada vez que veo un drone me acuerdo de Screamers (http://www.imdb.com/title/tt0114367/).

    Estos y la ametralladora de 50 mm. capaz de alimentarse solita de... carne... me empiezan a dar un poquito de miedo.

    • Responder
    • Citar
    • Comentado:
  • fedexweb    

    1) Dios crea al humano.
    2) El humano crea al Robot
    3) El robot mata al humano.
    4) El robot se convierte en dios.

    :D
    -------
    Lo que pasa es que Estados Unidos, piensa todo para la guerra porque está en su naturaleza, y eso no va a cambiar en el corto plazo, por que si miramos para Japón, seguramente encontraremos más proyectos robóticos enfocados a servir al hombre que para la guerra activa.

    Para los Robots autómatas todavía falta, no se si mucho pero falta, pero lo que si vamos a ver son Drones, manejados remotamente por adolescentes belicosos, y eso ya es de temer.

    En algún lugar leí sobre el entrenamiento a jóvenes con video juegos bélicos, puede ser? o me equivoco?

    En conclusión creo que lo peor que le puede pasar a la humanidad es un robot con moral humana.

    • Responder
    • Citar
    • Comentado:
    • Revisado: 02/04/2013 - 19:14:41
  • +10 por mencionar el libro G.E.B.!!!

    Sofocador dijo:

    Las leyes de Asimov aún no han sido puestas a prueba y para eso habrá que esperar hasta que el teorema de Gödel sea refutado. La cuestión central es: ¿Puede un sistema conocerse a si mismo? ¿Puede programarse algo para que llegue a la autoreferencia? Si eso sucediera algún día, sería suicida fabricar un robot con la posibilidad de matar pues se convertiría en un soldado más, sólo que absolutamente libre de decidir qué hacer con sus armas sin la posibilidad de lavarle el cerebro con patriotismos, sentimientos religiosos y todas esas supercherías que utiliza la política.
    Douglas Hofstadter se acercó a la idea en "Gödel, Escher, Bach: un Eterno y Grácil Bucle" pero le dieron el Pulitzer y los titulares de prensa se fueron para el lado de lo cuasi religioso y malinterpretando a Sagan dijeron: ¡Oh ¿Entonces el hombre no es más que el camino que usa el universo para conocerse a si mismo?

    • Responder
    • Citar
    • Comentado:
  • Hernan    

    chimango dijo:

    Me espanta casi tanto como la liviandad con la que se está tomando que te puedan grabar en todo momento con el google glass.



    Desde hace muchos años pueden estar grabandote sin que te des cuenta. Desde una camara de vigilancia, hasta una camara en un boton. Hace mucho que perdimos la privacidad. Las google glass son solo una forma un poco mas discreta que un celular, pero para nada discreta.

    • Responder
    • Citar
    • Comentado:
  • Javier    

    No hace falta una cámara para que "ellos" sepan que es lo que hacemos, desde un simple informe del Veraz, ya tienen tu vida catalogada, los punteros políticos saben quienes son cada uno de nosotros, la Anses, aqui en nuestro país, es una gran matrix que sabe todos y cada uno de nuestros pasos, y pasando por las cámaras de seguridad que ya hay en casi todas las ciudades, hasta programas que saben qué paginas vitás, qué correos enviás, etc, que de seguro las compañías proveedoras de internet lo tienen...asi que preocuparse por un dron cuadracóptero volando en mi cabeza sería solo perder el tiempo...

    • Responder
    • Citar
    • Comentado:
  • ME hiciste dar ganas de ver (una vez mas) I´m Robot! :D

    • Responder
    • Citar
    • Comentado:
  • leonardod    

    Fabio: creo que al final del post, dentro del tono de chiste, estás planteando una pregunta muy seria.
    Es indudable que el nivel de indefensión ciudadana de acá al futuro va a crecer tanto que nos va a obligar a tomar muchas medidas tecnológicas solamente para poder dormir tranquilos.
    Hoy por más que tengas un fusil de asalto automático en casa igualmente estás más indefenso de lo que estaba el granjero del sxix que tenia una escopeta.
    Sin contar el hecho de que toda esa movida viene acompañada de una propaganda destinada a criminalizar cualquier intento de autodefensa.
    Si la´unica forma de protegerse del estado futuro va a ser manejar una buena cantidad de tecnología es inevitable que la brecha entre países industrializados y países, digamos, pobres va a ser cada vez mayor y más insalvable.
    Lo que yo le critico a la ciencia ficción es que nunca tienen en cuenta el acceso restringido que habría a las cosas que imaginan y el coflicto qie eso generará.
    Antes de que los robots puedan entender las leyes de la robotica va a haber guerras entre los que pueden y los que no pueden pagarse los robots.

    • Responder
    • Citar
    • Comentado:
  • chimango    

    Hernan dijo:

    chimango dijo:
    Me espanta casi tanto como la liviandad con la que se está tomando que te puedan grabar en todo momento con el google glass.



    Desde hace muchos años pueden estar grabandote sin que te des cuenta. Desde una camara de vigilancia, hasta una camara en un boton. Hace mucho que perdimos la privacidad. Las google glass son solo una forma un poco mas discreta que un celular, pero para nada discreta.

    Todo lo contrario, una cámara de vigilancia de las de hace tiempo no es mas que un loop cerrado. En cambio un celular ahora o los glass tienen detrás una serie de sistemas y software que extraen una cantidad aterradora de información del video o imágenes que capturan y queda a disposición probablemente del mejor postor. Aún mas, con trucos tan tontos como la difusión a través de redes sociales tipo FB (ése que en las fotos te pide que identifiques la cara de tu amigo) estas cosas se vuelven socialmente aceptables porque todos los taraditos filman a todos los demás para subirlo a su red. Añadile a eso que de los pocos que se plantean esto como problema el 90% dice "ah, pero yo no tengo nada que ocultar! que me importa?" y la cosa se va muy rápido a la mierda en detrimento tuyo y mio, pero a favor de las corporaciones y grupos que supieron ver esto un poco de antemano para sacar provecho.
    El cerebro del robot no será positrónico, pero ya está tomando forma antes de que lo pongan en una carcasa. Y alguien le dijo al principio "don´t be evil", pero o no entendía o ya se olvidó.

    • Responder
    • Citar
    • Comentado:
  • Pablo    

    Ya cuando tratan de ingenuo a Asimov hay algo que suena raro

    • Responder
    • Citar
    • Comentado:
  • justino    

    Dios es Robot!!!!!


    fedexweb dijo:

    1) Dios crea al humano.
    2) El humano crea al Robot
    3) El robot mata al humano.
    4) El robot se convierte en dios.

    :D
    -------
    Lo que pasa es que Estados Unidos, piensa todo para la guerra porque está en su naturaleza, y eso no va a cambiar en el corto plazo, por que si miramos para Japón, seguramente encontraremos más proyectos robóticos enfocados a servir al hombre que para la guerra activa.

    Para los Robots autómatas todavía falta, no se si mucho pero falta, pero lo que si vamos a ver son Drones, manejados remotamente por adolescentes belicosos, y eso ya es de temer.

    En algún lugar leí sobre el entrenamiento a jóvenes con video juegos bélicos, puede ser? o me equivoco?

    En conclusión creo que lo peor que le puede pasar a la humanidad es un robot con moral humana.

    • Responder
    • Citar
    • Comentado:
  • wilson    

    Por ahora no son verdaderos robots, no? es decir son avioncitos a control remoto.

    Mas alla de todo, si sos especialista en robotica, pensar robots militares debe ser de lo mas interesante!

    Dificil resistir la tentacion de crear algo que pueda exterminar al ser humano.

    • Responder
    • Citar
    • Comentado:
  • a mi me expanta algo demasiado boludo, estuve jugando un par de titulos berretas pero con graficos lindos para IOS (modern combat 4 zero hour) y te presentan a los drones (ya sea en forme de tanquesito con una torreta de cinta infinita o un helicoptero muy resistente a las balas) como meros automatas dependientes del control a distancia de un humano. Tecnicamente Azimov aun puede dormir en paz desde ese punto de vista...

    • Responder
    • Citar
    • Comentado:
  • McNifico    

    http://youtu.be/SNPJMk2fgJU Mirá que lindo bichito volador...

    • Responder
    • Citar
    • Comentado:

Deje su comentario:

Tranquilo, su email nunca será revelado.
La gente de bien tiene URL, no se olvide del http/https
Para evitar bots, si se tardó mucho en leer la nota seguramente no sirva y tenga que intentar dos veces

Negrita Cursiva Imagen Enlace


comentarios ofensivos o que no hagan al enriquecimiento del post serán borrados/editados por el administrador