Me espanta casi tanto como la liviandad con la que se está tomando que te puedan grabar en todo momento con el google glass.
Drones y Asimov, la robótica descuidada
Leyes de la Robótica de Isaac Asimov:
- Un robot no puede hacer daño a un humano.
- Un robot obedecerá las órdenes humanas, a menos que estas contradigan la primera ley
- Un robot protegerá su propia existencia excepto si esto entra en conflicto con la primera o segunda ley
Hoy leía un artículo (el original aquí por Antonio Orbe) que hablaba de los drones y las leyes de la robótica de Asimov y justo venía pensando en ese tema hace rato, lo que me resultó interesante es que consideran en el artículo ingenuo a Asimov por lo siguiente
Resulta curioso lo visionario y a la vez ingenuo que resultaba Asimov. En un sentido, ya prevé robots autónomos, cosa que ahora empezamos a ver. Es ingenuo porque los robots que estamos empezando a fabricar están en buena medida diseñados para matar.
Y no puedo estar más en desacuerdo, Isaac Asimov redactó dichas leyes porque sabía perfectamente que el primer uso que se le iban a dar a los robots era matar gente, no era ingenuo, tenía miedo y con razón.
Años separan estos principios de Asimov de los actuales robots asesinos, llamados inocentemente "drones" pero que deberían llamarse por su verdadero nombre, porque no estan para vigilar, ese fue el primer uso que se les dio, no, estan para matar y es el uso que tendrán durante los próximos cientos de años (si es que llegamos a tanto).
Toda la literatura de Robots de Asimov está escrita pensando en las consecuencias de las tres leyes, el planteo es curioso siempre, son todas las ocurrentes situaciones que pueden poner en manifiesto el uso de las mismas, demostrando cuando son necesarias y cuando, por más ley que tengas, también todo puede fallar ante las circunstancias humanas.
Básicamente es un manual de por donde deberíamos ir con el uso de los robots. En el universo de Asimov los autómatas operan individualmente con suficiente inteligencia para interpretar las tres leyes y reaccionar rápidamente para cumplirlas, hoy todavía no son tan autónomos pero si lo suficiente como para identificar un blanco y eliminarlo.
Con "eliminar" no nos referimos a un videojuego, hablamos de matar a una persona, no a otro robot, algo que atenta con la primera ley de Asimov, ahí es donde remarco que él sabía perfectamente que el primer uso que se le iba a dar a la robótica era el homicidio.
Ahora bien, algo que nunca resolvió Asimov es esa etapa entre un CPU básico con programación limitada y los cerebros positrónicos fantásticos que suponía en sus cuentos y le permitían a estas inteligencias artificiales un nivel de abstracción tal como para entender las tres leyes. En todo ese camino tal vez un siglo de matanzas nos desvíen demasiado del objetivo del viejo Isaac, pero bueh, al menos nos avisó! Estamos fabricando robots sin moral.
Y vos ¿Cómo te sentís con la idea de que hay en este momento un avioncito a control remoto vigilando cada uno de tus actos sin que vos puedas notarlo?
Si te gustó esta nota podés...
Otros posts que podrían llegar a gustarte...
Comentarios
-
Las leyes de Asimov aún no han sido puestas a prueba y para eso habrá que esperar hasta que el teorema de Gödel sea refutado. La cuestión central es: ¿Puede un sistema conocerse a si mismo? ¿Puede programarse algo para que llegue a la autoreferencia? Si eso sucediera algún día, sería suicida fabricar un robot con la posibilidad de matar pues se convertiría en un soldado más, sólo que absolutamente libre de decidir qué hacer con sus armas sin la posibilidad de lavarle el cerebro con patriotismos, sentimientos religiosos y todas esas supercherías que utiliza la política.
Douglas Hofstadter se acercó a la idea en "Gödel, Escher, Bach: un Eterno y Grácil Bucle" pero le dieron el Pulitzer y los titulares de prensa se fueron para el lado de lo cuasi religioso y malinterpretando a Sagan dijeron: ¡Oh ¿Entonces el hombre no es más que el camino que usa el universo para conocerse a si mismo?
-
Cada vez que veo un drone me acuerdo de Screamers (http://www.imdb.com/title/tt0114367/).
Estos y la ametralladora de 50 mm. capaz de alimentarse solita de... carne... me empiezan a dar un poquito de miedo.
-
1) Dios crea al humano.
2) El humano crea al Robot
3) El robot mata al humano.
4) El robot se convierte en dios.
-------
Lo que pasa es que Estados Unidos, piensa todo para la guerra porque está en su naturaleza, y eso no va a cambiar en el corto plazo, por que si miramos para Japón, seguramente encontraremos más proyectos robóticos enfocados a servir al hombre que para la guerra activa.
Para los Robots autómatas todavía falta, no se si mucho pero falta, pero lo que si vamos a ver son Drones, manejados remotamente por adolescentes belicosos, y eso ya es de temer.
En algún lugar leí sobre el entrenamiento a jóvenes con video juegos bélicos, puede ser? o me equivoco?
En conclusión creo que lo peor que le puede pasar a la humanidad es un robot con moral humana.
-
+10 por mencionar el libro G.E.B.!!!
Sofocador dijo:
Las leyes de Asimov aún no han sido puestas a prueba y para eso habrá que esperar hasta que el teorema de Gödel sea refutado. La cuestión central es: ¿Puede un sistema conocerse a si mismo? ¿Puede programarse algo para que llegue a la autoreferencia? Si eso sucediera algún día, sería suicida fabricar un robot con la posibilidad de matar pues se convertiría en un soldado más, sólo que absolutamente libre de decidir qué hacer con sus armas sin la posibilidad de lavarle el cerebro con patriotismos, sentimientos religiosos y todas esas supercherías que utiliza la política.
Douglas Hofstadter se acercó a la idea en "Gödel, Escher, Bach: un Eterno y Grácil Bucle" pero le dieron el Pulitzer y los titulares de prensa se fueron para el lado de lo cuasi religioso y malinterpretando a Sagan dijeron: ¡Oh ¿Entonces el hombre no es más que el camino que usa el universo para conocerse a si mismo?
-
chimango dijo:
Me espanta casi tanto como la liviandad con la que se está tomando que te puedan grabar en todo momento con el google glass.
Desde hace muchos años pueden estar grabandote sin que te des cuenta. Desde una camara de vigilancia, hasta una camara en un boton. Hace mucho que perdimos la privacidad. Las google glass son solo una forma un poco mas discreta que un celular, pero para nada discreta.
-
No hace falta una cámara para que "ellos" sepan que es lo que hacemos, desde un simple informe del Veraz, ya tienen tu vida catalogada, los punteros políticos saben quienes son cada uno de nosotros, la Anses, aqui en nuestro país, es una gran matrix que sabe todos y cada uno de nuestros pasos, y pasando por las cámaras de seguridad que ya hay en casi todas las ciudades, hasta programas que saben qué paginas vitás, qué correos enviás, etc, que de seguro las compañías proveedoras de internet lo tienen...asi que preocuparse por un dron cuadracóptero volando en mi cabeza sería solo perder el tiempo...
-
Fabio: creo que al final del post, dentro del tono de chiste, estás planteando una pregunta muy seria.
Es indudable que el nivel de indefensión ciudadana de acá al futuro va a crecer tanto que nos va a obligar a tomar muchas medidas tecnológicas solamente para poder dormir tranquilos.
Hoy por más que tengas un fusil de asalto automático en casa igualmente estás más indefenso de lo que estaba el granjero del sxix que tenia una escopeta.
Sin contar el hecho de que toda esa movida viene acompañada de una propaganda destinada a criminalizar cualquier intento de autodefensa.
Si la´unica forma de protegerse del estado futuro va a ser manejar una buena cantidad de tecnología es inevitable que la brecha entre países industrializados y países, digamos, pobres va a ser cada vez mayor y más insalvable.
Lo que yo le critico a la ciencia ficción es que nunca tienen en cuenta el acceso restringido que habría a las cosas que imaginan y el coflicto qie eso generará.
Antes de que los robots puedan entender las leyes de la robotica va a haber guerras entre los que pueden y los que no pueden pagarse los robots.
-
Hernan dijo:
chimango dijo:
Me espanta casi tanto como la liviandad con la que se está tomando que te puedan grabar en todo momento con el google glass.
Desde hace muchos años pueden estar grabandote sin que te des cuenta. Desde una camara de vigilancia, hasta una camara en un boton. Hace mucho que perdimos la privacidad. Las google glass son solo una forma un poco mas discreta que un celular, pero para nada discreta.
Todo lo contrario, una cámara de vigilancia de las de hace tiempo no es mas que un loop cerrado. En cambio un celular ahora o los glass tienen detrás una serie de sistemas y software que extraen una cantidad aterradora de información del video o imágenes que capturan y queda a disposición probablemente del mejor postor. Aún mas, con trucos tan tontos como la difusión a través de redes sociales tipo FB (ése que en las fotos te pide que identifiques la cara de tu amigo) estas cosas se vuelven socialmente aceptables porque todos los taraditos filman a todos los demás para subirlo a su red. Añadile a eso que de los pocos que se plantean esto como problema el 90% dice "ah, pero yo no tengo nada que ocultar! que me importa?" y la cosa se va muy rápido a la mierda en detrimento tuyo y mio, pero a favor de las corporaciones y grupos que supieron ver esto un poco de antemano para sacar provecho.
El cerebro del robot no será positrónico, pero ya está tomando forma antes de que lo pongan en una carcasa. Y alguien le dijo al principio "don´t be evil", pero o no entendía o ya se olvidó.
-
justino
04/04/2013 - 11:27:16
Dios es Robot!!!!!
fedexweb dijo:
1) Dios crea al humano.
2) El humano crea al Robot
3) El robot mata al humano.
4) El robot se convierte en dios.
-------
Lo que pasa es que Estados Unidos, piensa todo para la guerra porque está en su naturaleza, y eso no va a cambiar en el corto plazo, por que si miramos para Japón, seguramente encontraremos más proyectos robóticos enfocados a servir al hombre que para la guerra activa.
Para los Robots autómatas todavía falta, no se si mucho pero falta, pero lo que si vamos a ver son Drones, manejados remotamente por adolescentes belicosos, y eso ya es de temer.
En algún lugar leí sobre el entrenamiento a jóvenes con video juegos bélicos, puede ser? o me equivoco?
En conclusión creo que lo peor que le puede pasar a la humanidad es un robot con moral humana.
-
wilson
04/04/2013 - 12:57:07
Por ahora no son verdaderos robots, no? es decir son avioncitos a control remoto.
Mas alla de todo, si sos especialista en robotica, pensar robots militares debe ser de lo mas interesante!
Dificil resistir la tentacion de crear algo que pueda exterminar al ser humano.
-
ezk 99 (outt
04/04/2013 - 21:45:10
a mi me expanta algo demasiado boludo, estuve jugando un par de titulos berretas pero con graficos lindos para IOS (modern combat 4 zero hour) y te presentan a los drones (ya sea en forme de tanquesito con una torreta de cinta infinita o un helicoptero muy resistente a las balas) como meros automatas dependientes del control a distancia de un humano. Tecnicamente Azimov aun puede dormir en paz desde ese punto de vista...
