21/05/2014 - 10:36:02 por Fabio Baccaglioni
- 6178 - 20 - En Tecnología
Imaginen este escenario, tenemos un automóvil robot como los que Google está tratando de usar en el día a día, poco a poco logran que le aprueben el proyecto y en los próximos años serán la norma para manejarse en algunos lugares.
Autos que no cometen errores, cumplen con todas las normas de tránsito, no te meten la trompa, no te encierran, hacen todo como deben.
Pero he aquí que tenemos a un cerebro electrónico sin responsabilidad alguna tomando decisiones responsables pero ¿Y si sucede algo que requiera de una decisión terminal?
Tengamos en cuenta siempre las tres leyes de la Robótica de Asimov, la razón es simple, el viejo pensó en todo y las leyes son el resumen de años y años de novelas escritas para encontrarles la vuelta.
1.- Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2.- Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
3.- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.
No hay máquina actual capaz de cumplir con estas tres leyes porque ninguna tiene conciencia de las palabras allí expresadas, es más bien cómo debería manejarse que cómo lo harán. Pero si basamos nuestros diseños en estas simples reglas empezamos a encontrarnos con los mismos problemas que Asimov expresó en sus novelas.
Asimov las pensó en 1942 cuando la idea era de Robots humanoides que compartirían la vida con nosotros, pero no pensó en robots que tuviesen cualquier otra forma mucho más pragmática.
Aquí es donde entran los automóviles autónomos, son robots, con forma de auto, no hay un valle de inquietante que nos moleste por su forma aunque es probable que a algunos piensen en Christine y deliren con la idea de un auto asesino.
No, el tema con los autos de este tipo es que tienen que tomar decisiones cuyas consecuencias van más allá de lo que pueden ver pero que un humano podría ver.
El caso típico es un accidente, imaginen que la programación del auto hará todo lo posible para evitarlo, es lógico, es la 1ª ley, es fácil de cumplir, o al menos intentarlo. Pero he aquí un poblema "asimoviano", que hará un auto de estos cuando su decisión condene a el conductor de su propio auto o a un ómnibus lleno de niños. La máquina debe elegir entre dos y por cómo se plantean las cosas en la actualidad los niños deberán aprender a nadar si caen desde ese puente sobre el río
es decir, la máquina no puede ver más allá de su propio escenario.
¿La responsabilidad de quien será? La máquina ha decidido matar a aquellos niños, el bus escolar es ahora un cementerio sumergido, el auto decidió que era más importante proteger a sus pasajeros mas no al otro vehículo porque en su programación no existe más que evitar al tercero, no salvarlo.
Creo que es una de las partes más divertidas que le tocará a los legisladores del futuro ¿Quien cuernos es responsable? Ah! que dilema, el pasajero ya ni debería preocuparse por manejar, supongamos es el año 2050 y que ni sabe cómo conducir, ya nadie sabe, lo hacen las máquinas demasiado bien. Ante un accidente ¿Es responsable el fabricante? ¿El dueño? ¿El programador? ¿La máquina?
¿En qué punto es la máquina lo suficientemente compleja para ser "responsable" de una decisión? al fin y al cabo una computadora decide lo que le programamos que decida, cada opción que toma fue predefinida, si el autor del software no fue capaz de ver en su imaginación un escenario dado, no tendrá idea de cómo actuar.
No existe, todavía, ni la libertad de elegir ni de imaginar o crear una abstracción para suponer un resultado, sería genial, pero estamos en pañales al respecto, apenas estas máquinas tienen la capacidad de interpretar lo que las rodea a corta distancia.
Ayer Carlos (@Bad_Sky) me pasaba una nota sobre cómo los autos robóticos le van a hacer un hueco económico a las entidades que cobran
multas y sí, es un hecho, actualmente tenemos un sistema basado en los errores humanos (o su mala intención) para generar ingresos estatales.
Con autos robóticos no necesitás ni de policías de tránsito!
Pero supongamos que el programa del auto puede analizar no sólo los objetos inmediatos sino predecir la trayectoria de estos y de muchos más a una mayor distancia ¿Debería optar éste por salvar a aquellos malditos niños y "asesinar" a su pasajero? ¿Quien decide la ética del software? ¿La moral puede ser programada? ¿Es ajustable por el dueño? ¿Aceptar o Cancelar?
Si nos diesen la posibilidad de configurar la sensibilidad moral de nuestro robot ¿Cómo la ajustarían? ¿Todo para mí, nada para él? ¿Se cagarían en todos?
Es intersante esto porque Asimov pensó que los robots vendrían con estos valores de fábrica pero yo temo que, al menos la primer generación robótica, nos dará esto configurable de forma egoísta.
Y es ese egoísmo el que deberá ser legislado, regulado, no la máquina en sí, la configuración moral de la misma.
Si te gustó esta nota podés...
21/05/2014 - 10:59:54
