De la ética de los autos autómatas



Me voy a meter con un tema que es más bien humo pero que no estaría mal empezar a discutir hoy mismo. Estoy hablando de quién y cómo decidirá en un futuro no tan lejano ya no cómo nos comunicamos sino cómo nos movemos, los autos autónomos.

Hoy en día estamos empezando a sufrir las "consecuencias" de las telecomunicaciones controladas y digitadas por dos o tres empresas que poseen la gran mayoría de nuestras relaciones sociales, Facebook, Google, Microsoft, Amazon y en menor medida Apple (que con el tiempo resultó menos invasiva que las otras mencionadas).

Google te sugiere lugares, Facebook espía tus comportamientos y ajusta la publicidad, quien le pague a ellos recibe el beneficio de estar en primera plana de tu grafo social para recibir la sugerencia de que consumas lo de ellos. Ahora bien, si viajamos en el tiempo a un futuro no tan lejano ¿Bajo qué código de ética se moverán los automóviles?



El automóvil está pasando de ser un bien a ser un servicio. Todo el esquema de automóviles autónomos tiene una pega, uno ya no es dueño del vehículo, uno pasa a ser usuario. Esto es exactamente lo que pasó con nuestros teléfonos, ya no nos pertecen, los utilizamos y Google o Apple "nos dejan" utilizarlos mientras respetemos sus términos y condiciones y, principalmente, sus caprichos.

No tenemos derecho a hacer lo que querramos con nuestros teléfonos, no podemos instalar un sistema operativo distinto, ni siquiera podemos borrar aplicaciones del fabricante, en muchos casos no podemos ni instalar una app libre o acceder a distintas regiones de la memoria del equipo.

Nos dicen que es por nuestro bien, que así son más seguros, les creemos: les hemos dado el poder, el control total, sobre nuestras vidas, agendas, comportamientos y patrones. Somos explorados a diario y dimos nuestro consentimiento. Ya nos acostumbramos a esto.

Cualquier opción libre fue sistemáticamente ridiculizada y negada por nosotros mismos en pos de la comodidad de una solución única que nos ofrezca todo lo que creemos necesitar.

Toda una plataforma de telefonía puede fracasar si no tiene Whatsapp, Google, Facebook, Instagram o Netflix, no importa si es mejor, si es más segura, si te ofrece una alternativa o sencillamente si se ve más lindo, si no tiene ese microuniverso de aplicaciones invasivas no lo queremos. Así han muerto TODOS los proyectos de software alternativo (tanto libres como privativos) y es la realidad de la segunda década del siglo XXI.

Ahora bien, ¿En qué se diferencia esto con los automóviles? en nada. Estamos tan sólo en el comienzo de una nueva historia de la cual ya conocemos la introducción, nos imaginamos el desarrollo y sospechamos el desenlace.



En los próximos años tendremos una primer etapa con una interesante diversidad de opciones, luego la etapa de estabilización y caída de las que no son tan logradas y hacia el desenlace los jardines vallados que impedirán la compatibilidad entre pares, negarán la posibilidad de un ecosistema y cerrarán filas en una o dos opciones finales.

Hoy podemos ver decenas de compañías que van desde los mismos fabricantes de automóviles a proyectos impulsados por tecnológicas como Google, Uber, Lyft y hasta Apple (que parece que olvidará la idea de hacer un automóvil y sólo se quedará en el software, no es mala).

Pero de aquí a diez o quince años (o menos, ya ni idea cuánto tardará) quedará apenas un grupo ínfimo de tres o cuatro que, al igual que en la telefonía o en las computadoras de escritorio, derivará en un duopolio o hasta un monopolio.

Ahora veamos esto desde otro punto de vista, supongamos que es el año 2040, tenemos nuestro Google Car con su sistema de guía, tan sólo le pedimos que nos lleve del punto A al punto B, ya no hay tráfico en las calles, o es mínimo en comparación al 2017, el auto decide por nosotros el trayecto.

Pero he aquí que Google es el proveedor del software, Google que sabe perfectamente qué me gusta, qué como, qué compro, sabe todo esto y mucho más. Combina mis datos con sus bases pero además con mi familia, sabe dónde nos movemos, no nos podemos escapar de Google porque tiene siempre un ojo sobre nosotros.

Entonces un día McDonalds decide pagar por publicidad "in car" (esto me lo invento, ni idea qué nombre llevará) y esta modalidad no significa que veré un banner en el tablero de un automóvil, no, como dice Tom Holwerda de OSNews.com, el auto tomará una ruta levemente desviada a la ruta ideal para pasar lentamente por delante de un McDonalds.

Pero he aquí que no sólo termina con una pasadita, además de cambiar la ruta el auto me ofrecerá alguna promoción, un descuento, una recomendación. Qué tentador!

Ahora bien, si yo quería ir a otro restaurante como destino hasta puede llegar el punto en que mi Google Car me diga "No Fabio, mejor no pises ese restaurante, tiene mala fama, más de uno se ha indigestado" y lo borra de mis preferencias, lo elimina, ya no lo sugiere más porque no está pagando su cuotita de Adwords a Google.



Estoy usando un ejemplo extremo por absurdo pero notarán que no es del todo descabellado, es totalmente plausible, es algo que HOY puede suceder y hasta puedo asegurarles que ya sucede de una forma algo más pasiva.

Si uno no tiene su comercio cargado en Google, si uno no pauta, y para colmo si el SEO es un problema, una búsqueda ya no te dará como resultado ese lugar que tanto necesitás sino que aparecerá aquél que HOY ya tiene pauta e hizo la tarea de SEO (aunque esta no te sirva porque ni siquiera te de lo que querías).

Los resultados de Google son hoy un desastre y ¿Por qué vendría a ser mejor en un vehículo? Hace tiempo que Google abandonó el "don't do evil", Facebook es mucho peor ya que desde el vamos Mark Zuckerberg se cagó en todos sus usuarios y se mofó de ellos, sin embargo tiene la red social más grande y bestial del mundo además de las otras dos que le siguen (Whatsapp e Instagram).

Facebook es el ejemplo perfecto de la más absoluta falta de ética posible, no tienen ningún descaro, te inflan views de videos robados de otras fuentes, te mienten con las estadísticas, roban información y la cruzan entre las tres apps aun cuando no diste tu consentimiento, todo por más y más publicidad. Nunca vas a ver una publicidad de algo que realmente necesites.

Este es el costo de haber recibido tanto de forma gratuita, es que cuando la app es grautita en realidad estás pagando con tu vida, tu privacidad, tus datos, tu todo.

Ah, aclaro antes que nada: está lleno de profetas del "buenaondismo" del futuro, basta señores, amo la tecnología, soy un tecnócrata, pero la tecnología no es un fin, es un medio como mucho, y a veces la usamos mal. El "buenaondismo" que asume que todo lo que viene asociado a la tecnología es bueno por sí mismo es de un nivel intelectual bajísimo más asociado a la religión, la fe y la fantasía. Un poquito de oscuridad racional siempre viene bien :D



Pero avancemos un poco más, la necesidad de una regulación es más importante hoy que nunca, principalmente ANTES de que estas grandes compañías se apropien de las legislaturas de todo el mundo (presupuesto ya tienen) e impongan sus propios códigos de ética. Es la sociedad la que se los debe imponer.

En Alemania se estan adelantando un poco a esto con este documento de la comisión de ética del gobierno federal alemán. La idea es generar un marco por el cual se tengan que mover y no que hagan lo que quieran y que luego las leyes se adapten a un software. Al revés, como debe ser, el software para asistir al humano, no para gobernarlo.

Lo interesante de este documento es no sólo la definición de reglas claras y principios de responsabilidad que siempre se discuten, como quién es el responsable en caso de accidente, sino que prevee un último punto que trata justo sobre lo que estaba escribiendo:

Permitted business models that avail themselves of the data that are generated by automated and connected driving and that are significant or insignificant to vehicle control come up against their limitations in the autonomy and data sovereignty of road users. It is the vehicle keepers and vehicle users who decide whether their vehicle data that are generated are to be forwarded and used. The voluntary nature of such data disclosure presupposes the existence of serious alternatives and practicability. Action should be taken at an early stage to counter a normative force of the factual, such as that prevailing in the case of data access by the operators of search engines or social networks.




Sólo uno de quince pero claramente (los alemanes son de cuidarse mucho con esto) a alguno no se le escapó el mal uso que hacen los desarrolladores de software de los datos en la era de la pérdida absoluta de privacidad (en la mayoría del territorio alemán no hay Google Street View, por ejemplo).

Porque en un punto está bien que te preocupe quién será reponsable por la vida y la muerte en una herramienta que fácilmente se puede transformar en una máquina de matar. Suelo utilizar la definición del martillo como ejemplo, no es el martillo una herramienta ideada para matar pero si uno le parte la cabeza a alguien con uno, se puede usar para ello.

En el mundo muere mucha más gente por accidentes de tránsito que por martillazos (o eso espero!) así que si bien la herramienta no está inventada para ello es un riesgo muy alto. No sólo eso, en este código de ética se incorporan las previsiones para que el sistema autónomo tome decisiones cruciales que pueden derivar en la muerte de alguien cuando es inevitable.

Para concluír, es obvio que nos estamos enfrentando a un nuevo reto y una nueva tecnología que en los próximos años va a regir nuestras vidas. Okey, somos tercermundistas y los últimos que veremos la pérdida de control por razones meramente económicas, no porque no querramos o no estemos "entregados". Ya lo hicimos con los teléfonos y nuestras PCs, nada nos va a impedir inmolarnos con los automóviles una vez más :D

Otros posts que podrían llegar a gustarte...

Comentarios

  • coco    

    Interesante y siempre me pregunto.
    Quien será responsable por un accidente provocado por un auto autónomo, ¿el fabricante?, ¿el propietario?.
    ¿Estaremos obligados necesariamente a caer en el mantenimiento obligatorio por parte del fabricante (yo creo que sí?
    ¿Y si Hackean uno y provocan un acto terrorista o de otra índole´.
    Saludos y muy buen artículo.

    • Responder
    • Citar
    • Comentado:
  • Gerez    

    Warning Tin foil hat area!.

    • Responder
    • Citar
    • Comentado:
  • cazador    

    coco dijo:

    Interesante y siempre me pregunto.
    Quien será responsable por un accidente provocado por un auto autónomo, ¿el fabricante?, ¿el propietario?.
    ¿Estaremos obligados necesariamente a caer en el mantenimiento obligatorio por parte del fabricante (yo creo que sí?
    ¿Y si Hackean uno y provocan un acto terrorista o de otra índole´.
    Saludos y muy buen artículo.


    Hablando de generalidades, el artículo 1710 del Código Civil y Comercial habla del deber de prevención del daño. Se establece que toda persona tiene el deber, en cuanto de ella dependa, de evitar causar un daño no justificado, adoptar, de buena fe y conforme a las circunstancias, las medidas razonables para evitar que se produzca un daño, o disminuir su magnitud, y no agravar el daño, si ya se produjo.
    En esta idea, como primer aproximación podemos decir que existiría un deber de prevención tanto del fabricante/programador del auto autónoma y del dueño. Y no me meto con la propiedad intelectual de lo programada, codigo abierto o cerrado, la responsabilidad objetiva por ser dueño de algo peligroso: el auto y la parte autónoma que puede ser de la empresa y no del conductor.
    En cada case se analizarán las responsabilidades: no actualizó la versión de seguridad el conductor/usuario, el fabricante no dio soporte, si se hackea la vulnerabilidad es del soft o del usuario?

    • Responder
    • Citar
    • Comentado:
  • Cattel    

    Me conquistaste desde el término "grafo social", je.

    En el programa Metro y Medio parodian a estos pastores new age de la tecnocracia TedX con un personaje, Willy Mouse, o algo así que es genial, agarro un radio cut al azar: https://radiocut.fm/audiocut/willy-y-el-drone/#f=cut&l=related https://radiocut.fm/audiocut/willy-y-el-drone/#f=cut&l=related

    En tu caso sos el loco que está en la esquina con el cartel The End Is Near, en cueros y con la espalda tatuada con espirales que dicen adentro jardines vallados, jardines vallados, jardines vallados.

    • Responder
    • Citar
    • Comentado:
  • Fernando    

    Yo siempre imagine el tema de los autos autónomos más bien con la opción de que se manejen solos cuando uno lo decida. O sea, que sean manejados manualmente y autónomos cuando lo decida la persona, por ejemplo en un viaje.
    Para la ciudad, en un tramo corto, no tiene sentido tener un auto autónomo, tardas más en decir adonde vas, que en llegar.
    Me genera mucha desconfianza subirme a un auto del cual no tengo control, algo puede fallar, desde el software, el hardware, un hackeo, lo que sea.

    Estoy de acuerdo en que hay que legislar antes de que sea tarde.

    • Responder
    • Citar
    • Comentado:
  • Santiago    

    Siempre me pregunte como el auto va a decidir frente a una colision que no puede evitar, si por ejemplo es tu vida o la vida de unos niños en una parada de omnibus... El auto decide a quien matar? Elige salvar al cliente (el chofer) o al grupo de niños?

    Es medio peligroso dejar ciertas decisiones a la inteligencia artificial

    • Responder
    • Citar
    • Comentado:
  • Hugo    

    Es un tema interesante, todo avance tecnológico genera estos vacíos legales y morales que hay que cubrir rápidamente (por suerte tenemos un cuerpo de legisladores siempre a tono con la modernidad )

    De cualquier forma, considerando que los autos autónomos necesitan buenas carreteras y bien señalizadas, yo no anticipo que en lo que me queda de vida estén por acá. A lo sumo podremos alquilar alguno en el primer mundo, pero no los veo circulando acá.

    Lo que planteas no es ninguna locura, que te sugiera items con prioridad porque pagan ya pasa en el maps, lo invasivo que se puso todo en la red empieza a asustar.

    Lo del seguro que marca Coco es un tema, la propiedad del auto es otra (ya GM había sacado una camioneta que no era tuya, porque el soft es propietario, y sin el soft no anda). Además, cuando la mayoría sean autónomos, que sentido tiene tener un auto?. Simplemente te subirías a un auto/trencito que te lleva enganchando y desenganchando "vagones" pequeños a tu destino. Seguro y más económico, según los gurúes.

    • Responder
    • Citar
    • Comentado:
  • Danbat    

    En lo legal, si bien el auto es tuyo pero el software no, igual serías responsable porque sos quien toma la decisión final. Eso si llegaran a poner un botón de apagado, aunque estoy seguro que sería terriblemente complicado para que no tengas control del auto.

    Fernando dijo:

    Yo siempre imagine el tema de los autos autónomos más bien con la opción de que se manejen solos cuando uno lo decida. O sea, que sean manejados manualmente y autónomos cuando lo decida la persona, por ejemplo en un viaje.
    Para la ciudad, en un tramo corto, no tiene sentido tener un auto autónomo, tardas más en decir adonde vas, que en llegar.
    Me genera mucha desconfianza subirme a un auto del cual no tengo control, algo puede fallar, desde el software, el hardware, un hackeo, lo que sea.

    Estoy de acuerdo en que hay que legislar antes de que sea tarde.

    Existirán los "nativos de autos autónomos" (!?) para los que será natural que el auto funcione y decida solo, mientras los viejos renegaremos de los autónomos y prefiramos aferrarnos a un volante aunque éste hace rato haya dejado de ser útil.

    Santiago dijo:
    Siempre me pregunte como el auto va a decidir frente a una colision que no puede evitar, si por ejemplo es tu vida o la vida de unos niños en una parada de omnibus... El auto decide a quien matar? Elige salvar al cliente (el chofer) o al grupo de niños?

    Es medio peligroso dejar ciertas decisiones a la inteligencia artificial

    En la misma situación, ¿vos qué harías? El auto simplemente tomaría la misma decisión que haría cualquier humano en un porcentaje mayoritario de casos siempre que se respeten las leyes existentes o por definir.

    • Responder
    • Citar
    • Comentado:
  • Gus    

    Sobre la ética de automóviles autónomos (ya se que el artículo de Fabio plantea otros dilemas, pero es igualmente interesante):

    http://moralmachine.mit.edu/hl/es

    • Responder
    • Citar
    • Comentado:
  • Carlos    

    Ustedes entiende que les están pidiendo a legisladores con mentalidad mercantilista del siglo XVII o que no ven más allá de su nariz que hagan leyes del siglo XXI. Si algo así va al congreso argento lo que saldrá de ahí será el peor que el problema original que tenemos.

    • Responder
    • Citar
    • Comentado:
  • Carlos    

    Santiago dijo:

    Siempre me pregunte como el auto va a decidir frente a una colision que no puede evitar, si por ejemplo es tu vida o la vida de unos niños en una parada de omnibus... El auto decide a quien matar? Elige salvar al cliente (el chofer) o al grupo de niños?

    Es medio peligroso dejar ciertas decisiones a la inteligencia artificial


    Este ejemplo se viene discutiendo hace rato por internet, pero el punto que si el conductor es humano el asunto tampoco tiene solución ¿Vos que harías? ¿ Te salvarías o matarías los chicos? En el caso que estés tras el volante.
    .
    En si ya hay una solución legal, siempre tenés que cumplir con las reglas de tránsito aunque al final no sea el resultado que produce menos daño.

    • Responder
    • Citar
    • Comentado:
  • mrb79ar    

    minga autos autónomos!!!!!

    YO QUIERO UN AUTO DE COCO MAPUCHE

    fuera de la joda, es muy importante que la ley esté antes que suceda el primer caso controversial de "por qué el auto autonomo mató a la mujer embarazada por evitar matar a la madre con sus dos hijitos?"

    • Responder
    • Citar
    • Comentado:
  • Marcelo    

    Muy intetesante el tema, sobre todo a como sera el lobby los proximos años para lobotomizar a la gente a aceptar cosas que hoy no aceptarian.
    Como el tema de comprar el auto como servicio, obligarte a hacer service con quienes ellos digan o que te empiecen a cobrar por cosas que antes tenias por sentado.
    "Quieres aire acondicionado? Paga este servicio o mira este video de Surrey"
    Tambien ese comportamiento sectario de que es "buena onda" brindar toda tu info y no pienses para que la uso, miren si quieren la peli "el circulo" q es malisima pero deja clara la idea.
    En fin veremos como va y como van a tratar imponerlo desde ciertas companias al mundo.
    Los autos ya son un oligopolio, me momestaria aun mas que entre menos decidan que debo hacer con el auto q compre.

    • Responder
    • Citar
    • Comentado:
  • coco dijo:

    Interesante y siempre me pregunto.
    Quien será responsable por un accidente provocado por un auto autónomo, ¿el fabricante?, ¿el propietario?.
    ¿Estaremos obligados necesariamente a caer en el mantenimiento obligatorio por parte del fabricante (yo creo que sí?
    ¿Y si Hackean uno y provocan un acto terrorista o de otra índole´.
    Saludos y muy buen artículo.


    En cuanto a responsabilidad, se van a analizar y cruzar los datos de ambos autos, el resto lo tendra que resolver el seguro.

    / El mantenimiento va ser tan obligatorio como los parches del telefono, seguramente si no lo haces, tendras responsabilidad. Como si no parcheaste y te comiste Wannacry y por eso te rajaron del laburo

    / Si lo hackean, mismo caso. que los anteriores.

    • Responder
    • Citar
    • Comentado:
  • Ariel    

    Ya hay paises que han legislado en contra, aunque la moral no tiene nada que ver, India prohibió los autos autonomos

    https://www.xataka.com/vehiculos/india-contra-la-corriente-prohibe-el-uso-de-coches-autonomos-para-proteger-los-empleos-del-pais

    • Responder
    • Citar
    • Comentado:

Deje su comentario:

Tranquilo, su email nunca será revelado.
La gente de bien tiene URL, no se olvide del http/https
Para evitar bots, si se tardó mucho en leer la nota seguramente no sirva y tenga que intentar dos veces

Negrita Cursiva Imagen Enlace


comentarios ofensivos o que no hagan al enriquecimiento del post serán borrados/editados por el administrador