La inquietante utopía de los autos robot

EL COCHE:

UNA MÁQUINA DE MATAR

Los fanáticos de las armas suelen afirmar que “las pistolas no matan gente, la gente mata gente”. Si bien hay una verdad implícita en esta especie de silogismo, en realidad es una falacia indefendible debido a que las pistolas, arcabuces, rifles, ametralladoras y escopetas están diseñadas con la finalidad expresa de herir, lastimar y matar. En cambio los automóviles no fueron inventados para atropellar peatones, chocar con otros vehículos, objetos o construcciones y sin embargo desde su aparición lo hacen con pasmosa regularidad. Podríamos decir, por tanto: “Los autos no matan gente, sino que la gente manejando autos mata gente”. Y al reconocer esto sería sensato buscar una alternativa. La propuesta de cederle el volante a inteligencias artificiales, precavidas, certeras e incansables no parece en lo más mínimo disparatada. Por el contrario, se antoja pensar que llegará el día en que la gente evocará con horror el tiempo en que la irresponsabilidad humana se traducía en conducir vehículos de más de una tonelada, a gran velocidad, entre peatones, animales, objetos móviles y estacionarios. Ese futuro en el que no volveremos a tocar un volante y daremos la responsabilidad de conducir a las máquinas no es tan remoto.

Sin embargo, llegar a ese punto quedó un poco más lejos después del accidente que tuvo lugar en Tempe, Arizona, el domingo 18 de marzo de 2018. Un Volvo XC90, equipado con una computadora de navegación y un sistema de sensores, atropelló a Elaine Herzberg,

una mujer de 49 años, mientras atravesaba una calle caminando con su bicicleta. El auto, que era operado por Uber como parte de un programa experimental, iniciado en 2016 en varias ciudades, estaba en modo autónomo y se desplazaba a 64 kilómetros por hora cuando sucedió el accidente. La operadora, o conductora de seguridad, Rafaela Vasquez, estaba distraída y sus manos no estaban a una pulgada o dos del volante, como es requerido por Uber. En sus lineamientos para operadores, Uber señala que deben mantenerse alerta en todo momento, por lo menos en esta fase experimental del proyecto. Inicialmente Uber determinó que los autos de este programa debían contar con dos ingenieros en los asientos delanteros para prevenir cualquier accidente o falla. Sin embargo, en determinado momento asumieron que eso era redundante o exagerado y redujeron el número de conductores de emergencia a uno solo.

"La ciudad de Tempe fue escogida para realizar este programa piloto por su buen clima y sus calles amplias, fácilmente navegables. Después del accidente el programa de Uber fue suspendido.”

Tras el accidente los noticieros del mundo transmitieron, tanto el video del exterior del auto, que mostraba cómo la mujer parecía salir de la nada y ser arrollada, así como el video del interior del auto que demuestra que la conductora no estaba mirando el camino ni pudo intervenir de ninguna manera. Estos videos se convirtieron en una mini narrativa aterradora, en grotesco entretenimiento snuff, que se repetía sin cesar.

La causa del accidente aún es un misterio. ¿Los sensores no vieron a Elaine debido a un punto ciego? o ¿la vieron y la ignoraron? o ¿no identificaron que se trataba de una persona o por lo menos un objeto que debía ser esquivado? Durante un año, vehículos como éste han recorrido la zona y la calle donde sucedió el accidente sin problemas. Los empleados de Uber han constatado que la tecnología para detectar peatones y anticipar lo que harán y lo que sucederá cuando cruzan a mitad de la calle, es muy eficiente, incluso en la oscuridad total, y en muchos casos es mejor que la percepción humana. La ciudad de Tempe fue escogida para realizar este programa piloto por su buen clima y sus calles amplias, fácilmente navegables. Después del accidente el programa de Uber fue suspendido en ésa y las demás ciudades donde se llevaba a cabo (Pittsburgh, Toronto y San Francisco). Los autos de Uber supuestamente no requerían de la intervención del operador en trechos de hasta 30 kilómetros y eso pudo propiciar una engañosa sensación de seguridad y confianza.

La muerte de la señora Herzberg es un tragedia, sin embargo el hecho de que el vehículo responsable haya sido autónomo hizo que esta noticia se convirtiera en un escándalo internacional. Los medios se entregaron al sensacionalismo al presentar el caso como un anticipo del inminente apocalipsis maquinal, con una especie de placer mórbido frente al fracaso frankensteiniano de una tecnología ambiciosa y como una sórdida premonición retrógrada. Si bien es legítimo y necesario cuestionar la necesidad de estos autos, hay que recordar que de acuerdo con la Association for Safe International Road Travel, cada año en el mundo entero mueren en accidentes automovilísticos más de 1.3 millones de personas, entre 20 y 50 millones resultan lesionadas y el 94 por ciento de los accidentes se deben a errores humanos. El caso de Tempe debe servir como lección, pero la explotación mediática y la desinformación pueden dar lugar a una reacción exagerada y paranoica que disminuirá el ritmo de desarrollo y aceptación de esta tecnología que trata de salvarnos de esa peligrosa arma que es el automóvil común y corriente.

¿POR QUÉ AUTOMATIZAR A LOS AUTOS?

No hay duda de que los vehículos autónomos harán más seguras las calles y carreteras. Los reflejos humanos son más lentos e imprecisos que la capacidad de respuesta de los sensores y computadoras, las cuales no se distraen, no conducen agresivamente, no son erráticas, no manejan ebrias ni bajo el efecto de drogas y casi sin excepción serán mejores choferes que la mayoría de nosotros. Estos drones sobre ruedas crearán un tráfico amable, reducirán los embotellamientos, eliminarán los problemas de estacionamiento, consumirán menos combustible y energía, y por tanto tendrán menor impacto ambiental. Podrán también ofrecer movilidad a los ancianos, los enfermos y discapacitados. Bajarán el costo del transporte y cada desplazamiento podrá ser aprovechado para el descanso, el

trabajo, la lectura, la introspección o el ejercicio. Los accidentes serán raros y sus causas serán explicables. Cada incidente servirá para que todos los coches autónomos aprendan de los errores de otros y en teoría no vuelvan a cometerlos. Irónicamente, en el caso de Tempe, la causa ha sido difícil de encontrar, a pesar de que toda la actividad del vehículo, de la computadora de a bordo, de los sensores y del operador está registrada y documentada.

Uno de los desarrollos más importantes será crear una especie de red de comunicación vehicular, una mente de colmena con la cual los autos que compartan los caminos harán más eficiente el flujo, eliminarán congestionamientos e incluso podrán unirse a otros que vayan en la misma dirección para desplazarse como uno solo. Con esto se podrán hacer actualizaciones del software a todos los autos simultáneamente. Aún así es predecible que la fase de experimentación será extensa. Podemos imaginar que los coches autónomos podrían salir de la línea de producción e integrarse al tráfico directamente, como en la película Minority Report.

Durante más de un siglo, el auto ha sido sinónimo de independencia, libertad y poder. La mitología del automóvil es una pieza fundamental de la modernidad y de las sociedades contemporáneas, en las que el individuo puede supuestamente elegir su destino y desplazarse a voluntad. El cine, sobre todo el hollywoodense (desde Bullit hasta Drive, pasando por Duel y The French Connection), es responsable en gran medida de haber construido la leyenda del automóvil como sinónimo de aventura y valor, como una extensión del Hombre que le permitía escapar a su condición, romper sus raíces y ataduras para reinventarse en una sociedad en constante movimiento, donde los orígenes no son destino y la vida no está rígidamente determinada. Así el auto se volvió una máquina sexy para soñar. Pero las persecuciones de coches y las escapadas por carreteras desérticas no tienen nada que ver con la agobiante rutina del tráfico cotidiano de las grandes ciudades. De cualquier forma, para muchos el auto preserva su aura mística y romántica, por lo que la noción de reducirlo a una especie de cabina móvil e impersonal resultará inaceptable, como una estampa de un futuro apacible, higiénico y mediocre, al estilo de la fantasía de Pixar: Wall-E.

"Los medios se entregaron al sensacionalismo al presentar el caso como un anticipo del inminente apocalipsis maquinal, con una especie de placer mórbido frente al fracaso frankensteiniano de una tecnología ambiciosa.”

LOS OJOS, OÍDOS Y SENTIDOS DEL AUTO

Las tecnologías que se usan para la navegación de estos autos requieren de una enorme cantidad de datos, así como de un gigantesco poder de procesamiento. Mientras Tesla utiliza un sistema de detección de obstáculos en base a visión computarizada, Uber y Waymo (que dependía de Google) usan tecnología Lidar (Light Detection and Ranging Systems, o bien sistemas de detección de luz y rango, que emplean láseres para construir una representación tridimensional de los alrededores del vehículo en un radio de alrededor de cien metros), además de radar y visión computarizada. Estos sensores deben recoger la información de los objetos móviles cercanos, como forma, tamaño y velocidad, para categorizarlos como peatones, autos, bicicletas, camiones o motos, con lo que deben predecir su comportamiento. También deben localizar e identificar a los objetos estacionarios, señales y demás, para crear un mapa de navegación. Se necesitan sistemas

de localización GPS para que el coche se ubique y sepa cómo llegar a su destino. Como es obvio, una parte importante son los sistemas de manejo que conducirán el auto con la información recopilada y que deben reaccionar en una fracción de segundo a los imprevistos.

Los programas pilotos que ahora llevan a cabo General Motors, Ford, Aptiv, Zoox y Waymo entre otras, ponen en evidencia que estamos ante una tecnología que, si bien está en sus inicios, avanza vertiginosamente y ha despertado enorme interés y ambición. Hay muchas empresas tanto automovilísticas como de alta tecnología que han apostado su futuro e invertido enormemente en la carrera tecnológica de los autos robot. Pero de cualquier manera no hay más alternativa que probarla en condiciones reales y por tanto es inevitable que seguirán ocurriendo accidentes. Entre las miles de líneas de código que requieren los numerosos programas de los que dependen los vehículos autónomos, habrá bugs y errores de varios tipos, algunos de ellos esperando, como bombas de tiempo, para manifestarse. A esto debemos sumar la posibilidad de sabotaje industrial y hackeo por parte de activistas, rivales corporativos y trolls.

Cuando un algoritmo falla es necesario revisar el código y su lógica para entender si hubo alguna contradicción u omisión que causó una respuesta defectuosa. Asimismo, se trata de “retro- diseñar” o aplicar ingeniería inversa, para analizar a partir de las mediciones de los sensores hasta las elecciones de manejo y navegación. Sin embargo, muchos algoritmos creados por medio de aprendizaje maquinal y redes neurales son tan complejos que es casi imposible descifrar su proceso de decisión. Además, pueden automodificarse continuamente y, de hecho, no es posible analizar su proceso de toma de decisiones, sino tan sólo juzgarlos por sus resultados. Sería conveniente hacer que las inteligencias artificiales pudieran justificar sus procesos de forma explícita.

[caption id="attachment_735224" align="alignnone" width="696"] Fuente: aikaeducacion.com[/caption]

Las cámaras y sensores deben “ver” cada objeto durante determinado tiempo para identificarlo o para que éste reciba suficientes pulsos de láser en el mayor número de partes posibles, con el fin de crear una imagen completa del mismo. Si esto no sucede, debido a que el objeto está en una posición complicada o no hay tiempo suficiente, entonces puede ser concebido como una superficie plana o basura en el camino. Los algoritmos de inteligencia artificial deben clasificar el objeto y para eso deben entender su forma para compararla con su enorme base de datos y concluir si es o no un peligro. De ahí que a veces estos autos se confundan, “alucinen” o se detengan por una nube de humo, sombras, neblina o un letrero vial ligeramente alterado. Si falla la clasificación también fallará la predicción del movimiento y comportamiento del objeto. Un vehícu-

lo robotizado debe poder evaluar lo inmediato, mantenerse en el camino, respetar las señales viales, esperar lo inesperado, reaccionar al conducir errático de otros vehículos y el paso caprichoso de peatones y animales. Aparte de todo esto debe de buscar rutas óptimas y resolver necesidades imprevistas que a veces requieren de algo muy difícil de programar: imaginación.

Los vehículos autónomos también pueden ser víctimas de inteligencias artificiales que roben información y saboteen a la competencia. Podemos imaginar un futuro en donde las computadoras de navegación puedan ser engañadas sobre las rutas y el tráfico. En el campo del aprendizaje maquinal la gente suele tener confianza en los demás y eso abre las puertas a ataques maliciosos, como ilusiones ópticas y auditivas diseñadas para confundir a los sensores, contra las que no hay sistemas de seguridad. No es imposible que se desate una verdadera guerra informativa en términos de vialidad, seguridad y consumo de combustibles, o que las empresas programen a sus algoritmos para tener una actitud agresiva con el fin de dominar o afectar el mercado. La competencia entre inteligencias artificiales rivales puede llevar a catástrofes; pudimos tener un atisbo cuando el índice Dow Jones sufrió el 6 de mayo de 2010 un flash crash debido a una confrontación de algoritmos rivales.

En el fondo, el temor principal que provoca esta tecnología radica en la opacidad de los algoritmos que “piensan” por nosotros, en el misterio de no saber por qué una máquina hace algo. La tendencia de la tecnología contemporánea es ocultar los procesos y tomas de decisiones para ofrecer una experiencia minimalista (user friendly); de ahí que los manuales de usuario de los dispositivos y software están en vías de extinción y que la única literatura que los acompaña son interminables páginas legales ilegibles. Los carros autónomos tendrán que tener un equilibrio entre la transparencia de su funcionamiento y la simpleza de su uso.

EL ESLABÓN MÁS DÉBIL

Una de las lecciones del accidente mortal de Tempe es que el elemento humano del sistema falló y con ello debemos cuestionar la noción de que la mejor manera de garantizar la seguridad es dando la responsabilidad de supervisión a una persona, lo que ha sido hasta ahora la norma de las empresas que están desarrollando esta tecnología. Esto parte de un error elemental que es creer que los humanos pueden ser mejores para vigilar a una tecnología que otras máquinas. Los ingenieros de Uber saben que la fatiga y los teléfonos celulares son un gran problema, por lo que insisten que los operadores se estacionen si quieren ver su teléfono (varios han sido despedidos por tan sólo mirar la pantalla de su celular) y que se detengan si se sienten cansados. El factor de la fatiga y las distracciones serán sin duda peores para alguien que tan sólo debe supervisar el funcionamiento de una máquina durante largos periodos de tiempo que para alguien que está en efecto operándola.

Este es un dilema complicado de resolver. ¿Cómo desarrollar esta tecnología para que sea verdaderamente autónoma sin contar con algún tipo de sistema de seguridad? Una opción son los dispositivos que vigilen al conductor de emergencia para asegurar que esté atento, y que en caso de ser necesario le llamen la atención si mira a otro lado, si se queda dormido o si su mente está divagando. Los Cadillac que cuentan con el modo Super Cruise (un sistema semiautónomo que tiene una cámara para vigilar al conductor y detectar la posición de su cabeza y ojos) envían una señal sonora y luminosa si el chofer está distraído o dormido; si no responde, el auto disminuye la velocidad hasta detenerse, se estaciona, prende las luces intermitentes y llama al servicio de emergencia OnStar. La empresa Affectiva está desarrollando sistemas que van más allá, al identificar, además de las distracciones, los estados de ánimo del conductor, y prevenir reacciones agresivas o conductas irracionales que puedan interferir con la conducción del vehículo.

EL NUEVO ECOSISTEMA VEHICULAR

Estos vehículos vendrán a sacudir el contrato social y las leyes con las que compartimos los caminos, con un nuevo entendimiento de las responsabilidades y compromisos que representan. La presencia de autos inteligentes en las calles y carreteras implica numerosos problemas tecnológicos, legales y de urbanismo. Pero también vendrán acompañados de dilemas psicológicos, morales e incluso filosóficos. Una encuesta de la American Automobile Association encontró que tres de cada cuatro estadunidenses tienen miedo de subirse a un vehículo autónomo, y otros tantos temen ser peatones en un mundo donde las computadoras conduzcan. Esto fue confirmado por el estudio Psychological roadblocks to the adoption of self driving vehicles (Obstáculos psicológicos para la adopción de vehículos autónomos), de Azim Shariff, Jean François Bonnefon e Iyad Rahwan, que encontró que el 78 por ciento de los estadunidenses tienen miedo de viajar en un carro autónomo.

Uno de los problemas que ha desa-tado más especulación es el dilema ético de una computadora ante la necesidad de tomar una decisión de a quién salvar en caso de un accidente inevitable: a su conductor o a otra persona. Esto es una variante del viejo problema del trolebús que avanza en una vía donde va a atropellar a cinco personas pero uno puede activar un cambio de vías y mandarlo a otra en donde únicamente mataría a una persona. ¿Qué es más ético: salvar cinco vidas que se perderían en un accidente y matar a una persona de manera deliberada, o no intervenir? Una computadora podría tener que evaluar situaciones semejantes. Otro dilema es si se debe programar a un auto para que en casos de emergencia discrimine o adjudique diferente valor a un niño o un bebé sobre un anciano, a un hombre sobre una mujer, a un animal casero sobre uno de granja, o bien para considerar de manera distinta a un peatón civil y a un policía, o incluso para determinar que la preservación del auto es más importante que la de la propiedad ajena. No es difícil entonces considerar la posibilidad de que puedan ser programados algoritmos que discriminen por edad, género, factores económicos, color de la piel o apariencia. El comprador difícilmente optará por un auto que esté dispuesto a sacrificar a su dueño en un accidente para salvar las vidas de otros y a fin de cuentas, en una sociedad capitalista donde la regulación gubernamental es cada vez más débil, es de esperar que predominarán los criterios egoístas de la autoprotección. El gobierno alemán aprobó el 23 de agosto de 2017 unas directrices legales para los coches autónomos, entre las que destaca la determinación que da prioridad al valor y la igualdad de la vida humana por encima de los daños a bienes y animales.

[caption id="attachment_735225" align="alignnone" width="696"] Fuente: businessandmarketingtodaynews.com[/caption]

UN MUNDO SIN CHOFERES

A pesar del accidente de Tempe y sus inmediatas e inevitables consecuencias, Waymo anunció el 27 de marzo pasado que comprará 20 mil autos Jaguar eléctricos, así como minivans, con lo que espera crear una flotilla que ofrecerá un millón de viajes al día en 2020. Esta es una cifra astronómica que de cumplirse, aunque sea a la mitad, transformaría de manera definitiva la forma en que la gente se transporta. Los vehículos autónomos de Waymo han recorrido ya más de cinco millones de millas (ocho millones de kilómetros), desde el inicio del programa en 2009. Y si bien el primer millón de millas lo hicieron en seis años, el segundo lo recorrieron en un año, el tercero en menos de ocho meses, el cuatro en seis meses y el quinto en menos de tres meses.

Si bien las ciudades se transformarán con la llegada de los autos robot, las carreteras tendrán un impacto mayor. Silicon Valley ha demostrado enorme interés en eliminar a los tres y medio millones de choferes de tráiler, tan sólo en Estados Unidos. La industria del transporte carretero en ese país representa un negocio de alrededor de 700 mil millones de dólares, y una tercera parte de ese dinero es la paga de los choferes. Si la digitalización e internet lograron transformar el negocio de la música, las

agencias de viajes, la manufactura y las ventas, el transporte de productos es la próxima meta de las empresas de alta tecnología. La promesa es que los camioneros no quedarán desempleados sino “liberados de un trabajo desagradable y peligroso”, que deja poco tiempo para ver a la familia y los amigos y que no paga gran cosa. Las empresas de tecnología aseguran que en la nueva economía, tras la revolución digital de los caminos habrá mejores oportunidades. Por otro lado esta transformación también tendrá un impacto devastador en la industria de servicios y todo lo relacionado con la circulación automotriz como la conocemos: talleres, restaurantes en las carreteras, infracciones de tránsito, gasolineras, lavado de vehícu-los, accesorios y aseguradoras entre otros negocios.

AUTOS CONSCIENTES

Las inteligencias artificiales no solamente sirven para recomendar discos y películas, o guiarnos por el tráfico, sino que pueden derrotarnos prácticamente en cualquier juego, incluyendo ajedrez y go. Pueden especular en la bolsa de valores con velocidad y precisión asombrosas, pueden detectar con enorme precisión tejidos cancerosos, pueden operar pacientes, pueden componer música, pintar cuadros, escribir reportes y ensayos, así como imaginar animales y cosas que nunca han visto a partir de su “sentido general”. Estos programas están ahora por todos lados y algunos de ellos pueden volverse ferozmente competitivos o inquietantemente creativos. Sin embargo, no han resuelto el misterio de la conciencia, esa extrañísima cualidad que de acuerdo con algunos, como Giulio Tononi (el autor de la controvertida Teoría de información integrada) es una característica del universo, como la gravedad. Tononi piensa que a mayor integración de información, mayor estado de conciencia. En cierta forma la conciencia no parece tener una función para la supervivencia ni un beneficio evolucionario; depende del reconocimiento propio, pero más de la continua especulación respecto de lo que sucede en la mente de los demás. El escritor Hugh Howey propone que una de las razones por las que no se ha podido construir una conciencia es porque se ha omitido un factor fundamental. Él considera que una máquina consciente de sí misma necesita tres cosas: un cuerpo físico que responda a los estímulos externos, que puede ser un robot antropomórfico con visión, olfato, tacto y oído, o bien un automóvil con sensores que activen los limpiadores en caso de lluvia o los frenos si hay un obstáculo en el camino; un sistema de comunicación, que puede ser complejo, como un lenguaje superior, o muy simple como los indicadores de un auto. El tercer componente es el más controvertido: un algoritmo que intente, con poco éxito, darle sentido, sin tener los fundamentos necesarios, al funcionamiento del cuerpo y su relación con el mundo. Es decir, un programa que trate de reproducir el desorden y azoro intrínseco de la mente humana, lo cual él considera es la clave de la conciencia. Por ahora es imposible saber si se puede reproducir este proceso en una mente digital, pero podríamos especular que, de lograrlo, las computadoras de navegación podrían especular e inferir las intenciones de los demás vehículos y cosas, así como elaborar historias acerca de su entorno y de esa manera crear una especie de conciencia, una concepción no mecanizada de sí misma y el ecosistema en que se mueve.

"Si bien las ciudades se transformarán con la llegada de los autos robot, las carreteras tendrán un impacto mayor. Silicon Valley ha demostrado enorme interés en eliminar a los tres y medio millones de choferes de tráiler.”

En octubre de 2016, Elon Musk prometió que con la nueva combinación de sensores y mayor poder de cómputo, Tesla podría hacer que un coche autónomo fuera desde un

estacionamiento en California a un estacionamiento en Nueva York, sin intervención humana, para finales de 2017. Como muchas otras promesas en el terreno de la innovación, esta no se cumplió, pero no queda la menor duda de que eventualmente sucederá. El accidente de Tempe nos obligó a reconsiderar el optimismo y en especial a desconfiar de una utopía empujada en gran medida por los intereses financieros de los gurús de Silicon Valley. El fin probablemente es noble pero la ambición es inocultable. Ojalá que la muerte de Elaine Herzberg no haya sido en vano y obligue a crear sistemas más seguros y responsables para sustituir a esa arma mortal que es el auto. C