Marcus cree que todavía hay "casos extremos" en el ámbito de los vehículos autónomos que aún no se han resuelto y no deberían probarse en la carretera las 24 horas del día.Un artículo del New York Times de 2016 sobre los vehículos autónomos comenzaba: "La era de los vehículos autónomos ha llegado y algunos fabricantes de automóviles han invertido miles de millones de dólares en investigación y desarrollo... y han comenzado a realizar pruebas en algunas ciudades de Estados Unidos". Han pasado siete años, ¿dónde ha quedado la conducción autónoma?

Gary Marcus, profesor emérito de psicología y neurociencia de la Universidad de Nueva York, expresó algunas opiniones al respecto. Dijo que todavía hay un problema en este campo, uno que Marcus ha destacado docenas de veces en los últimos años, a saber, los casos extremos, las situaciones no rutinarias que a menudo confunden los algoritmos de aprendizaje automático.

Cuanto más compleja sea la situación a la que se enfrentan los vehículos autónomos, más anomalías inesperadas habrá. Y el mundo real es complejo y caótico, y no podemos enumerar todos los posibles acontecimientos no rutinarios que pueden ocurrir. Nadie ha descubierto todavía cómo construir un coche autónomo que pueda hacer frente a este hecho.


Marcus dijo que la primera vez que enfatizó los principales desafíos que los casos extremos plantean a la conducción autónoma fue en una entrevista en 2016. "En ese momento, estaba cansado de la exageración y finalmente renuncié a esta visión. Ahora, cuando releo esta transcripción, creo que todavía es aplicable".

El progreso tecnológico que vemos ahora está impulsado en gran medida por técnicas de craqueo de fuerza bruta a gran escala, como la supercomputadora Deep Blue y el sistema de juego Atari. El desarrollo de estas tecnologías entusiasma enormemente a la humanidad. Al mismo tiempo, si hablamos de robots para hogares o de robots que conducen por la calle, el entusiasmo no es tan alto.

En términos generales, los vehículos autónomos funcionan bien en circunstancias normales, por ejemplo, se conducen de forma segura en días soleados. Pero si se colocan en entornos complejos como nieve y lluvia, la conducción sin conductor será muy mala. Anteriormente, el periodista y editor colaborador estadounidense Steven Levy escribió un artículo sobre la conducción autónoma de Google. El artículo mencionaba que Google logró una gran victoria en 2015, y esta victoria fue que el sistema podía identificar automáticamente las hojas.

Identificar las hojas es demasiado sencillo para los humanos, pero supondría un gran avance para los coches autónomos. Los humanos pueden usar el sentido común para razonar y descubrir qué podría ser esto y cómo llegó allí, pero un sistema de conducción autónoma simplemente recuerda algo y carece de razonamiento, y esa es la limitación que enfrentan los vehículos autónomos...

La gente esperaba con ansias una tecnología de conducción autónoma más madura. Hace apenas unos días, la Comisión de Servicios Públicos de California aprobó que las empresas de vehículos autónomos Cruise y Waymo operen las 24 horas del día, los 7 días de la semana en San Francisco. Esta decisión proporciona a las dos empresas un mayor margen de maniobra para probar sus coches. Tras darse a conocer la noticia, mucha gente dijo que la era de los coches autónomos ha llegado, aunque llega más tarde de lo esperado.


De hecho, todavía no tenemos ningún automóvil verdaderamente autónomo y, como explicó Cade Metz, un conocido periodista estadounidense, en mi podcast “Humanos contra máquinas” hace unos meses, cada vehículo autónomo en las vías públicas tendrá un conductor de seguridad humano o algún ser humano que lo supervise de forma remota para ayudar al vehículo a salir del problema.

Ahora, están surgiendo nuevos casos extremos en la conducción autónoma, como el de un Tesla que se estrella contra un avión estacionado.


Marcus dijo que no importa con cuántos datos se entrenen estos sistemas, siempre surgirán nuevas situaciones.

Recientemente, diez vehículos autónomos más perdieron contacto con el centro de control de la misión. Sin la supervisión del centro de control, los coches autónomos se perdían, se paraban en mitad de la calle y muchos otros accidentes:

El campo de la conducción autónoma cambia constantemente, por lo que muchos investigadores, incluido Marcus, no comprenden el enfoque de la Comisión de Servicios Públicos de California.

Sería una locura probar la conducción autónoma en cualquier lugar y en cualquier momento sin una solución rigurosa y cuidadosamente examinada para abordar los casos extremos. Esto se aplica no sólo a los vehículos autónomos sino también a otras áreas basadas en el aprendizaje automático.

Los casos extremos están en todas partes y cualquiera que piense que todo es fácil de solucionar se está engañando a sí mismo.

Necesitamos reforzar nuestra gestión y, si no lo hacemos, es posible que veamos accidentes graves con automóviles sin conductor, médicos automatizados, asistentes virtuales universales, robots domésticos y más en los próximos años.

Al final del artículo, Marcus afirmó que lo completó en un avión equipado con piloto automático. Durante el vuelo de 9 horas, el piloto automático estuvo funcionando todo el tiempo y los humanos también estuvieron involucrados durante este período, lo que constituyó un ser humano en el circuito. En última instancia, Marcus no cree que haya aviones autónomos y no cree que todavía se haya aprobado ningún automóvil cuasi autónomo.