Engañan a un Tesla para que pase de 56 a 140 km/h automáticamente pegando un trozo de cinta a una señal

No digo que no tengas razón pero la noticia es muy engañosa, si se manipula la señal de tráfico el sistema no es engañado, han cambiado de manera ilegal y mucho las condiciones en las que se usa.
¿Imagina que ponen clavos en la carretera, ha fallado el sistema de frenado o estabilidad del coche?
Vale que el cambio en la señal ha sido relativamente leve pero podrían cambiar el número directamente por otro. El sistema es mejorable pero está claro que está totalmente prohibido modificar una señal de tráfico al igual que no puedo poner clavos en la carretera.

P.D. Además todos estos sistemas al no ser perfectos requieren atención del humano lógicamente.

Concuerdo con tu comentario ademas me gustaria agregar que Es un error llamar IA a las débiles, no resuelven tareas especificas con "inteligencia", lo resuelven con algoritmos condicionales complejos que tienen pregrabados y a lo sumo utilizan "machine Learning" para adaptar las variables de esos algoritmos según otros algoritmos y grandes bases de datos estadísticos.. al fin y al cabo es un programa.
la IA real no existe aún, o al menos no la han divulgado.

Tienes razon, pero tambien hay que partir, que le aspecto visual no sera el unico a tener en cuenta, o al menos eso espero. Siempre podria contrastar datos, contra google maps por ejemplo, que suele aparecer la velocidad a la que deberias ir.
Hoy en dia las IA no son fiable, pero eso no quita que en un futuro, pueden llegar a serlo.

Eso es peligrosamente impreciso. Obviamente en el 99% de los casos las señales no son optativas y hay que hacer caso, lo malo es que para matarte te sobra con el 1%.

Primero por que una señal no prevalece sobre las leyes y normas, además, la ley se cumple, pero debe ser interpretada al contexto y actuar en consecuencia (Cosa que un humano puede hacer y una IA no demasiado). Por ejemplo los vehículos de emergencia pueden "ignorar" las normas de tráfico en determinados casos.

Además si una señal pone 180, esa señal no vale, por que las normas de trafico prevalecen y no permiten ir a más de 120 y aunque lo dijera un guardia civil, el rey o el presidente de EEUU, que hasta que no se modifique el reglamento el limite superior sigue siendo 120.

Por último, las leyes están sujetas a interpretación y si hay una duda legitima puedes actuar en consecuencia, yo si un tío con un coche y un traje reventadisimo de guardia civil me dice que pare en una carretera secundaria, ya te digo que no paro, llamo al 112 informo y si es necesario me presento en el cuartel, pero NI DE COÑA me paro. Y si no les gusta, siempre queda explicárselo al juez.

En Texas se puede ir en autopista hasta a 85 mph. En otros estados a 75 o incluso los hay a 70 mph de velocidad máxima.

Si se ha cambiado de 35 a 85, es muy posible que haya sido en Texas, y por lo tanto, todo normal. Salvo curvas o irregularidades del suelo, el tesla feliz de acelerar.

Por lo que todo ese rollo que explicas no vale para nada. Recuerda que se trata de un lugar de EEUU y no de España.

Si ves una señal de 140 en un pueblo, no vas a poner el coche a 140, XDDD. La mal llamada IA si que lo pondría.

Y luego está el contexto, que la pseudo IA no comprende. Si hay una curva, si hay lluvia, si hay nieve, si hay viento, si el viento ha tumbado una señal...

¿Como sabes que la IA si aceleraría a 140 en pueblo?¿Como puedes asegurar que eso no está controlado? Estas sacando tus propias conclusiones porque si.

El artículo no especifica eso, así que lo más probable es que la prueva se hizo en USA en algun lugar donde se permite esa velocidad.

El problema es que el ser humano lleva a cabo muchísimos otros razonamientos que, a tenor de lo ocurrido con el Tesla, dicho vehículo claramente no realiza, como: recordar el límite anterior si es una zona por la que transitas habitualmente (que pase de 60 a 120 nos chirriaría a todos), lo que otros vehículos estén haciendo en ese momento y, sobre todo, la sensación de seguridad que a tí te produzca ir por ese trazado a esa velocidad (difícil o imposible de replicar hoy en día por un agente inteligente).

No obstante, sí que considero que el sistema autónomo podría tomar una serie de precauciones, como juzgar si el trazado permite ir a esa velocidad, contrastar la velocidad del nuevo cartel con la velocidad de la vía hasta dicho instante (si hay un salto grande, algo claramente no va bien), tener siempre presente la velocidad máxima a la que se puede ir por una vía pública en el país donde se encuentra circulando el vehículo y un larguísimo etcétera de parámetros que, me imagino, pueden ocurrírsele a un ingeniero que lleve años metido en harina en el tema de la conducción autónoma.

Y eso por no hablar de posibilidades más elaboradas, como generar un sistema entrenado mediante machine learning para reconocer imágenes de señales manipuladas.

Ante la duda, reducción drástica de velocidad (que nadie te obliga a ir al límite) y devolver el control al conductor, que para eso está. Claro que cuantas más veces se haga esto menos autónomo parecerá el coche, y eso a Tesla no le gusta ni un pelo, aun a costa de poner en riesgo a sus usuarios.

La gracia es que la manipulación de la señal solo confunde a la IA, a simple vista para un humano sigue poniendo el numero original..

Mejor combinar ambos sistemas.

Hasta que vayas por una autovía , con carril de servicio y la señal de al lado ponga 50km/h y en la autovía 120 y te clave el freno....

Si el coche va por la autovía sabrá que puede ir a 120 km/h y que para nada tiene que meterse en el carril de servicio. Pero si se mete en el carril de servicio sabrá que debe ir a 50 km/h y desacelerará hasta esos 50 km/h, sin necesidad de clavar el freno.

Yo cuando uso Waze bien que me indica la velocidad máxima y si me paso, no me creo que eso no pueda valer para un coche autónomo.

Pues hombre, si hay obras..

El coche te clava los frenos?
Primera vez que me lo dicen.

Eso es muy bonito hasta que hay obras y ponen señales provisionales.

Pero como saber cuándo está haciendo movimientos sin razón o con razón?. Si se confundió por ahí no te da tiempo de reaccionar, cómo cuando el ingeniero de Apple se mató. La ruta estaba en construcción y mal señalizada, el Sistema se confundió y el Tesla dió una curva abrupta al costado, el ingeniero tuvo tiempo de pisar los frenos y tenía las dos manos al volante pero eso no fue suficiente. Es culpa del ingeniero qué el Tema se haya confundido?

Según la poca información que hay, no llega ni a full hd las 3 cámaras frontales, un simple sensor CMOS barato, las filmaciones que se ven parecen de una webcam genérica barata. Jamás confiaría en algo así por más que tenga la inteligencia artificial más potente del planeta, por algo hasta es obligatorio hasta en los exámenes de conducir que si la persona necesita lentes, que los use. Las especificaciones de las cámaras deberían ser una monstruosidad, no ver que hay varias que son 640x480, que no se puede distinguir nada, que ni se sabe del rango de colores que detecta, ni frecuencia de muestreo, ni cantidad de luz que ingresa al sensor, NADA ...

Si la pone porque puede venir una curva a continuacion que no puedas tomar a esa velocidad, de todas formas manipular las señales me parece "trampa" no creo que sea engañar al sistema porque han manipulado la señal, vale que la manipulación no es "enorme" pero si la detección fuera exacta y cambiaran directamente el 3 por un 8 fallaría por mucho que lea bien los números.

Manipular una señal de tráfico es gravísimo y es como decir que el sistema falla cuando le ponen clavos en la carretera y pinchan las ruedas.

¿Tiempo libre?

Es su trabajo y bastante importante, son investigadores, son empleados de una empresa dedicada a la seguridad, trabajando en temas de seguridad.

Si ellos no trabajan en eso, los problemas de seguridad los descubriremos cuando ocurran accidentes o un criminal se aproveche, por eso es tan importante su trabajo, se adelantan a los problemas y hacen que se arreglen.

¡El i+d+i es esencial para el progreso!

El i + d + i es esencial y el o + t + a también.