En realidad, hubo un experimento en el que las personas hicieron exactamente esto:
Lo creas o no, pero estas pegatinas de “amor / odio” en la señal de stop hicieron que un algoritmo de visión por computadora piense que esta es una señal de límite de velocidad. Fuente: Puedes confundir los autos sin conductor al alterar los letreros de las calles
- ¿Cuál es una explicación intuitiva del método de optimización llamado Hessian-free Optimizer (HF) para redes neuronales?
- ¿Puedo crear un conjunto de datos y luego usarlo para evaluar un algoritmo de clasificación?
- ¿Cuál es el papel del análisis de datos exploratorios (EDA) en el aprendizaje automático?
- ¿Por qué deberíamos considerar muestras negativas en un sistema de recomendación basado en comentarios implícitos?
- Procesamiento del lenguaje natural: ¿Cuáles son algunas ideas de problemas / proyectos sobre la clasificación jerárquica de textos?
Sin embargo, no estoy seguro de que exactamente este algoritmo CV utilizado en este artículo se use realmente en un automóvil autónomo. Además, como dijeron los encuestados anteriores, muchos automóviles usan datos de HD Maps como fuente principal de este tipo de datos (Aquí y Volkswagen en 4 tendencias para ver en forma autónoma). El problema es que mantener actualizados los datos de mapeo HD a escala global es muy costoso o incluso imposible. Considere el escenario con letreros temporales colocados durante obras viales o accidentes. Lo más probable es que los automóviles aún tengan que verificar las señales, por lo que tal vez ni siquiera deberíamos molestarnos con HD Maps. La notable excepción a los fabricantes de automóviles que apuestan por ellos es Tesla. Elon Musk cree que si un humano puede conducir un automóvil con solo “nuestros ojos y un poco de audición”, el automóvil autónomo también podría hacerlo, simplemente usando cámaras y otros sensores y sin depender demasiado de los mapas.
De todos modos, con HD Maps o no, los autos aún tendrán que leer señales de tráfico y esto crea vulnerabilidad. Es hora de pensar en actualizar nuestras señales de tráfico para que sean menos vulnerables y más legibles para los automóviles.
UPD: Aquí hay otro ejemplo de CV engañado de una manera similar (aunque el reconocimiento de objetos de propósito general es mucho más difícil que el reconocimiento de signos debido a muchas más alternativas): la IA de Google cree que esta tortuga parece un arma, lo cual es un problema
