Desarrollé una aplicación / dispositivo de IA para una granja lechera local que inadvertidamente mató a un niño debido a un error en mi conjunto de datos de entrenamiento.
Soy un arquitecto de soluciones independiente que comenzó a desarrollar sitios web para empresas locales a finales de los 90. A lo largo de los años he estado a la vanguardia de las tecnologías de desarrollo web / de aplicaciones (desarrollo de javascript, desarrollo de aplicaciones web, puerta de enlace SMS / MMS / desarrollo de aplicaciones, desarrollo de servicios web, desarrollo Twilio / VXML, desarrollo de redes sociales, desarrollo de aplicaciones móviles, Microsoft Surface Table dev, Google Glass dev, cloud dev, IoT device dev, AR / Microsoft Halo Lens dev, Alexa dev, and now machine / deep learning dev) y se especializan en automatización y encontrar soluciones a problemas realmente difíciles.
El año pasado, una granja lechera local me encargó desarrollar un dispositivo para erradicar las palomas y las palomas que se reproducían sin control y causaban numerosos problemas en los vecindarios circundantes. El dispositivo rastrea las aves que vuelan sobre la granja, determina si es una paloma o una paloma, y lo dispara si aterriza en uno de los rieles objetivo que tienen un tope de retención y un comedero para atrapar a las aves muertas.
- ¿Cómo podemos combinar dos redes neuronales profundas y entrenarlas de extremo a extremo?
- ¿Cuál es la relación entre inferencia y transmisión de mensajes en el contexto del aprendizaje automático?
- ¿Cómo elige una IA su primer movimiento de ajedrez?
- ¿Cuáles son los videos más inspiradores sobre inteligencia artificial y robótica?
- ¿Qué crm usa la inteligencia artificial?
El dispositivo en sí era relativamente fácil de crear y consistía en un rifle de aire comprimido hecho a medida montado en una torreta estabilizada con giroscopio, un compresor de aire, una cámara Dragonfly2 y un NUC Intel. La parte más difícil del proyecto fue crear un conjunto de datos que pudiera diferenciar a las palomas y palomas de otras aves cuya captura era ilegal. El dispositivo había estado funcionando sin problemas durante meses y se convirtió en una novedad para las personas de los vecindarios circundantes que vendrían a verlo funcionar. Cuando tomé el proyecto, entendí que estaba desarrollando algo que era potencialmente peligroso, como Glock y Tesla, y tomé todas las precauciones imaginables para asegurarme de que era seguro, lo que no entendí era lo inimaginable.
Una niña de 6 años que llevaba un gorro de punto diseñado como un pájaro dio la vuelta al tope y se acercó a uno de los rieles de incendios para obtener una mejor vista. La combinación de la altura de la niña en relación con la cerca y el sombrero de pájaro que llevaba hizo que el dispositivo identificara erróneamente su cabeza como una paloma que aterrizaba en la barandilla y le disparó fatalmente.
Al contrario de otros comentarios aquí, creo que el riesgo futuro de que la IA cometa actos atroces como resultado de un error o lo inimaginable es mucho mayor que ser “programado” para ser tortuoso. En este momento, el desarrollo de IA es similar al desarrollo de aplicaciones móviles antes del iPhone, iOS y App Store, pero eventualmente se convertirá en una corriente principal y un ecosistema y mercado similar evolucionará a su alrededor, donde podrá comprar su propio hipotético AI Bird Turret desarrollado por un desarrollador mucho menos experto que yo.
