Tal vez me estoy perdiendo algo del contexto detrás de la pregunta … y tal vez estoy respondiendo esto siguiendo líneas estrechas de un profesional de “informática” … pero …
Recuerdo mi primera clase de IA en 1992. Estaba en la U de I / Urbana en ese momento. Tuvimos un poco de rumor en torno a la fecha de aniversario del “HAL 9000” del libro Arthur C Clark “2001: Una odisea del espacio”.
Me acuerdo de mi profesor. No la difamaré, pero era aburrida y no tan motivadora. Después de un curso intensivo aprendiendo a Lisp en un laboratorio IBM RS / 6000 perpetuamente frío en DCL, analizando las tareas de programación en algoritmos de escalada atrapados con mínimos locales, aprendí que la IA era cualquier cosa menos inteligente. Elige tu algoritmo favorito. Recocido simulado. Lo que sea. La tecnología de ayer, incluida la “ lógica difusa ”, se ha transformado en la tecnología financiera (fintech) basada en la cuantía actual, que no es más que alguien que convierte una mejor heurística de conjetura en un algoritmo que puede evaluarse y producir un criterio de decisión.
- ¿Cómo funcionan los chatbots?
- ¿Cuál es un buen libro para comenzar a aprender sobre el desarrollo de un sistema de aprendizaje automático / IA?
- ¿Qué es el sesgo en la red neuronal artificial?
- ¿Deep Learning conducirá a un avance en la aplicación ML fuera del reconocimiento de voz y la visión por computadora?
- ¿Se ha aplicado AI / machine learning en Conway's Game of Life?
Entonces … “riesgo de IA” … ¿qué significa eso? ¿Confía su vida en un algoritmo, como una visión artificial, para conducir su automóvil? ¿Operar su red eléctrica? Piloto automático en su gran avión comercial? Todos estos están en una clase de sistemas críticos para la seguridad.
¿O te preocupa algún “Frankenstein” o la versión más moderna ‘Terminator’ donde los robots se levantan para matarnos a todos? ¿O alguna máquina virtual sin rostro en un centro de datos ‘se vuelve pícara’?
Desde mi perspectiva de ingeniería, los sistemas informáticos actuales son al menos 4 órdenes de magnitud menos eficientes en energía que la mente humana para fines de cálculo. Entonces, incluso si surgiera la peor pesadilla de un hilo beligerante de ejecución, se extinguiría rápidamente solo por la ineficiencia para mantenerlos con poder y ejecución. Diablos, incluso Google necesita tener niños en patines para mantener sus unidades reemplazadas cuando el dispositivo falla en su centro de datos. ¿Crees que una IA solucionaría la fragilidad inherente de la tecnología actual?
Editar: también agregaré que la cadena de suministro para construir una IA probablemente esté en los cientos de miles de individuos para extraer o fabricar los ingredientes crudos, fabricar los chips y el paquete, integrarse en los PCB, realizar la calificación de producción y, en última instancia, aprovisionar e implementar .
Por otro lado, solo se necesita una cadena de suministro de (2) para hacer un nuevo humaan.
Por supuesto, darle a una IA un misil Hellfire o un arma automática y entrenarlo para identificar objetivos de dos patas probablemente no sea el camino correcto.
