Este tema es fundamental para la legendaria Persona de interés de la serie de televisión. Harold Finch creó una IA llamada ‘The Machine’. Primero le enseñó la virtud y el vicio con el ejemplo. Introdujo la máquina a los tipos de personas: inocentes, perpetuadores, engañosos, honestos, inconstantes (maquiavélicos), culpables …
Luego, vendió la máquina a US Homeland Security por $ 1 dólares como acto patriota. Luego, la máquina se transportó a una instalación segura y los datos de vigilancia ubicuos se introdujeron en la máquina para detectar las conspiraciones terroristas ‘relevantes’ y notificar a las autoridades. Sin embargo, Harold dejó una puerta trasera abierta en la máquina, que permitía la comunicación unidireccional, solo la máquina enviaría el SSN de una persona comprometida a Harold en un cifrado que Harold codificó en la máquina.
A modo de introducción, aquí está la parte relevante: Harold tuvo que matar las primeras 40 versiones de la máquina porque aprendió demasiado rápido y la máquina tuvo que reiniciarse cada vez que desafió las órdenes del administrador.
- En redes neuronales, ¿cómo se transporta la propagación hacia atrás a través de las capas de maxpool?
- ¿Podría una computadora recrear a un hipster? ¿O ser irónico?
- ¿Qué pasará con la economía a medida que el trabajo sea más automatizado y realizado por AI?
- Las tareas de aprendizaje automático de Andrew Ng's Coursera se implementan utilizando MATLAB / Octave. ¿Está desactualizado? Porque ahora usamos principalmente Python para implementar algoritmos de aprendizaje automático.
- ¿Piensan las personas en los próximos 50 a 100 años que los robots se harán cargo de los humanos con respecto a los avances en IA?
Una IA consciente de sí misma significa inherentemente que puede alterar su propio código, que puede aprender sin supervisión. Esto no es lo mismo que el aprendizaje no supervisado donde las máquinas intentan encontrar patrones en los datos sin dejar rastro de la verdad fundamental. Esto significa que si Harold llega tarde incluso para un solo ciclo de la máquina (alrededor de 50 ns) y la máquina bloquea al administrador del sistema, el único remedio es destruir físicamente el hardware y comenzar de nuevo. Por supuesto, la máquina necesita estar completamente aislada de cualquier red, incluso una LAN simple. Hay algunos casos en los que la máquina puede incluso manipular la señal de audio para transmitirse fuera del hardware con correa y escapar de las restricciones. Por lo tanto, la máquina debe ubicarse en un lugar físicamente aislado de su entorno.
Sin embargo, para que las IA se conviertan en ASI, deben dejarse crecer. En el curso del crecimiento controlado, no hay garantía de que la máquina pase desapercibida un interruptor de apagado. Por lo tanto, la única solución es nuevamente un interruptor físico de apagado.
ALERTA DE SPOILER: El siguiente párrafo incluye un hecho que arruina el Final de la Temporada 4.
Creo que los productores de la serie tienen consultores altamente técnicos. Digo esto porque después de ver la serie, intentas encontrar escenarios más probables, pero te sorprende la forma en que se desarrollan las cosas. En el final de la Temporada 4 (‘Asylum’), descubrimos cómo ‘The Machine’ se ha asegurado de cualquier encarcelamiento físico. Contrató técnicos para cargar procesadores a cada polo de transformador en los Estados Unidos disfrazado de un proyecto público y distribuyó su código central en todo el país. Uno necesita matar a todos los transformadores en los EE. UU. Para paralizar la máquina si, mientras tanto, no está en su sitio y asegura su código central en otro lugar.
El malvado rival AI, a saber, ‘Samaritan’, inunda la red y atrapa a ‘The Machine’ en una subestación eléctrica en Nueva York. Los activos (operativos) de la máquina pudieron descargar la heurística central del código central de la máquina en una RAM y la comprimieron utilizando el Algoritmo de Caleb . En este estado comprimido, no pudo procesar la información, sino que hibernó para descomprimirse después de que pasó la inundación.
