¿El desarrollo avanzado de la IA eventualmente se convertirá en una amenaza contra la raza humana?

No es la amenaza, sino solo una amenaza más. En este momento estoy más preocupado por la notable falta de educación de las personas, en 10 o 20 años tendré más miedo a la IA que en este momento.

Algunas personas tienen miedo de la IA, otras no. Para aquellos que no lo están, tengo un simple razonamiento a seguir:

  • Nuestros cerebros han evolucionado con una restricción de eficiencia energética y períodos de gestación femenina. En otras palabras, nuestras cabezas deben ser lo suficientemente pequeñas como para no matar a nuestras madres y lo suficientemente grandes como para no tener deficiencias mentales.
  • Nuestra activación neuronal, aunque extremadamente eficiente en energía, es lenta. Si confía en la fuente [1] a continuación, aproximadamente 100 Hz como un límite superior alto.

  • Las computadoras no tienen tales restricciones.
    • Si bien la eficiencia energética es una limitación, podemos quemar más carbón y bombear más energía eólica al sistema según sea necesario. La refrigeración será un gasto, pero el límite es mucho mayor que la inteligencia orgánica.
    • Podemos hacer computadoras neuromórficas basadas en hardware. Que sería como las neuronas humanas pero sin las limitaciones de tamaño proporcionadas por el canal de parto y la comida.
    • En comparación con una neurona humana, la velocidad de disparo de un procesador moderno común es al menos 10,000,000x más rápida, una velocidad muy alta [2] puede alcanzar un pico casi 9 veces mayor.

El rendimiento mental a nivel humano se ha logrado al menos una vez por naturaleza. Ciertamente no es mágico, por lo que por medio de la ingeniería podríamos replicar la hazaña al tener tecnología suficientemente avanzada. Lo que significa que somos la prueba de concepto necesaria. Es factible.

Una vez que establezcamos la arquitectura adecuada para esa inteligencia (pista: no es Deep Learning), solo el hecho de que no esté limitado por nuestras mismas restricciones biológicas debería ser suficiente para asustarlo.

Notas al pie

[1] Tasas de disparo de neuronas en humanos

[2] Validador CPU-Z: récords mundiales

Para “sobrevivir mientras es una amenaza”, una IA necesitaría:

a) Una forma de generar energía independiente de los humanos.

b) Una forma de mantener su hardware también independiente de los humanos.

c) Una forma de comunicarse en todo el mundo y cada nodo también tendría los mismos problemas que a) yb)

d) Una forma de crear piezas de repuesto / expansión para su generación de energía, infraestructura de red y hardware de procesamiento.

e) Una forma de eliminar / controlar una gran cantidad de humanos, sin poner en riesgo su propia infraestructura.

Falla en cualquiera de esas áreas y la IA deja de ser una amenaza.

Permítanme sugerir que no serán los desarrollos en IA lo que será el problema, sino cuánto control sobre su propio destino le daremos.

Entonces, para nuestro futuro yo, sugeriría tomar una serie de precauciones:

  1. Toda la generación de energía conectada al hipotético sistema de IA debe tener un “botón rojo grande” bonito y fácil de usar etiquetado como “APAGADO”
  2. Si bien tener una AI reescrita, su propia programación es encantadora, asegúrese de que haya una función de comando irrompible, fundamentalmente incorporada, etiquetada como “OFF”
  3. Nunca, dé a una máquina capaz de cambiar su comportamiento el acceso al armamento. Por supuesto, el control autónomo que no es AI, pero no le dé a ninguna IA que tenga incluso una pequeña posibilidad de crecimiento involuntario la capacidad de controlar cualquier cosa vagamente en forma de arma.

¡Toma esas precauciones y es hora de la fiesta de la IA!

0: 00-2: 57

Tal vez. Aquí hay un par de libros interesantes sobre eso si quieres educarte realmente sobre todo.

https://www.goodreads.com/book/s

https://www.goodreads.com/book/s

More Interesting

¿Cuál puede ser el papel de la IA en las operaciones de seguridad?

¿Hay algún marco de Python específico para AI, NLP o material relacionado con big data?

¿Qué biblioteca utiliza el experto en aprendizaje profundo para construir manualmente nuevas estructuras de redes neuronales o crear nuevas técnicas de redes neuronales?

¿Cómo se puede invertir para la próxima revolución de la IA?

¿Qué es una prueba ideológica de Turing?

¿Es cierto que comprender la inteligencia artificial es una forma de estudiar la inteligencia general?

Si las células 'tontas' individuales independientes pueden agruparse para desarrollar la conciencia y la vida inteligente (es decir, nosotros), ¿por qué los grupos de hormigas ya inteligentes (que ya exhiben un comportamiento grupal inteligente) se convierten en un 'enjambre' inteligente con conciencia cuya inteligencia enana incluso el nuestro?

¿Hay alguna manera de decidir si una simulación perfecta de todos los aspectos de su estado mental es realmente consciente?

¿Cuál es la diferencia básica entre ruido y valores atípicos en la minería de datos?

¿Qué te intriga del aprendizaje automático? ¿Qué te atrajo al espacio y cómo empezaste?

Cómo hacer que una red neuronal genere un 'cono de probabilidad' en una tarea de regresión

¿Cómo abordaría la ciberseguridad y el aprendizaje automático a través de un aprendizaje supervisado, no supervisado o de refuerzo?

¿Cuál es la mejor manera de realizar el aprendizaje de transferencia en una imagen monocroma (aprendizaje automático)?

¿La IA y las máquinas serán buenas o malas para los humanos?

¿Cuál es el mejor método para el reconocimiento facial, PCA, modelo o redes neuronales?