Con la superinteligencia acercándose rápidamente con el avance continuo en el aprendizaje profundo, ¿estamos subconscientemente preparándonos para la extinción?

No.

La superinteligencia no se acerca rápidamente. No se asuste por todo el bombo publicitario. Todo se jacta de personas demasiado ambiciosas, con dinero en juego. E ignora las películas.

El aprendizaje profundo está sobrevalorado y no se trata de conducir a súper máquinas más inteligentes que los humanos. El hecho de que alguien pueda entrenar software para reconocer una imagen de un gato no significa que esto conducirá inmediatamente a máquinas que nos matarán. Hay tanta basura en la prensa.

Agregado: debería ampliar esto. El llamado aprendizaje profundo es simplemente un reconocedor de patrones. aprende a reconocer patrones que existen, o cercanos a los existentes. En general siempre debe ser entrenado y guiado. (Aunque existe una tecnología de aprendizaje autoguiado, pero las redes neuronales no tienen juicios cognitivos verdaderamente independientes sobre lo que es conceptualmente importante). Pero de ninguna manera es bueno en nada original, sin importar lo que Google afirme en sus demostraciones de ‘ resonancias de patrones memorizados ‘, como las espeluznantes imágenes oníricas que han publicado. Se afirma que DL puede resolver ecuaciones, pero eso es más como reconocer los patrones presentes en una ecuación presentada y, en efecto, simplemente buscar un tipo de solución ya conocida. Pero no hay pensamiento matemático, no hay originalidad.

Voy a ser lo suficientemente tonto como para afirmar aquí que el llamado aprendizaje profundo de hoy es promovido por muchos triunfadores demasiado ambiciosos que reclaman sus opiniones e intuiciones como hechos y futuro. Excitan al público con afirmaciones audaces que pertenecen a una película de ciencia ficción. Una falacia en su pensamiento es que creen que la tasa de progreso de los avances actuales continuará y se acelerará sin cesar. No estoy de acuerdo con eso, y veo que surgen obstáculos que afectarán sus suposiciones. La IA avanzará, pero primero tomará nuevos paradigmas y unos muy diferentes de los esquemas establecidos que se aceptaron cómodamente.

¿Por qué digo esto? Porque en mi propio trabajo en sistemas conscientes y conscientes de sí mismo, veo mecanismos bastante diferentes para la inteligencia, complejos y DL no se parece en nada a lo que se necesita. Me encantaría debatir públicamente cualquier defensor de DL de alto nivel que afirme que está llevando a la superinteligencia. DL es solo una herramienta, pero no es el amplio alcance que pretende ser.

Absolutamente no tenemos idea de cómo hacer una inteligencia artificial superinteligente y las técnicas de aprendizaje profundo de hoy en día no pueden llamarse realmente IA, simplemente funcionan como aproximadores.

¿Puede el aprendizaje profundo convertirse en algo similar a un ASI? No lo sabemos, pero es muy poco probable, en mi perspectiva, un ASI amigable con Deep Learning es impensable por varias razones.

No digo que la IA no sea una amenaza existencial y que no debamos preocuparnos por el progreso de las técnicas de Deep Learning. DL puede llegar muy lejos, probablemente hasta el punto de automatizar muchos de los trabajos existentes en la actualidad y eso debería preocuparnos en gran medida.

No somos una sola entidad, somos muchos, competimos entre nosotros, tenemos objetivos diferentes y somos de naturaleza egoísta, al menos algunos de nosotros.

Por lo tanto, el aprendizaje profundo es una excelente forma de progreso individual y de ganar dinero con nuevas empresas y descubrimientos, si esto no es lo mejor para la humanidad (no lo sé realmente), a las personas no les importa.

Necesitamos policías para mantener la paz en nuestras ciudades, tomamos nuestro capuchino por las mañanas cuando podemos salvar vidas en países del tercer mundo con ese dinero.

Básicamente, no podemos coordinarnos para el bien mayor de la humanidad, porque nos damos prioridad a nosotros mismos individualmente y al beneficio a corto plazo.

Es la naturaleza humana y no se puede cambiar, eso no significa que las máquinas seguirán el mismo patrón, porque no tienen nuestros genes, hormonas, etc.