¿Crees que la IA sobrehumana que es capaz de conquistar a la humanidad se desarrollará durante nuestra vida?

Sí, ya tenemos IA sobrehumana para campos estrechos. ¿Hemos tenido una IA súper humana para hacer matemáticas durante 80 años? ¿Hemos tenido una IA súper humana para jugar damas durante 60 años? Hemos tenido una IA súper humana por jugar al ajedrez durante 20 años>? Y ahora IA súper humana para jugar GO y póker. ¿Quedan sus juegos?

Cenamos IA humana para realizar algunas tareas de reconocimiento visual y de voz.

Tenemos una IA súper humana para jugar a Jeopardy.

Ya tenemos MUCHAS IA súper humana. Lo que no tenemos es la misma escala amplia de Ai que tiene el cerebro. Pero eso, sinceramente, no está muy lejos. Menos de 10 años probablemente.

Pero una vez que obtengamos el mismo amplio aprendizaje genérico de los humanos, aún tendremos que entrenar a la IA. Y si todo lo que tenemos es la misma capacidad de aprendizaje de los humanos, tomará 10 años de entrenamiento llevarlo a la inteligencia de un humano de 10 años (aunque probablemente haya atajos).

La IA súper humana seguirá siendo cada vez más general hasta que no quede nada que los humanos puedan hacer mejor que nuestras máquinas, entonces las máquinas serán súper humanas en todas las áreas de actividad mental. Esto sucederá muy pronto ahora.

“Lifetime” es un poco nebuloso, ¿qué pasa si descubrimos la cura para el envejecimiento en los próximos 50 años? ¿Qué tal “se desarrollará la IA sobrehumana dentro de 100 años”?

Creo que un horizonte temporal de 100 años es casi una certeza. Hay una gran cantidad de pasos y desafíos que no estamos muy seguros de cómo superar, pero cada paso le da un valor adicional a la IA, por lo que los incentivos económicos son enormes. Además, cada uno de los desafíos generalmente es fascinante por sí mismo, por lo que siempre habrá decenas de miles de científicos e ingenieros extremadamente talentosos disponibles que estén dispuestos a dedicar sus carreras para resolverlos.

También es muy posible que muchos de los pasos intermedios y desafíos que creemos que necesitamos resolver, sean completamente innecesarios para desarrollar una IA sobrehumana, o una solución podría terminar resolviendo la mayoría de los pasos a la vez.

También la evolución y la biología crearon intelecto humano, por lo que es casi seguro que podremos realizar ingeniería inversa con suficiente esfuerzo dedicado.

Quizás no en mi vida porque soy bastante viejo. Pensé que el artículo citado era superficial e inexacto.

Pregunté a muchos expertos en IA … pero todos estuvieron de acuerdo en que no tenemos métricas de inteligencia.

No es necesario preguntar a ningún experto. Solo busca en Google y con bastante rapidez deberías encontrar

Para responder a su pregunta original, eche un vistazo a la charla TED de Nick Bostrum.

No ,,, sin embargo, espero que los humanos y la inteligencia inorgánica se fusionen en “otra cosa … un sentimiento compuesto”, la vida basada en el carbono en la que nuestras deficiencias se ven afectadas por los sistemas inorgánicos. Mi computadora amplía mi intelecto, corrigiendo errores ortográficos y permitiéndome encontrar información en segundos que solía requerir horas para adquirir en la biblioteca … Ahora todo lo que necesito son sistemas inorgánicos que complementen y / o corrijan sistemas mentales orgánicos en tal medida que debería mi cerebro orgánico deja de funcionar, ni siquiera notaré su paso …