¿Qué piensa sobre la singularidad tecnológica?

Debido a que The Singularity está mal definido, esto es difícil de responder.

Pero veo dos lados de esto.

Primero, Inteligencia Artificial General. El Watson de IBM superó la inteligencia humana hace bastante tiempo, quizás hace cuatro o cinco años. La inteligencia bruta de Watson hoy está más allá de nuestra comprensión que no tenemos forma de describirla.

Sin embargo, lo que veo que falta es la capacidad de funcionar como humano. ¿En qué condiciones te gusta alguien? ¿Cómo saber si un bebé grita de dolor o solo llora por irritación o falta de atención? ¿Por qué te gustan algunas películas y no otras? ¿Por qué te gustan las fresas y no la tapioca?

Esta segunda parte no se describe como parte de The Singularity, pero creo que es más importante. Esto es en lo que estaré trabajando cuando tenga tiempo para hacerlo.

Probablemente está llegando y, como una singularidad física, es imposible para nosotros saber qué hay al otro lado. Suponiendo que conduzca a IA conscientes de sí mismos, probablemente signifique el fin de la mayoría de las amenazas existenciales para la humanidad y la Tierra, por razones que exploro aquí: ¿Una Epifanía de IA?

A diferencia de la mayoría de los tecno-utópicos, no lo considero inevitable. El aumento de los temores y los actos desesperados de personas que no entienden ni la Singularidad ni el cambio exponencial, pero que conocen bien las amenazas que la automatización que acelera representa para sus vidas y sus medios de vida, podrían torpedear todo el brillante futuro tecnológico de la humanidad.

Necesitamos buenas formas provisionales de abordar el desempleo tecnológico, y las necesitamos ahora. Por eso escribí mi libro.

Si la ley de Moore continúa como lo ha hecho durante los últimos 50 años durante otros 30 años (aproximadamente 2045) tendremos alrededor de mil millones de veces la potencia informática que tenemos actualmente. Si consideramos que Singularity significa “la invención de la superinteligencia artificial desencadenará abruptamente un crecimiento tecnológico fuera de control, dando como resultado cambios insondables en la civilización humana”, entonces creo que podemos estar sustancialmente más cerca de 30 años. Cuando hablo con amigos y familiares, la idea de un futuro sin empleo (o más exactamente 5–15% de la carga de trabajo actual) es casi insondable, esto parece plausible con la tecnología actual aplicada de manera más amplia. Desde una perspectiva económica y política, lo insondable puede estar mucho más cerca.

Cuando veo lo que es posible con la tecnología actual:

parece que estamos avanzando los “subprocesadores” (cortex) del cerebro rápidamente … esta discusión trata sobre la corteza visual y la corteza del lenguaje (o la pieza de vocabulario de esa corteza que asocia imágenes y palabras).

Pero la singularidad se basa en nuestra capacidad de crear inteligencia artificial consciente y de superación personal. Mi (débil) comprensión es que la corteza prefrontal es el “hogar” de la conciencia. Si tenemos corteza de audio + corteza de video + corteza de lenguaje, “parece” que necesitamos una corteza prefrontal para crear el tetraedro fundacional de la conciencia. Mi (otra vez débil) comprensión es que se ha logrado un progreso sustancial en cada uno de estos “subprocesadores” pero que no se han integrado juntos, y que el trabajo ha sido realizado por diferentes equipos.

Si mi comprensión es en su mayoría correcta, y las demostraciones de las diversas tecnologías no son principalmente publicidad publicitaria (una posibilidad distinta), entonces podríamos estar a menos de una década de la IA de nivel humano. Según lo que he leído, pasar de una IA de nivel humano (inteligente) a una IA sobrehumana es un pequeño salto.

Fue una idea formalizada por primera vez por Ray Solomonoff, el pionero del campo del aprendizaje automático. Predije que su teoría conduciría a una “singularidad” alrededor de 2035, pero insinué que eso no sucedería de esa manera:

http://hplusmagazine.com/2013/12 …

Lo importante es llegar a la IA a nivel humano, y eso sucederá dentro de unos años.

En realidad es una idea vaga. Según algunas definiciones, ya podría haber ocurrido, para otros podría ser imposible. Si se vuelve mucho más difícil hacer una entidad más inteligente a medida que aumenta el grado de inteligencia que desea, entonces no ocurrirá una singularidad de inteligencia. Además, las personas tienden a atribuir poderes mágicos a las superinteligencias. Puede haber una cantidad limitada de física desconocida en la que podría basarse la magia.

Finalmente, es posible que no nos importe lo que las superinteligencias puedan lograr. No está del todo claro que si mi perro pudiera entender las hipotecas no las encontraría tontas. ¿Por qué pagar mucho dinero a un banco cuando puedes cavar un hoyo en el suelo y vivir allí?

La singularidad tecnológica es una proyección de fenómenos complejos. Existen métodos de pronóstico establecidos para tales fenómenos, incluido el método Delphi – Wikipedia y el uso del mercado de Predicción – Wikipedia

Deben aprovecharse para evaluar si realmente estamos avanzando hacia una singularidad. Cualquier otra cosa es realmente histeria y autopromoción o simplemente reacción.