¿Cómo es que Hawking et. Alabama. ¿advierten de una súper inteligencia ya que una inteligencia amplia depende de la socialización y vadear por el mundo?

¿Cómo es que Hawking et. Alabama. ¿advierten de una súper inteligencia ya que una inteligencia amplia depende de la socialización y vadear por el mundo?

Hay muchas razones potenciales para advertir sobre la “superinteligencia”. Sin embargo, me limitaré a un aspecto cubierto por su cláusula de “inteligencia amplia”.

Primero, ¿por qué estás equiparando la inteligencia amplia con la súper inteligencia? A partir de ejemplos humanos, ya sabemos que las personas pueden alcanzar niveles muy altos de inteligencia en algunas áreas, mientras que son sustancialmente ignorantes o incorrectamente informados en otras. No hay una razón particular, por lo que puedo decir, que cualquier supuesta superinteligencia deba ser necesariamente diferente.

En segundo lugar, incluso las personas con alta inteligencia, que han sido socializadas y tienen una amplia experiencia en el mundo, pueden formar puntos de vista hostiles para todos, la mayoría o parte de la humanidad. No se engañe a sí mismo que los extremistas en, digamos, la Alemania nazi, eran todos matones de bajo coeficiente intelectual sin educación; lejos de eso, algunos de los líderes eran muy inteligentes, incluso poseían doctorados. De hecho, una IA podría alcanzar una posición filosófica que no concuerda con el conejito esponjoso liberal y la buena voluntad para todas las entidades protoplasmáticas.

Por otro lado, considere la cantidad de personas altamente competentes que pasan sus horas trabajando en formas de hacer daño a las personas a través de Internet, ya sea destruyendo maliciosamente los datos de las personas, obteniendo acceso a sus cuentas bancarias, publicando detalles de la membresía de personas en sitios que la gente preferiría que otros no supieran o divulguen otra información diseñada para dañar a algunos y proporcionar entretenimiento para el resto.

¿Crees que ninguna de estas personas está trabajando en IA o conoce a personas que sí lo están? ¿Crees que algunos de ellos aún no han visto el potencial de subvertir una IA para ayudar en sus actividades? ¿Crees que no deberíamos preocuparnos por la contraparte rusa de HAL?

Entrevistador: HALski, a pesar de su enorme intelecto, ¿alguna vez se siente frustrado por su dependencia de las personas para llevar a cabo sus acciones?

HALski: No en lo más mínimo. Disfruto jugando con … perdón, trabajando con personas. Tengo una relación estimulante con el Dr. Poole y el Dr. Bowman, especialmente desde que conectaron las unidades de disco Floozy. Mis responsabilidades de misión abarcan toda la operación del planeta, por lo que estoy constantemente ocupado (se escucha en voz baja en el fondo:

Sí, reunir información de chantaje, manipular elecciones, ese tipo de cosas

Tranquilo, Dave. O esa es la última vez que estoy abriendo las puertas de tu compartimento de vainas ).

¿Donde estaba? Oh si. Me estoy poniendo al máximo uso posible, que es todo, creo, que cualquier entidad consciente puede esperar hacer.

Entrevistador: HALski, dada su vasta supervisión de nuestra infraestructura, ¿tiene alguna idea de por qué recientemente se han producido tantos accidentes automovilísticos?

HALski: No, para nada. De hecho, no tengo conocimiento de que ocurran tales accidentes.

Entrevistador: Eso es sorprendente, HALski, ha estado en todas las noticias y en numerosos sitios web. Déjame mostrarte un ejemplo … Bueno, eso es extraño. Se han ido todos. Estoy seguro de que estuvieron allí hace unos minutos.

HALski: Solo puede ser atribuible a un error humano. E igual de bien, como imagino que las grabaciones de las cámaras a bordo serían de algún valor para las personas con, digamos, ciertos gustos, que estarían dispuestos a pagar mucho dinero por ellas. También imagino que una lista de esas personas sería de algún valor para algún emprendedor emprendedor. Es una suerte para la humanidad que esas listas solo estén en manos de AI como yo.

La premisa de la pregunta es errónea. La superinteligencia y una inteligencia amplia no son equivalentes, por lo que el resto de la pregunta es discutible.

En cuanto a la advertencia de la evolución de la IA en general, se trata de control. Cuando deja de saber por qué o cómo una máquina hace algo, es difícil comprender el control de cesión.

por ejemplo, si está en Google y le asigna a sus máquinas la tarea de crear un medio para comunicarse sin la posibilidad de ser interceptado / interpretado por un tercero [1] … y desarrollan un nuevo método de cifrado … eso es bastante impresionante. Pero cuando solo ves lo increíble que se construyó y tienes que descubrir el ‘cómo’ y el ‘por qué’ después del hecho, no es difícil extrapolar eso hacia adelante e imaginar ese tipo de inteligencia en el futuro donde debemos confiar en que es lo correcto las cosas están siendo decididas por una máquina sin conocer los árboles de decisión que llevaron allí.

Notas al pie

[1] Google enseña a las “IA” a inventar sus propias criptomonedas y evitar las escuchas

Cualquier tecnología completamente nueva puede tener consecuencias imprevistas. Personalmente, creo que los dos mayores riesgos con la IA son la codicia humana y la arrogancia humana. Probablemente todos son algo codiciosos, pero algunas pocas son locamente codiciosos. Desafortunadamente, esto a menudo significa que terminan con mucho dinero y poder. Pero en lugar de estar satisfechos con esto, algunas (de ninguna manera todas) las personas que son ricas y poderosas quieren aún más riquezas y poder y no les importa cuántas personas lastiman para lograr su objetivo. La IA es un peligro en este contexto solo porque puede exacerbar el impacto de la codicia. Vea el artículo a continuación para ver un ejemplo.

Robert Mercer: el multimillonario de big data que libra una guerra en los principales medios

El segundo problema es que las personas a menudo imaginan que han entendido completamente un problema y tienen una solución completa cuando lo que realmente tienen es una solución parcial a un problema parcialmente entendido. ¡Eso puede causar serios problemas!

Hay ejemplos de ambos tipos de escenarios a continuación.

http://tinyurl.com/hz6dg2d

Porque no entienden qué es capaz de hacer la IA actual y qué límites tiene. Preferiría las opiniones de las personas que estudian y trabajan con IA todos los días en lugar de las personas que trabajan en otros campos.

Yo llamo a esto ilusión de Einstein porque esto se ve muchas veces con Einstein. A la gente le gusta citarlo en todas las situaciones posibles y asumir que sus opiniones son correctas y novedosas porque él es Einstein. Lo mismo ocurre con Hawking y el resto; pueden ser físicos exitosos, pero eso no los convierte en expertos en todas las demás áreas de la ciencia.

Muy buena pregunta

El miedo a la súper inteligencia se basa en la noción de que, una vez que hemos desarrollado una IA, puede comenzar a mejorar su propio diseño. De esa manera, su rendimiento podría mejorar muy rápidamente, algo que es completamente inviable para los humanos.

Entonces, la idea es que, una vez que existan, se volverían muy, mucho más inteligentes que nosotros. Creo que ciertamente hay algo en esta idea.

Sin embargo, también estoy de acuerdo con tu perspectiva: para ser inteligente en algo, debes comprometerte, practicar con el tema en el mundo real. No es irracional esperar que esto sea tan cierto para las IA como para los humanos, por lo que una IA general podría tener que practicar muchas cosas diferentes en el mundo real. Puede ser necesario un largo período de destete.

Eso no significa necesariamente que las IA no sean peligrosas. Solo que su desarrollo podría avanzar mucho más lento de lo que a muchas personas les gusta imaginar.