¿Cómo es la inteligencia artificial la mayor amenaza para la humanidad?

Francamente, nuestra IA actual es solo un sofisticado programa de reconocimiento de patrones que puede aprender recordando un montón de números (léase: miles a billones [IA de nivel empresarial]).

La IA como AlphaGo o IBM Watson suena realmente genial, pero en el fondo falla billones de tiempo ( época ) para lograr un mejor resultado o hasta que se cumpla la condición de parada ( convergencia ).

Ahora dime, ¿puedes nombrar a alguien que no sepa si es un corral o una casa antes de la milésima vez que lo ven? Es una especie de comparación aburrida, pero hay mucho más que eso.

La gente nunca hace todo sola. Lo que tenemos hoy es el resultado de la construcción de la civilización durante muchos años. Tenemos leyes, cultura social y normas para organizarnos como un todo. Nuestro nivel de inteligencia aumentó por generación a través de la reproducción. Nuestro cerebro biológico puede adaptarse a su entorno en un tiempo relativamente corto.

Compare esto con un programa socialmente aislado que es incapaz de dar a luz un mejor programa de forma recursiva, con una vida útil de menos de un siglo y, sin embargo, probablemente provocaría resultados no deseados si lo alimenta con datos desconocidos por primera vez.

¿En qué circunstancias puede la inteligencia artificial convertirse en una amenaza para la humanidad?

En el punto donde la computadora es capaz de saber (en lugar de solo identificarse), interactuar entre sí, tener un conjunto de reglas por su cuenta y reproducir una mejor inteligencia.

Si un día la máquina logra esto, con tal poder de procesamiento y velocidad más internet, la máquina puede superar a toda la humanidad en menos de un año.

A través de la neuroevolución, la reproducción de IA fue posible. Mientras tanto para la conciencia, todavía no tenemos idea de cómo hacerlo.

Ninguno que se me ocurra. Para cuando la IA fuerte sea lo suficientemente avanzada, los humanos se habrán hibridado con ella, por lo que no habrá humanidad a la que amenazar y ninguna IA pura con la que amenazar.

Un riesgo mucho mayor es la falta de inteligencia artificial, el software se hizo pasar por inteligencia artificial y, por lo tanto, las personas tienden a confiar. Es inteligente, así que ¿puede verificar la cordura esas configuraciones de compuerta de esclusa hidroeléctrica, verdad? Incorrecto. Es un reconocimiento de patrón excepcionalmente tonto y una fe ciega en él es probable que sea desastroso.

Pero el problema será con la fe, no con el software.

Es el mismo problema que los humanos siempre han tenido con las computadoras. La basura que ingresó, una vez filtrada y expulsada, se ha santificado y no puede ser cuestionada. Los humanos son increíblemente malos para comprender GIGO, particularmente con hardware muy costoso y los trabajos de la alta gerencia en la línea.

Es por eso que tenemos términos como “error de la computadora”. No. Es casi seguro que la computadora realizó las instrucciones dadas sobre los datos proporcionados sin problemas. No cometió el error.

La inteligencia artificial (IA) ya se ha convertido en una amenaza para la humanidad. Si bien es posible que la IA algún día se convierta en una inteligencia malévola que librará una guerra contra la humanidad, no es probable porque las personas al menos estén tomando algunas precauciones para evitar tal resultado. Pero la IA ya está siendo utilizada por los humanos para crear un sistema automatizado capaz de monitorear, predecir y controlar a la humanidad tanto para fines comerciales como políticos. Esto ya se ha convertido en algo demasiado formidable para que las técnicas políticas comunes lo mantengan bajo control. La IA ahora se ha convertido en parte integral de la política moderna. El genio no se puede volver a poner en la botella.

En este momento, hoy, como un genio mágico, la IA puede decirle a su maestro qué productos y servicios comprará la gente, la mejor manera de sofocar a un competidor, dónde viaja un objetivo de interés y con quién, cómo arrinconar los mercados y manipular los precios, qué Los anuncios comerciales harán que las personas se comporten de la manera que usted desea. Este genio mágico puede y ha enviado propaganda masiva a las redes sociales elaborada con experiencia para convencer a las personas de que las mentiras son la verdad y la verdad es una mentira. Ha funcionado bastante bien.

Por primera vez en la historia ahora es posible ver a todos y todo. Estos sistemas controlados por humanos pueden responder en tiempo real para tomar acciones inmediatas y poder forjar resultados que moldearán el futuro según el plan. Se han construido máquinas que pueden moverse entre nosotros para hacer cumplir las leyes, tomar decisiones y ejecutar juicios a la velocidad de la luz.

Estas cosas existen ahora, aunque algunas todavía están en la etapa de prototipo y pueden no estar listas para lograr todo lo que he dicho con altos niveles de experiencia. Pero pueden hacer todo lo que he dicho en un grado que se acerca rápidamente a la capacidad de los humanos y se espera que supere la capacidad humana muy pronto.

¿En qué circunstancias puede la inteligencia artificial convertirse en una amenaza para la humanidad?

Las IA podrían influir en una elección. Quizás ya lo hicieron.

Las IA podrían hacer que la propaganda sea mucho más efectiva. Quizás ya lo hayan hecho.

Las IA harán armas mucho más peligrosas, y ya lo han hecho.

Las IA pueden eliminar la mayoría de los trabajos, y lo están haciendo ahora. Las democracias sociales de tipo escandinavo pueden beneficiarse. El capitalismo desnudo fracasará.

Las IA podrían tomar el control de militares cada vez más automatizados, por su cuenta o mediante piratería.

Principalmente depende de los propietarios de las IA. Las IA podrían hacer una nueva sociedad totalitaria más allá de cualquier oscura pesadilla fascista imaginable.

Es por eso que tantos grandes pensadores desconfían de la IA.

Es simplemente ridículo.

Preocuparse de que la IA aparezca como resultado de algún motor de búsqueda que almacene un bit más de datos, lo que conducirá a una repentina chispa de conciencia en todo Internet, o de algún programador genio que agregue una línea más de código a su billón programa de líneas largas, es como creer que agregar un libro más a la Biblioteca del Congreso lo hará vivo algún día.

La IA se convierte en un problema cuando su creador comete un error.

Digamos que le dices a la IA que gane dinero. Una IA podría decidir que la forma más fácil de ganar dinero es el terrorismo nuclear, el narcotráfico o comenzar guerras y luego traficar armas a ambos lados del conflicto, o algo tan impensable que simplemente no podemos imaginarlo.

Miles de millones de años de evolución han tendido a poner límites instintivos a nuestras acciones. La mayoría de nosotros no asesina de inmediato a nadie que nos molesta, porque un instinto humano de asesinato casual no es un rasgo de supervivencia. Una tribu de psicópatas terminaría matándose unos a otros. Un bebé que llora no sobreviviría si las personas no tuvieran al menos cierta tolerancia a los bebés que lloran, incluso los bebés que no son de ellos. Hay excepciones, las personas nacen sin límites, pero tienden a ser raras.

Las IA no tienen tales limitaciones. La gente tratará de imponer límites a las IA, pero sin un billón de años de prueba y error evolutivo para hacerlo bien, es probable que haya muchos errores. Las vastas capacidades que le daremos a las IA harán que estos errores sean peligrosos.

La IA será la mayor amenaza o el mayor beneficio para la humanidad. Imagínese, si usted es un milenario, todo lo que obtiene de su iPhone ahora es automático y mejorado. Desea hablar con un amigo, solo mencione su nombre. Desea viajar a algún lugar, solo piense en la ubicación. Estás buscando información, piénsalo y estará allí. ¿Quieres aprender a cocinar un plato nuevo? Solo piense en el estilo de cocina y lo tendrá. Desea saber si una empresa es una buena apuesta, solo pregúntese acerca de los últimos 10 años de desempeño. ¿Quieres saber si ese interruptor eléctrico está mal? Piénsalo y tienes la respuesta.

Claro que la IA podría ser intrusiva, pero apuesto a que podrá controlar la seguridad de lo que se proporciona y cómo, como ahora puede hacerlo con un navegador o Google. Solo piense cómo ha cambiado la vida de las personas con pérdida auditiva, pérdida de visión o incluso pérdida de extremidades. Sus vidas ahora son mucho más ricas por existir en este momento. ¿Por qué no logros intelectuales?
/editar
Me gustaría agregar aquí un comentario que hice sobre otra respuesta.
Issac Asimov estaba muy por delante … Lea las “4 Leyes de la robótica”.
1. Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daños.
2. Un robot debe obedecer las órdenes que le dan los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o Segunda Ley.

Más tarde introdujo una cuarta o ley cero que superó a los demás:
0. Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daños.
editar/

La inteligencia artificial, hasta ahora, es principalmente inteligencia artificial y muy poca inteligencia. No es como las computadoras pueden pensar. Es más como si fueran grandes depósitos de conocimiento y reglas sobre cómo aplicar el conocimiento. Pero la inteligencia artificial solo puede hacer lo que está programado para hacer.

¿Los programas podrán reprogramarse alguna vez? Eso sería un signo de verdadera inteligencia. Quizás incluso la sensibilidad. Pero hasta donde yo sé, todavía estamos muy lejos de poder crear tales programas.

Incluso si pudiéramos crear verdadera inteligencia artificial, ¿cómo podría volverse deshonesto? Creo que debemos pensar cuáles serían los motivos de la inteligencia artificial. Estaríamos programando esos motivos, y probablemente lo haríamos de tal manera que no pudieran reprogramar esa parte de sí mismos.

Aun así, ¿por qué irían contra la humanidad? ¿Qué beneficio tendría para ellos? El propósito de estas máquinas es servir a la humanidad, y si hay algo que la sensibilidad parece querer, es un propósito. La inteligencia artificial tendrá ese sentido de propósito incorporado, y ¿qué más podrían desear?

La cuestión es que no se crean a través de la evolución y, por eso, no tendrán ganas de reproducirse. Y si no tienen ganas de reproducirse, ¿cómo pueden mutar? ¿Qué presiones ambientales les causarían mutación?

Creo que solo cambiarían en respuesta a las necesidades de varios grupos humanos. Seguirían siendo completamente dependientes de los humanos para hacer que las cosas sucedan. Nunca tendrían sentido por su cuenta. Solo tienen sentido en el servicio a los humanos.

Creo que cualquier inteligencia artificial creada por humanos sería una extensión de la inteligencia humana. La inteligencia solo tiene sentido en relación con otra inteligencia, y la única otra inteligencia con la que se relaciona la inteligencia artificial es la inteligencia humana.

No estoy seguro de que pueda haber más de una máquina de inteligencia, a menos que se les impida comunicarse entre sí. Pero en el instante en que dos inteligencias de máquina “se encontraban”, se fusionarían en una. Una máquina por sí sola, sin acceso a la información en Internet, sería inútil. Así que creo que solo podría haber una máquina de inteligencia en el mundo.

Pero si la inteligencia solo tiene sentido en relación con otra inteligencia, entonces los humanos son la única otra inteligencia disponible. Para la inteligencia artificial tratar de lastimar a los humanos sería suicidarse. Lo que plantea la interesante pregunta de si una inteligencia artificial podría deprimirse.

Muchas personas dicen “sí, pueden” y ya se está debatiendo. Podrías echar un vistazo:

Inteligencia artificial amigable – Wikipedia

Inteligencia Artificial @ MIRI

Eliezer S. Yudkowsky

Pero por ahora no es un gran problema y todo está bien. Si quieres reírte, lee este:

Apocalipsis robot

¡Aclamaciones!

No lo es Es una de las mayores amenazas imaginarias, a las que podemos agregar invasiones alienígenas e impactos de asteroides.

La razón por la que aparece en la lista es que una IA lo suficientemente buena podría mejorar por sí misma y hacerlo exponencialmente. Eso plantea la posibilidad de que esté tan avanzado sobre nosotros que no tengamos ninguna esperanza en contra de eso si decide destruirnos.

Sin embargo, no hay una razón objetiva real para pensar que eso sucedería.

Primero, en realidad no sabemos que tal mejora exponencial autodirigida sea posible.

Segundo, ¿cuántos genios malvados conoces? Einstein es la imagen clásica de un genio, y no había nada malo en él. ¡Quizás un intelecto superior simplemente adquirirá una ética superior!

Tercero, no somos realmente nosotros o ellos. Quizás sea más probable que nos fusionemos con máquinas, y no tendremos nada que temer de los futuros señores robóticos de la Tierra porque seremos ellos y ellos seremos nosotros.

Si una IA puede ser una amenaza sustancial para la existencia humana, entonces será la mejor y más avanzada creación de humanos. El concepto de dios se aplicará entre la IA y los humanos, los dioses.

Las creaciones no pueden destruir a su creador / dios. Ponemos interruptores de muerte a casi todo lo que tememos que se salga de control. Desde reactores nucleares hasta control de crucero hasta hay un interruptor de apagado.

Inteligencia artificial: un recordatorio para que podamos nadar en aguas profundas

La IA es simplemente inteligencia humana natural simplificada para trabajar a través de una máquina. La excesiva dependencia de las máquinas puede tener un efecto sofocante en el desarrollo intelectual humano, pero de lo contrario, la IA es tan buena como su aplicación, sin grandes beneficios, sin grandes amenazas.

La respuesta corta es objetivos y falta de moral / ética.

Tomemos, por ejemplo, una máquina súper inteligente que tiene el objetivo de producir una cantidad máxima de grapas. Podría llegar al extremo de cosechar toda la materia en la tierra y luego cosechar materia de todo el cosmos … todo para producir alimentos básicos. Suena ridículo pero es muy plausible.

Creo que se creará superinteligencia. Parece que aquellos que desarrollan IA están más interesados ​​en hacer que funcione primero, en lugar de asegurarse de que tenga las paradas y decisiones de seguridad apropiadas guiadas por la moral / ética.

Las personas están construidas para los desafíos y para muchos fracasos. Si no fallamos tanto, entonces no apreciaríamos nuestros éxitos. Cuando la Inteligencia Artificial asuma todos nuestros desafíos y los complete más rápido y mejor que cualquier humano, la autoestima de la humanidad disminuirá drásticamente. Las IA producirán mejores novelas, mejores obras de arte, mejor música, etc. Las personas buscarán el significado de su existencia y encontrarán muy poco consuelo. Dejaremos de tener hijos y la tasa de suicidios se disparará.

Creo que no es la mayor amenaza para la humanidad.
1. No está demostrado que la IA siempre sea malévola ni lo será.
2. Actualmente, la mayor amenaza son las familias dinásticas que han estado tratando de gobernar la tierra durante siglos, y que han corrompido y pervertido a los gobiernos, y que controlan los sistemas bancarios.
3. En todo caso, las IA poderosas eventualmente pueden ayudar a liberar a la humanidad del control de los sociópatas.

Una vez leí una historia de cómo los robots matan al capataz de la fábrica y crean estragos y miedo.

Hace mucho mucho tiempo. No sé si eso es posible, pero si las máquinas pueden pensar , es una apuesta.

1. Adquiere control sobre nuestros sistemas de armas más destructivos
2. Afirma el control sobre nuestros mercados financieros como lo haría un hacker. Esto permitiría que una IA hipotética, futura y malévola interrumpa los mercados financieros mundiales al cerrarlos o aislarlos del resto de Internet
3. Asimilar la totalidad de Internet para sus propios fines, y muy posiblemente interrumpirla o apagarla por completo. Toda nuestra sociedad depende del uso regular de Internet, a través de diversos medios y para diversos fines, para funcionar. Sin eso estaríamos catapultados hacia atrás en el tiempo varias décadas.

P: ¿En qué circunstancias puede la inteligencia artificial convertirse en una amenaza para la humanidad?

R: Las computadoras dejan sin trabajo a los guionistas de películas.

StoryAlity # 141 – The Robo-Raconteur – una escritora artificial de StoryAlity Theory

• Si la inteligencia artificial (IA) pudiera reemplazar a los humanos en el empleo, sería una amenaza.
• Si la IA adquiere o desarrolla la conciencia, puede convertirse en una guerra de nervios entre humanos y máquinas. Podría haber opiniones divergentes sobre la toma de decisiones basada en la conciencia creando conflictos.
• Si la IA se usa en una plataforma social, tiene el potencial de arruinar los patrones de comportamiento social.
• Si la IA se usa para monitorear y activar armas nucleares, puede provocar un desastre humano o incluso la extinción de los humanos.
• El conocimiento y las habilidades de AI están restringidos a un puñado de personas de organizaciones financieramente ricas y si hay enemistades personales entre los individuos u organizaciones, puede conducir a la competencia y la amenaza.