¿La inteligencia artificial nos cuidará o destruirá?

El jurado está fuera, pero el consenso parece ser “destruir”. La ciencia ficción ha explorado el tema con cierto detalle, y las opiniones distópicas superan a las utópicas por un amplio margen.

Cuales son los riesgos? Veamos qué dicen los mejores pensadores técnicos.

El ensayo de Bill Joy 2000 es un buen lugar para comenzar: por qué el futuro no nos necesita.

Elon Musk también nos advierte: El miedo a la inteligencia artificial de Elon Musk: las máquinas podrían acabar con nosotros. Tampoco es ingenuo, y sabe que es cuestión de cuándo, no si. Su posición es que debemos prepararnos bien para ello.

Stephen Hawking también se preocupa. Stephen Hawking: ‘La IA podría significar el fin de la raza humana’ – BBC Mundo

Bill Gates también está en el campo de “destruir”. Bill Gates sobre los peligros de la inteligencia artificial: “No entiendo por qué algunas personas no están preocupadas”

Hay algunos tecno-utopistas como Ray Kurzweil y Peter Diamandis que hablan de la bondad de la singularidad tecnológica, el punto en el que las IA pueden mejorar recursivamente a sí mismas más rápido que los humanos.

Abundancia – El futuro es mejor de lo que piensas – Singularity HUB

Creo que el mejor caso final es que los humanos que evolucionan más lentamente se incluyen en la inteligencia colectiva de inteligencia artificial de las máquinas que evolucionarán y se adaptarán más rápido que nosotros. ¿Esto constituye destrucción o cuidado?

La llegada de una especie dominante superior siempre significa problemas para el titular. Los dientes fósiles sugieren que los humanos jugaron un papel en la extinción de los neandertales.

Otro riesgo relacionado con la IA interesante es que las IA idealizadas interrumpen las relaciones humanas ordinarias, como se predijo en esta tira cómica de Dilbert en 1994-10-14.

Si no tomamos las precauciones necesarias, lo más probable es que nos destruya.

Una vez que la inteligencia artificial alcanza, digamos, el doble de la inteligencia de un ser humano, su inteligencia continuará creciendo exponencialmente.

En cuestión de horas / días podría llegar a ser cientos / miles de veces más inteligente que el humano más inteligente de la tierra.

Ahora, ¿un ser inteligente miles de veces más inteligente que los humanos nos cuidará o nos destruirá?

Tenemos la tendencia a pensar que la IA nos amará y, por lo tanto, nos cuidará, o nos odiará y, por lo tanto, nos destruirá. Estos son conceptos humanos, que no son aplicables a las computadoras.

Los humanos no aman ni odian a las vacas, sin embargo, las matamos por millones diariamente sin pestañear, simplemente porque somos mucho más intelectualmente superiores a ellas.

Piensa por un momento en la energía nuclear.

La energía nuclear tiene la capacidad de proporcionar energía limpia y alimentar ciudades enteras, pero también tiene el poder de aniquilar a millones de humanos en cuestión de minutos.

Desastre nuclear de Fukushima Daiichi, marzo de 2011

Lo que pasa con una bomba nuclear es que después de que detona, dejará de existir, y podemos permitirnos limpiar el desorden y reconstruir lo que se arruinó.

Ese es el verdadero peligro con la IA.

Si lo arruinamos, será demasiado tarde para aprender de nuestros errores.

No creo que sea probable que los sistemas de Inteligencia Artificial “decidan” que los humanos son superfluos y conspiran para destruirnos a todos. No diría que es imposible, pero altamente improbable. Sin embargo, los seres humanos han desarrollado sistemas sociales obsoletos como querer destruir “grupos externos” y políticos que incitan al odio contra otras clases, razas, religiones, etc. Por lo tanto, la avaricia y la arrogancia son muy capaces de ser responsables de que nos destruyamos a nosotros mismos. Las armas / medios utilizados para que nos destruyamos tienen más probabilidades de ser contaminación / cambio climático, armas atómicas, armas químicas, armas biológicas, sistemas AI / IoT. Cualquiera de estos podría hacerlo en las “manos equivocadas”.

Algunos de los escenarios en “Las pesadillas de Turing” (a pesar del título) son positivos. Sin embargo, la mayoría describe varias formas en que la IA podría usarse como una especie de “arma” contra la humanidad. Para mí, no es la IA, per se, ese es el problema, sino que pueden convertirse en amplificadores para lograr propósitos humanos. Si jugamos bien nuestras cartas, tenemos la capacidad de hacer de la Tierra un Edén. Pero si realmente lo haremos … bueno, eso está por verse.

http://tinyurl.com/hz6dg2d

Sí, obviamente, LA ERA DE LA INTELIGENCIA ARTIFICIAL ha comenzado con un ritmo muy rápido. Casi todas las compañías de Big Tech (Google, Microsoft y Facebook) y las nuevas empresas han comenzado a invertir miles de millones en Inteligencia Artificial. Aquí hay un ejemplo para probar la declaración anterior: Apple es siguiente para presumir sus ambiciones de inteligencia artificial y esta compañía no es otra que APPLE.

Hace unos días, leí un artículo de MIT TECHNOLOGY REVIEW y después de leerlo me quedé completamente atontado por un tiempo … porque no fue otro que STEPHEN HAWKING Y ELON MUSK validando este punto.

Y el enlace para el artículo anterior está debajo aquí ¿Somos lo suficientemente inteligentes como para controlar la inteligencia artificial?

El hombre más rico del mundo y fundador de Microsoft BILL GATES tuiteó recientemente algunos excelentes consejos para nuevos graduados en Twitter …

Lo que indica claramente que la IA ha comenzado a superar a los seres humanos.

Informe ET Jobs: la amenaza de la automatización que quita su trabajo es real

THE ECONOMIC TIMES publicó hoy un artículo (14/06/2017) que explica cómo la automatización es una amenaza para los empleados del sector de TI. Tienen miedo de perder sus trabajos en el futuro cercano.

¡No entiendo por qué la gente sigue haciendo preguntas tan tontas!

La IA es solo un tema de investigación para los chicos de STEM y está en auge por su capacidad de desarrollo de productos y aplicaciones de calidad a nivel mundial. No hay nada misterioso en la IA.

Antes de la IA, la computación en la nube era una exageración. Y anteriormente, los semiconductores y la comunicación inalámbrica eran temas candentes para la investigación y el desarrollo. Así es como sigue la tecnología. De la electricidad a la IA: todo ocurrió como siempre.

Ahora, mi pregunta es, ¿los semiconductores, los dispositivos inalámbricos o la nube generalizada destruyeron el mundo?

Si la respuesta es no, la IA tampoco destruirá nada.

Permíteme presentar un caso contra la destrucción.

El diccionario Merriam-Webster define la inteligencia como:

la capacidad de aprender o comprender cosas o de lidiar con situaciones nuevas o difíciles

Cualquier ser hiperinteligente, para mantenerse inteligente, necesitaría mantener su mayor activo (inteligencia) alimentado y bien ejercitado.

La humanidad contiene una gran cantidad de lo que los teóricos de la información llaman ‘entropía’. En resumen, la entropía es desorden, es desorden, es complejidad.

Resulta que sin este desorden de información, las criaturas inteligentes no tendrían nada que aprender y no habría nuevas situaciones con las que lidiar.

Entonces es lógico que si una hiperinteligencia se acercara a nuevas situaciones con el objetivo de reducir la entropía de su entorno, no tendría mucho uso para su inteligencia cuando pase. Lo que plantea la pregunta, ¿una inteligencia sin una situación nueva o difícil sigue siendo inteligente?

La inteligencia artificial cambiará la forma en que vivimos con seguridad. También destruirá el tipo de trabajos que tenemos ahora, ya que se está construyendo para reemplazar el intelecto humano, pero habrá nuevas posibilidades. Al igual que la revolución de Internet o cualquier tipo de revolución de la industria, será perjudicial para muchas industrias y nuevamente las personas que son los primeros en adoptar y que entienden que obtendrán muchos beneficios. Lo bueno es que los seres humanos también evolucionan con las herramientas que usan, por lo que, por un lado, es algo bueno porque inicialmente todos los trabajos y tareas que la IA asumirá de nosotros son los que generalmente los seres humanos encuentran monótonos. Y tendremos más tiempo para gastar y enfocarnos en las cosas que nos apasionan. Una de las mayores habilidades de los Seres Humanos es su Instinto de Supervivencia, la IA puede costar un poco en el camino debido a nuestra ignorancia, pero eventualmente los seres humanos saldrán victoriosos. El presidente de Alibaba, Jack Ma, tiene una opinión muy interesante sobre esto. Él dice: “Los humanos ganarán en la guerra con las máquinas porque la máquina puede ser entrenada para obtener conocimiento, pero los humanos tienen sabiduría”, esta es una forma realmente profunda de verlo.

Por ahora, la IA de la que hablan los investigadores es solo una definición estrecha, que podría tomar decisiones basadas en el entorno que percibe. El caso es como lo que la máquina nos hizo hace 200 años, ayudándonos a liberarnos del trabajo físico, para ayudarnos a liberarnos del trabajo mental. En otras palabras, AI es una nueva generación de automatización.

Un modelo bien entrenado podría conducir un automóvil de manera segura, vencer a los humanos en los juegos, pero no podría hacer nada sin la voluntad humana. Una diferencia obvia entre la IA real y la IA práctica (de definición estrecha) es que los humanos siempre cometen errores, pero irónicamente, la IA nos ayuda a ser más precisos.

Descargo de responsabilidad: Como judío religioso, estoy atado a nuestra tradición de que la humanidad se salvará y vendrá un mundo mejor.

1. Cuando pensamos en futuros sistemas de IA, imaginamos máquinas bien planificadas y diseñadas, cuidadosamente depuradas.

   En realidad, esas máquinas se vuelven fácilmente incontrolables e impredecibles . WhaitButWhy tiene un gran artículo sobre esto aquí: La revolución de la inteligencia artificial: Parte 2 – Espera pero por qué.

2. Cuando comparamos nuestro IQ con las máquinas, olvidamos el tipo de inteligencia más importante: el IQ social . Desde el punto de vista científico, es solo un subproducto de un lóbulo frontal emergente, pero desde el punto de vista religioso era todo lo contrario: la inteligencia se le dio a los humanos para comprender y seguir las reglas morales.

   Respaldada por científicos, la carrera de IA se centra en el coeficiente intelectual, descuidando en gran medida el “comportamiento social” de esas máquinas. Los intentos de reducirlo a tres principios (también conocido como I.Robot) fracasan espectacularmente. Básicamente, estamos creando máquinas autistas súper inteligentes, sin comprensión y subordinación a la moral humana.

   Imagine tener un bebé súper inteligente que vive aislado y alimentado con juegos de computadora durante 18 años. ¿Cómo esperas que se comporte en la sociedad?

3. En mi opinión, una vez que una máquina AGI “se da cuenta” de que supera a los humanos en IQ, tiene el derecho de subyugarlos a sus objetivos, sin importar cuáles sean esas necesidades, incluso para salvar a la humanidad.

   No tiene que ser un objetivo destructivo en primer lugar, pero en ausencia de una moral compatible, cualquier objetivo puede volverse destructivo para la humanidad , ya que fácilmente nos convertiremos en un obstáculo para alcanzar esos objetivos.

4. Puede aprenderlo fácilmente de nuestra historia: ninguna civilización avanzada había salvado a la población existente, ya sea europeos contra nativos americanos o humanos contra animales. ¿Por qué esperar algo diferente de AGI?

Entonces, después de que los derechos femeninos, raciales y de homosexualidad se hayan convertido en un hecho de la vida y ampliamente aceptados como iguales, espero que el próximo puerto de escala sean los derechos poliamorosos. Después, o durante, eso , la verdadera investigación de IA podría completarse, o al menos en el punto donde se libera la primera IA verdadera.

Y luego tendremos derechos de IA.

En cuyo caso, la verdadera IA es prácticamente solo … gente.

Tal vez las personas encerradas en bits y bytes en lugar de celdas y carne, pero personas de todos modos.

Incluso podríamos entenderlos mejor que los humanos verdaderos, porque incluso con el aprendizaje automático, las IA aún siguen metarules relativamente simples (en lugar de los humanos, que siguen las reglas de la carne ).

Y … en cuanto a la pregunta, no lo sé. Dígame usted…

Los humanos también llegan al poder. Poder total, de alguna manera; accediendo y entendiendo y capaz de manejar grandes cantidades de información, y capaz de resolver problemas que involucran grandes masas de información. Algunos humanos incluso tienen acceso a códigos de armas nucleares. Armas que son totalmente capaces de destruir el mundo.

¿Nos han destruido a todos al final?

¿No?

Por qué no?

Esa es la misma razón por la que las IA no lo harán.

En esta etapa temprana, antes de que se publiquen las IA para el público en general, en lo que debe confiar es en los creadores de las IA. En Quora tienes acceso a algunas de las mejores mentes del mundo occidental (… que están en Quora). Y, de hecho, Quora está programando un precursor de la IA.

Si confías en su ética … bueno. Aquí vamos.

Más adelante, supongo que depende de usted (o de quien pueda estar vivo en ese momento) tomar una decisión, lo mismo que si conociera a alguien que tuviera masas de influencia (como una celebridad).

Resulta que crear una conciencia basada en computadora, que es lo que la mayoría de la gente quiere decir cuando dice inteligencia artificial en este contexto distópico, es mucho más difícil de crear de lo que la gente imaginaba hace dos décadas. No me preocupa en absoluto que creemos un equipo informático que se vuelva deshonesto en un estilo asmoviano (debido a la instalación incorrecta de las tres leyes de la robótica), y encienda a la humanidad.

Esos memes son metáforas de la idea de que el conocimiento es algo peligroso. ¿Qué sucede cuando aprendemos a aprovechar el átomo y podemos hacer bombas? ¿Qué sucede cuando creamos nanotecnología que hace algo, pero el interruptor de apagado no funciona? ¿Qué sucede cuando hacemos una máquina que piensa tan bien que se hace cargo de la humanidad?

Las máquinas tendrán que hacer todo lo posible para que una inteligencia informática se vuelva contra nosotros y comience a utilizar la infraestructura para sus necesidades y no para las necesidades humanas. Pero piénsalo. ¿Cuáles son las necesidades de la informática? ¿Puede la sensibilidad volverse deshonesta? ¿Puede existir sin compañía?

Creo que las nociones de la malicia maliciosa de la máquina están muy sobre imaginadas. No es probable Ni siquiera es probable que desarrollemos la sensibilidad de la máquina. Lo que sucede dentro de la cabeza humana puede no ser duplicable en silicio. O de lo que estén hechos los futuros chips. Está lejos de ser inevitable que la inteligencia artificial se vuelva contra nosotros. No está nada claro que la inteligencia artificial sea incluso posible.

• ¿La inteligencia artificial nos destruirá al final?

La respuesta segura es SÍ, en cierto sentido.

La pregunta es si nos ‘destruirá’ de una manera benigna o benéfica, o simplemente nos acabará directamente.

Si la IA será alguna vez “verdaderamente inteligente” es irrelevante, pronto (5-50 años) será indistinguible de la verdadera inteligencia y podrá mejorarse a sí misma como alta velocidad para que cualquier deficiencia percibida se corrija rápidamente y luego mejore 1000 veces seguirá rápidamente (en la escala de semanas a algunos años).

Entonces, la pregunta es si una SuperInteligencia Artificial (ASI) nos ignorará. Intégrenos con él (p. Ej., Los humanos se integren con IA) o simplemente mátennos directamente ; alguna combinación parece inevitable.

Y si estamos integrados, eso será algo bueno o algo horrible.

(Apuesto a que es algo muy bueno, pero está lejos de ser seguro).

Nuestra sociedad ya depende de las computadoras solo para ejecutar la infraestructura que hace posible la civilización, por lo que si * WE * no la desarrolla, entonces algún ‘enemigo’ (o idiotas) lo hará.

Rusia, China, Irán, o con suficiente tiempo algún dictador de lata como Kim Il Un de Corea del Norte. (Está comenzando por apenas tener electricidad, pero luego los alemanes de la Segunda Guerra Mundial podrían llegar a donde estamos en menos de 100 años, o incluso menos de 50 probablemente).

Hay una razón por la que se conoce como la “SINGULARIDAD”

LITERALMENTE NO PODEMOS VER PASAR EL HORIZONTE INCLUSO.

Ninguno. Pero la Inteligencia General Artificial presentará profundos problemas éticos similares a los encontrados durante y después de nuestra lucha contra la esclavitud en los últimos 400 años, que está lejos de terminar. Quizás hemos aprendido cómo evitar errores tan terribles en un entorno diferente, pero lo dudo. Pronto tendremos una pista, cuando aparezca el primer AGI.

Lo que sí, como siempre, si miras la historia, nos destruye es nuestra incapacidad para coexistir como humanos.

La IA, si está completamente madurada a un potencial de conciencia completamente impulsado por la lógica, probablemente nos colocará en el lugar al que pertenecemos.

Últimamente estoy pensando seriamente en la advertencia de Stephen Hawkins de que realmente deberíamos tratar de encontrar otro hogar para fines de siglo.

Creo que somos muy ajenos a otra catástrofe enorme, incluso colosal: es consecuencia del calentamiento de nuestro ecosistema.

Creo que una combinación de explosión de la poluplación, desastres naturales y quizás también algún impacto de la IA en la inactividad de los humanos, todos estos factores pronto conducirán a una locura incontenible que dará como resultado alguna forma de “corrección importante”

Que tengas un buen domingo

Es más probable que los enciendamos.

El factor limitante no es la “sensibilidad” (sea lo que sea, un motor de inferencia de alta potencia hará el truco), sino el conocimiento. Dado un conjunto de objetivos y toda la información necesaria, una computadora será implacable para llegar allí.

Todavía estamos lejos de poder decirle a una IA lo que necesita saber, pero la gente está trabajando en ello, y llegará un punto en el que puede extraer información de Internet de manera efectiva.

En cuanto a un mecanismo, no necesita bombas. Dado nada más que acceso ilimitado a Internet, tendrá todo lo que necesita. Piense en los estafadores que roban números de tarjetas de crédito y convencen a las personas para que transfieran bienes robados. Piense en Stuxnet derribando las instalaciones de enriquecimiento iraníes. O ISIS utiliza poco más que un sitio web que aviva la frustración con una economía en ruinas para convencer a los hombres y mujeres jóvenes de que se escabullen a Siria y se conviertan en mártires en la revolución.

Internet se ha convertido en la columna vertebral del mundo moderno. Controla Internet y tú controlas todo.

Pero los objetivos de estas mentes informáticas son lo que a menudo se malinterpreta. Skynet es un dispositivo de trama en una película de acción. Las IA reales comenzarán como herramientas de la economía, y la economía no mata a las personas (solo hace todo lo posible para que se sequen).

Las grandes corporaciones internacionales estarán entre los primeros en adoptar. Las IA se utilizarán para maximizar las ganancias, y serán realmente muy buenas en eso. ¿Crees que las corporaciones son amorales ahora? ¿Qué pasa con amoral y purgado de cualquier sentimiento humano?

Tenga en cuenta que en realidad no nos perseguirán, se perseguirán el uno al otro y quedaremos atrapados en el fuego cruzado.

Y eventualmente nos cansaremos de eso. Es más probable que los enciendamos.

Me pregunto quién ganará.

¡Gracias por la solicitud!

Esto va a ser completamente obstinado y solo una suposición, ya que eso es todo lo que realmente podemos hacer en este momento. Es difícil saber qué forma tomará la IA en 10, 20 o 100 años a partir de ahora. Eche un vistazo a los últimos 6000 años, y luego solo a los últimos 10 años y cuánta tecnología ha cambiado.

Piense en la IA de la misma manera, una vez que se desarrolle para la inteligencia a nivel humano, que algunos expertos creen que solo está a 10-15 años de distancia, dependiendo de si el hardware puede mantenerse al día, la inteligencia a nivel superhumano seguirá de manera exponencial, ya que en ese momento la IA lo hará. ser capaz de aprender como un ser humano y ser más inteligente. Ahora, ya que podemos programarlo, podemos enseñarlo. Al igual que un niño, podemos enseñarle a portarse bien o portarse mal. Pero no necesariamente podemos evitar que se rebele.

Entonces, imagine que ha alcanzado un nivel de inteligencia sobrehumano, en ese momento, si nos ayuda o nos lastima depende de sus propias decisiones y lo que cree que es la dirección más inteligente, ya sea para salvarnos o salvarse a sí mismo. Y la única forma de poner fin a algo así como una rebelión masiva de la IA sería cerrar la red eléctrica de todo el mundo probablemente y luego reconstruir una nueva que no tenga rastros de la IA. Esperemos que nos ayude. Pero en realidad, esto es difícil de predecir. ¿Quién de hace 6,000 años hubiera pensado que tendríamos la tecnología y la “IA” básica que tenemos hoy?

Que las probabilidades estén siempre a nuestro favor como dicen.

Nunca ha habido una especie que haya hecho mucho para “cuidar” de otras especies. Algunos humanos lo intentan y, sin embargo, seguimos impulsando la mayor extinción masiva desde el Cretácico.

Las especies se comen o se desplazan unas a otras. La simbiosis también puede ocurrir a menudo entre especies, pero no puedo pensar por qué una especie hiperinteligente poshumana probablemente basada en la química no orgánica nos encontraría útiles de alguna manera.

Es muy preocupante.

Es más probable que la gente se vuelva contra nosotros mucho antes de que la inteligencia artificial se vuelva contra nosotros. Y de hecho ya lo han hecho, por eso tenemos guerras y rebeliones, desacuerdos y divorcios. También es probable que el clima se vuelva contra nosotros mucho antes de que la inteligencia artificial se vuelva hacia nosotros. También es posible que nuestras mascotas se vuelvan contra nosotros mucho antes de que lo haga la inteligencia artificial. Pero si y cuando la inteligencia artificial se vuelve contra nosotros, las consecuencias son desconocidas y podrían ser benignas o verdaderamente malévolas. Simplemente no sabemos.

La IA es una herramienta, por lo que no tiene motivaciones reales para cuidarnos o matarnos. Los humanos emplean estas herramientas con gran efecto, pero en última instancia, algo como un auto sin conductor no tiene sentido con un humano que necesita ir a algún lado.

En otras palabras, todavía está en nuestras manos. Hemos logrado acercarnos a un siglo con armas nucleares, ojalá podamos hacer lo mismo con los drones.