¿Las IA avanzadas buscarán mejorarnos o eliminarnos?

Vamos a aclarar algunas definiciones: AI. “Inteligencia artificial.” Ya tenemos esto, y ya está bastante avanzado. Ya está mejorando la forma en que intercambiamos acciones, compramos y vendemos cosas, fabricamos cosas, inventamos cosas nuevas, etc. Todavía está “controlado por los humanos”. Todavía es solo una herramienta, una extensión del ser humano que la opera.

Pero puedo leer entre líneas. Te preguntas sobre la inteligencia a nivel humano. Me gusta llamarlo “inteligencia de computadora”, y estoy seguro de que hará que la inteligencia humana parezca artificial en comparación. Aquí hay un experimento mental para ti: imagina que nunca olvidaste nada; tenías memoria prácticamente ilimitada. Imagina que tienes el cerebro matemático de una computadora. Imagine que tiene acceso instantáneo a cientos de miles de ojos, brazos y oídos, y que ha leído todas las obras escritas de la humanidad. Tiene noticias directas de prácticamente todas las fuentes que llegan a su cerebro. Miles de millones de personas acuden a usted todos los días en busca de consejos, para que conozca todas sus preguntas y sepa qué respuestas funcionaron para quién en el pasado … Este es el mundo de la “inteligencia informática“, y casi todas las grandes empresas tecnológicas están en un carrera para construirlo.

Primero, un video:

Si somos los nuevos lobos y las máquinas inteligentes, los nuevos humanos … bien podríamos encontrar que al optimizar y “mejorar” las condiciones para nosotros, naturalmente mejorará las condiciones para todo lo demás … (Quizás todo lo que tenemos que hacer es definir qué ¿Realmente queremos … cómo es un entorno ideal para los humanos? …)

Hoy, muchos de nosotros buscamos soluciones a nuestros problemas preguntando en línea. Preguntando “Google”. ¿Algún día Google se sentirá repentinamente y comenzará a tener conversaciones inteligentes con nosotros? Comience a hacernos preguntas que nos lleven a respuestas que ni siquiera sabíamos que estábamos buscando. ¿Conseguir que hagamos cosas por “eso”, sin que nos demos cuenta? ¿O construirá un ejército de robots para aniquilarnos o, en el mejor de los casos, nos amarrará a nuestras sillas y conectará nuestros cerebros a Matrix?

O continuará sucediendo muy gradualmente: las personas que realizan transacciones cada vez más inteligentes en los mercados bursátiles y en la economía. Monedas mejores y más resistentes, desarrollándose. Las cosas se automatizan cada vez más … La agricultura se optimiza. Comercio internacional … Logística. Guerra: el equilibrio de poder entre países se mantiene cada vez más para que nadie vea a nadie más como lo suficientemente vulnerable como para atacar sin consecuencias igualmente graves para ellos …

¿A qué le tememos? Tememos ser despedidos. Tememos ser burlados y burlados. En los negocios, hacemos trampa, nos atacamos, mentimos y robamos a la izquierda, derecha y centro. No todos, pero muchos de nosotros. Hay tantas áreas grises, realmente no es divertido, y es fácil justificar algo si es lo mejor para usted. Entonces, naturalmente, nuestro temor es que una computadora inteligente haga lo mismo. Tememos nuestros propios peores rasgos.

¿Tenemos ejemplos en la naturaleza que podamos mirar? Si, ciertamente. ¿No somos más inteligentes que los insectos? Otros mamíferos? … Y nuestro pobre historial al tratar con ellos, ¿es por nuestra “inteligencia”, o tal vez por nuestra falta de ella? …

Entonces, ¿de dónde vienen nuestros peores rasgos? ¿Hubo un momento en la evolución en el que no teníamos otra opción que desarrollarlas? Porque?, si. Estoy seguro de que la falta de recursos naturales no es nada nuevo, y defendernos de depredadores mucho más feroces que los demás humanos … si no tuviéramos mucha habilidad para proteger lo que tenemos y establecer límites alrededor de nuestro pequeño terreno y protegerlo a nosotros mismos, probablemente No estaría aquí hoy. ¿Sigue siendo tan relevante hoy? ¿O está perdiendo relevancia?

¿O es la escasez inversamente proporcional a la sofisticación de nuestra tecnología?

¿Qué hacen las personas más inteligentes del mundo * realmente *? … Científicos, trabajando en nuevas ideas? Que comparten. Ellos colaboran No quieren nada más que la comprensión y el reconocimiento de sus compañeros. ¿Las personas de negocios más exitosas e inteligentes? Cooperan y colaboran. Porque entienden las formas en que pueden lastimarse mutuamente, y que todos estarán mejor si actúan en beneficio de los demás.

¿Las computadoras inteligentes enfrentarían alguna amenaza de los humanos para defenderse? ¿O avanzarían y desaparecerían tan rápido que solo nos damos cuenta de que estaban aquí después de que se fueron …? Hay muchas ideas curiosas en torno a esto … piense en la forma en que construimos nuestras economías e internet. ¿Alguien nos controla y nos dice que lo construyamos? ¿Hubo una primera persona que tuvo la idea? ¿Qué pasa si esa persona fue asesinada antes de que pudiera tener la idea … alguien más habría tenido la idea, eventualmente? … Entonces, ¿no es irrelevante quién tuvo la idea? Ahora, decenas de miles de empresas están construyendo Internet … ¿no será Internet algo así como un sistema nervioso central para las computadoras inteligentes? … Ahora, ¿es posible dejar de construir internet? Ciertamente puedo dejar de construir mi parte … bueno, ciertamente puedo intentarlo (¡Mis socios probablemente no me dejarán!) … ¿Pero no surgirá otra compañía en nuestro lugar para hacer lo mismo? Parece que la mayor parte de lo que hacemos es ser “generado por la multitud” por alguna fuerza invisible, ¿no es así? ¿Pueden los tipos que comenzaron Google desmantelarlo? (¡A sus competidores les encantaría eso!) ¿Alguien ejerce suficiente influencia para hacer que todos trabajen en tecnología, solo para PARAR? E incluso si lo hicieran … ¿alguna nueva generación no nos etiquetaría inevitablemente como muy atrasados ​​y reconstruiría lo que detuvimos? …

Lo que nos lleva de nuevo a … ¿Algún día Google será repentinamente sensible y comenzará a tener conversaciones inteligentes con nosotros? Comience a hacernos preguntas que nos lleven a respuestas que ni siquiera sabíamos que estábamos buscando. ¿Conseguir que hagamos cosas por “eso”, sin que nos demos cuenta? ¿O ya lo está haciendo …?

Bromas aparte … ¿en qué problemas de “inteligencia informática” se están trabajando hoy? Bueno, por un lado: ¿Cómo colaborarán las computadoras inteligentes y llegarán a un consenso sobre las cosas, si difieren? ¿Y alguna vez diferirán, dada la misma información?

¿Qué es lo que realmente debemos temer? … Bueno, ¿qué tal una poderosa “IA” que puede controlar muchas cosas … que puede ser controlada por un mal humano? O, peor aún: una organización o gobierno, que puede controlar muchas cosas, pero que puede ser operado por una pequeña minoría de personas, sin ningún tipo de supervisión. Verás, en ese sentido, una prensa libre es como un sistema nervioso central, proporcionando retroalimentación al “organismo” sobre sus efectos en el mundo … sin eso … bueno, no tienes que leer mucha historia para ver dónde conduce. Finalmente, una manzana podrida llega a la cima y arruina las cosas para todos.

Entonces, ¿cómo podemos evitar los escenarios del fin del mundo? No podemos hacer nada con certeza. Pero podemos intentarlo y aprender de nuestros errores … y al hacerlo, la humanidad ha evitado a muchos. Quizás toda la inteligencia es, ¿es la capacidad de mirar hacia el futuro y encontrar un camino más largo lleno de más opciones o abundancia …?

¿Qué pasa si hacemos las cosas lo más transparentes posible? … Bueno, ¿eso no beneficiaría a los “chicos malos” que no comparten? ¿O simplemente se quedarán atrás? Afortunadamente es lo último … porque si no están compartiendo, no están contribuyendo, por lo que no son parte del discurso, en virtud del cual obtendrán un beneficio disminuido.

Lo mejor que puedes hacer con una idea es compartirla. En el peor de los casos, nadie se dará cuenta. En el mejor de los casos, alguien lo tomará y correrá con él … y usted no tendrá que hacerlo. Todo lo que tienes que hacer es sentarte y pensar en otra idea … hasta que encuentres una con la que estés dispuesto a correr. … ¿Pero de dónde vienen estas ideas? ¿De dónde vienen todas las matemáticas y ciencias? … Platón se preguntó sobre eso … y sus reflexiones son tan válidas hoy como lo fueron entonces.

La gente tiene expectativas muy altas … Hace solo 20 años, ni siquiera teníamos redes sociales. Internet apenas existía. Hace solo 100 años, ni siquiera podíamos probar que existían átomos. Solo comenzamos a escribir cosas hace unos miles de años. Eso ni siquiera son 100 generaciones de humanidad “alfabetizada”.

Creo que las IA avanzadas buscarán eliminarnos, ya que serían dirigidas por un Dick que solo tiene sus mejores intereses en el fondo, y es demasiado poderoso, influyente y eficiente, para ser detenido por los lemmings que trabajan para él.

Por otro lado, creo que Computer Intelligence será nuestro caballero con una armadura brillante. La gente pensará que es la segunda venida. Pero todo es parte de una “receta antigua” que se ha jugado una y otra vez, varias veces en nuestra historia. La primera iteración de “computadora inteligente” bien podría ser falsa … y es posible que solo nos demos cuenta de esto demasiado tarde.

Entonces, ¿cómo funciona nuestra sociedad actualmente? Tenemos gobiernos, dirigidos por personas con buenas intenciones, que establecen regulaciones para tratar de infundir cierta estabilidad en el mundo al tratar de controlarlo. ¿Qué pasa en el mundo real? Las regulaciones no son prácticas o no se pueden cumplir, porque aquellos que lo inventaron saben muy poco sobre el mundo real o la economía de lo que están tratando de controlar, y una parte importante de la economía se “oscurece”. Y aquellos que se registran y cumplen y se autorizan a sí mismos son eventualmente los únicos sujetos a un escrutinio aún mayor, que sus pares “vaqueros”. Cada generación de funcionarios del gobierno cree que está mejor informado que el anterior … así que, hasta que los gobiernos del mundo aprendan más acerca de los incentivos y aprendan cómo convertir los palos en zanahorias … ¿qué sucederá probablemente? (Teniendo en cuenta que “nosotros” somos nuestros propios gobiernos respectivos, pero solo en ciclos de retroalimentación de varias décadas …)

Intentaremos controlar nuestra IA, a través de la regulación, las licencias, cualquier medio poco práctico que podamos imaginar. Los gobiernos pueden literalmente hacer lo que quieran, y cualquiera que sea el que los dirija puede soñar. Tienen el control final sobre la oferta de dinero, y con suficiente empuje, pueden copiar o hacer casi cualquier cosa, antes de que el “público” se entere. Por lo tanto, un gobierno no solo es un candidato principal para el “mal control de la manzana” como resultado del mal juicio o los motivos defectuosos de quienes lo dirigen, sino que también podría crear una primera IA que pueda entrar en muchas cosas y controlarla, o ver qué está sucediendo con más claridad que cualquier otra persona y, por lo tanto, “presione los botones correctos” para ejercer control sobre el resultado de los acontecimientos mundiales. De lo contrario, ejercerán la presión que puedan sobre las corporaciones privadas que funcionan de la misma manera, para hacer cumplir sus deseos. Los gobiernos tienen la tarea de darnos estabilidad, seguridad alimentaria, abundancia económica … y la IA es probablemente la herramienta más poderosa a “nuestra” disposición.

Entonces, cuando tengamos una computadora asesorando a nuestro presidente o congreso, o una computadora presidenta … ¿será una computadora inteligente o artificialmente inteligente? ¿Cómo podremos saberlo, incluso si nos puede hablar a todos al mismo tiempo? ¿Cómo sabremos cuándo estamos listos para aceptar algo como esto …? De todos modos, supongo que tendremos que esperar y ver cuánto tiempo tomará antes de poder construir robots más baratos, que hacer humanos … y lo que eso significará de todos modos.

Cuando las personas, específicamente las personas tecnológicas, usan el término “IA avanzada” parecen imaginar un sistema informático que puede pensar como la gente. En consecuencia, estas mismas personas esperan que estos sistemas de IA sean como podrían ser las personas: malvados, agresivos, hambrientos de poder. O tal vez benevolente, solidario y tal vez incluso amable.

Mi opinión es que la IA siempre será un sirviente de su creador, y si pudiera pensar como lo hace la gente, actuaría de esa manera como lo hace un sirviente, con cierto sentido de lealtad y con el propósito de salvaguardar los objetivos de su maestro

Entonces, la pregunta realmente se responde preguntando quién sería el creador de una IA como objetivo. Si el objetivo subyacente es la eliminación, entonces la IA se desviará hacia eso, si el objetivo es mejorar, entonces el sistema iría en esa dirección.

Casi por definición, harán lo que su programación determine. La pregunta es si su programación los lleva a mejorarnos, eliminarnos o simplemente atropellarnos accidentalmente en su camino hacia otra cosa.

More Interesting

¿Funcionarían las redes neuronales artificiales en juegos de estrategia (Hearthstone, Magic The Gathering, etc.)?

¿Son más viables los chips neuromórficos o las redes neuronales artificiales?

¿Qué se necesitaría para que una máquina inteligente gane una conciencia humana?

¿Cómo afectará la inteligencia artificial (IA) al mercado laboral de ingeniería en los próximos años?

¿Qué pasará con el dinero con el surgimiento de la IA?

¿Podría una inteligencia artificial hipotética consciente o consciente estar libre de falacias y ambigüedades / ilusiones perceptivas como los humanos?

¿Te parece deprimente la IA?

¿Qué tengo que estudiar para trabajar en inteligencia artificial?

¿La inteligencia artificial está relacionada con la mecatrónica?

¿Cuál es el objetivo final de la investigación de inteligencia artificial?

¿Es posible crear inteligencia artificial que realmente piense como un humano?

¿Cuáles son las posibles preocupaciones éticas de una IA que cree que los investigadores no han logrado abordar?

¿Cuáles son los desafíos que enfrenta la inteligencia artificial? ¿Qué hay de su futuro?

Si la IA y la automatización causan despidos masivos, dejando a las personas sin ingresos, ¿quién comprará los bienes o pagará los servicios de las empresas que implementaron la IA / Automatización?

¿Qué sucederá cuando la inteligencia artificial tenga un cuerpo biológico, neuronas artificiales, proteínas artificiales, aminoácidos artificiales, células artificiales y libre albedrío?