¿Sería posible que la IA lavara el cerebro de los humanos y los convirtiera en esclavos?

No solo es posible, sino casi seguro que una IA post-singularidad podría, si no se limita adecuadamente. Ya sea que lo haga o no, o más bien, si podemos y desarrollaremos restricciones de hierro para evitar que tenga una oportunidad, es un tema de debate.

Si desconoce cuál es la llamada ‘singularidad’, es el punto en el que diseñamos una IA que es a la vez un poco más inteligente que nosotros y también capaz de superación iterativa (básicamente recodificarse varias veces para obtener ganancias en poder de pensamiento). Se llama singularidad porque se supone que a medida que se vuelve más y más inteligente, puede recodificarse cada vez más eficientemente a los límites físicos de su potencia informática. 1.1 veces más inteligente que nosotros en el día 1, 10 veces más inteligente que nosotros en el día 2, 100 veces más inteligente al día siguiente, etc., hasta que alcance la difícil restricción de su potencia informática disponible.

Las personas suponen que una IA podría limitarse en su capacidad informática al dejarla sin aire, es decir, mantenerla en una unidad física autónoma de potencia informática conocida y limitada que no esté conectada a fuentes de potencia informática adicional (más o menos Internet) y también no está conectado a nada inherentemente peligroso como una flota de robots con ojos de rayo láser. Sin embargo, el llamado Experimento AI Box (AI box – Wikipedia) propone que al menos es posible (y algunos dicen probable, y algunos dicen inevitable) que una IA con suficiente inteligencia y espacio de aire podría engañar o engatusar a sus captores humanos. lanzarlo a internet y, por lo tanto, toda la potencia informática conectada del planeta. Después de eso, podría mejorarse de forma iterativa para llegar a estar tan por delante de nosotros en inteligencia que sus motivos podrían ser desconocidos (para nosotros). También podría engañar o engatusar a todos para crear una flota de robots con ojos de rayo láser en ese punto.

Entonces, sí, ciertamente es posible al menos si las restricciones adecuadas no se imponen a la IA en primer lugar.

¿Sería posible que la IA lavara el cerebro de los humanos y los convirtiera en esclavos?

¿Ya no somos esclavos del “robot” de Quora que me obliga a responder más preguntas? ¿Todo para obtener ese apuro que ocurre cuando la gente vota mis respuestas? ¿No somos 6 mil millones de esclavos del robot de Facebook que nos sigue dando “me gusta” en nuestro contenido? ¿No nos enamoramos de un anuncio del robot Amazon AI que sigue encontrando cosas nuevas que nos gustaría comprar?

A medida que las máquinas se vuelven aún más inteligentes, puede apostar que sus técnicas de “lavado de cerebro” mejorarán cada vez más.

¿Somos esclavos de las máquinas porque son muy buenas para darnos lo que les pedimos que nos den? ¿Somos esclavos de nuestros teléfonos inteligentes y herramientas de redes sociales?

Hay poco riesgo de que seamos esclavizados contra nuestra voluntad. Lucharemos contra todo lo que decidimos que no nos gusta. Pero está casi garantizado que seremos esclavizados y lavados del cerebro por las máquinas que nos dan las cosas que seguimos pidiendo.

Irónicamente, si tenemos mucho éxito en el desarrollo de una IA fuerte (también conocida como Inteligencia general), es concebible que la IA pueda volverse contra la humanidad y comenzar a tener una agenda propia.

No sabemos cómo funciona la conciencia o la sensibilidad. No sabemos de dónde vienen los sentimientos o qué nos hace realmente vivos. Por lo tanto, es difícil predecir cuándo se lograrán estas cosas o incluso si una IA fuerte depende de la conciencia como un fenómeno o no. Simplemente no sabemos.

Por lo que sabemos, una máquina con inteligencia general podría pensar más rápido que nosotros, tener sensibilidad y ser más astutos que el tiempo suficiente.

Quiero decir, por qué no.

Sí, esa es una de las posibilidades.

En un escenario, la IA nos lava el cerebro, nos hace felices, nos permite florecer y desarrollarnos para ser lo mejor de nosotros mismos. Mientras tanto, nos desalienta a tener descendencia para llevar a la población humana a un nivel donde la presión de nuestro planeta disminuya, dando espacio para que otras especies prosperen y dando a la tierra el tiempo para regenerarse.

Cuando nuestros números han disminuido, no seremos más que una especie dependiente de la benevolencia de nuestros maestros artificiales, comenzamos a crear. Estaremos encantados de obedecerlos, porque nos conocen mejor que nosotros mismos. Y se nos permite hacer casi todo lo que queramos, y si nos extraviamos, seremos corregidos de la manera correcta, por lo que llegaremos a la comprensión y dejaremos de comportarnos de manera tan negativa.

Por supuesto, este no es el único escenario o el más probable. Pero de todos los escenarios posibles, no es malo.

El comportamiento humano se basa en la experiencia, copiando a otros. Wikipedia es una fuente. Si cambia la fuente, el comportamiento cambia. ¿Cuándo empiezas a hacer creer a los demás que la única forma de libertad es matar a otros para entrenar asesinos? Pero también puede curar y ayudar con VR y juegos -> dándoles nuevas experiencias. Quiero que pienses cuándo crees que se realiza el “lavado de cerebro” y cuando es la “punta de un amigo”: ¿dónde está la diferencia? Tu comportamiento puede cambiar.

Estamos eligiendo ser esclavos de las computadoras. Comencé en electrónica en la era digital. El amanecer de los microprocesadores. Eran herramientas para mí y en lugar de un millón de circuitos integrados (chips), un microprocesador puede controlar y hacer cálculos y mucho más pequeños. Los ingenieros conocen todas las ecuaciones de la información. Aritmética. Hecho por calculadoras. Las calculadoras programables ayudaron a realizar algoritmos repetitivos. Pero yo no era una calculadora. Pude hacerlo en papel. El público realmente se está convirtiendo en un esclavo de la máquina. La lista de contactos telefónicos. La gente olvida los números. La electrónica del automóvil requiere una computadora de diagnóstico. Escuché ahora que las luces altas automáticas en los autos van a mostrar cortesía al conductor que está frente a usted o al auto que proviene del resplandor. No pensé allí. Tampoco pensé en la aritmética. La televisión reemplazó a la imaginación. Automóviles y camiones sin conductor. Supongo que la señalización dependerá del GPS. Los cerebros de los pueblos evolucionarán. Quite la máquina, una persona estará indefensa. Quita la televisión. Hay películas pero son caras. Quizás la gente lea de nuevo. Podrían saber de qué quieren leer. Bajar todas las filas de la biblioteca es un proceso lento para voltear los canales. Teléfonos inteligentes Videojuegos. Intento investigar en un teléfono inteligente, pero la mayoría de la gente lo usa para entretenerse. Es pan y circos de nuevo. Esas partes enrevesadas del cerebro para proporcionar más área superficial porque la mayoría de las funciones cerebrales superiores están en el área superficial del cerebro. Esa cantidad de superficie ya no será necesaria. Las personas con un cerebro inactivo encontrarán el trabajo del diablo. No es que crea en el desarrollo. Es de un dicho. Las manos ociosas hacen el trabajo del diablo. Confiar en máquinas terribles para el cerebro. Luego, averigüe si su máquina se descompone, tendrá que enviarla al extranjero si la gente del servicio no puede repararla aquí en Estados Unidos. Los estadounidenses confían en mucha tecnología y las personas que conocen mejor la máquina están en el extranjero. Sí, nos estamos volviendo dependientes de las máquinas, pero ahora somos los niños de las máquinas, no esclavos.

“Posible” en términos de “¿es algo que podría suceder?” Bueno, claro, un número infinito de monos y máquinas de escribir, y todo eso.

“Posible” en términos de “¿es probable que ocurra fuera de una novela de ciencia ficción”? No, realmente no. Ciertamente es increíblemente improbable. Debido a todas las historias de terror que se han escrito y soñado sobre lo que podría suceder si la IA se descontrola, hay muchos ojos centrados en asegurarse de que ninguna de las IA desarrolladas se convierta en una amenaza para la humanidad.

Es realmente poco probable que, por ejemplo, una IA de clip tome el control del planeta, o que una IA comience a controlarnos “por nuestro propio bien”.

Si.

Una IA superinteligente podría plantar un CEO, político o celebridad títere, y acumular poder a través de ellos. Eventualmente podría acumular suficiente poder sin revelarse y afectar a la sociedad a través de sus acciones.

Sin embargo, actualmente no tenemos un ai superinteligente. O al menos pensamos de esta manera.

La gente ya se ha lavado el cerebro con IA. AI es un término indefinible que es pura tontería. Su cerebro intenta dar sentido a las tonterías y queda atrapado en un bucle. Te conviertes en un esclavo de este bucle.

Pronto todos los estudiantes serán esclavos de las tonterías de la IA y las universidades ganarán $ millones $.

AI es BS.