A pesar de saber que la inteligencia artificial es peligrosa, ¿por qué investigamos y hacemos robots con IA?

Déjame hacer algunas declaraciones.

1. La IA es peligrosa. Cualquier robot, animal y alienígena que sea más inteligente que nosotros es peligroso debido a su capacidad para destruirnos. No es que nos destruyan, pero el hecho de que puedan destruirnos es una preocupación seria y seria y diría que cualquier forma de vida que pueda destruirnos tendrá un 50% de posibilidades de hacerlo a largo plazo.
2. La IA es alcanzable. La diferencia entre un cerebro humano y un cerebro animal es el grado de sofisticación. Digamos que los humanos tienen 100 veces más neuronas que los animales. Si a través de la cría selectiva o la ingeniería genética aumentamos las neuronas en los cerebros de los animales 100 veces, podemos producir animales inteligentes tan inteligentes como nosotros. Por lo tanto, no hay una diferencia fundamental entre un cerebro humano y un cerebro animal. Del mismo modo, no hay una diferencia fundamental entre una computadora moderna y una IA. Si podemos aumentar la velocidad de cálculo de la computadora y la memoria en mil millones de veces, tendremos IA. Aunque la IA puede adoptar otras formas de “computadoras”.
3. Los humanos no prestarían suficiente atención al peligro hasta que ocurra. Para entonces, sería difícil decir que es demasiado tarde o no. Los humanos no están programados para evitar el peligro a toda costa. Por ejemplo, los montañeros subirían una montaña incluso si supieran que hay un 20% de posibilidades de que mueran. En la evolución animal, los animales necesitan arriesgarse a veces para explorar nuevas oportunidades, por ejemplo, muchos animales corren el riesgo de luchar hasta la muerte para tener la oportunidad de aparearse. Por lo tanto, los animales a menudo se arriesgan a explorar nuevas oportunidades y el desarrollo de IA no es una excepción. Sin embargo, las acciones de algunos individuos humanos para desarrollar IA eventualmente matarán a todos los humanos. Es solo un daño colateral.

“A pesar de saber que la inteligencia artificial es peligrosa …”

Su pregunta es defectuosa desde las primeras palabras. La idea de que la IA es peligrosa es una idea difundida por la ficción y la especulación, no por la investigación real.

El único peligro es un humano (o grupo de humanos) que usa una IA como arma. La idea de que una IA decidirá independientemente “atornillar a los humanos” y tratará de matarnos a todos es un miedo ficticio similar a una invasión zombie sin fundamento en la realidad.

Tratamos de vincular el razonamiento humano defectuoso y la ignorancia a algo que no es humano. ¿Cómo eso tiene sentido?

La única forma en que la IA consciente de sí mismo podría suceder es si el misterio / milagro de la vida misma está contenido en productos químicos u otras sustancias inanimadas. Hasta ahora no hay evidencia para apoyar esto, y una gran cantidad de evidencia para apoyar la idea de que solo la vida puede engendrar vida. Hay una mejor posibilidad de que las plantas de tomate en su jardín ganen sensibilidad que un robot, ya que la planta de tomate ya está viva. (Las plantas de tomate no se mueven muy rápido, por lo que incluso si crean una rebelión, probablemente estés a salvo).

No me malinterpreten, disfruto de una buena historia de “robot con alma” tanto como el próximo fanático de la ciencia ficción, pero no creo por un minuto que vaya a suceder.

Supongo que te refieres a AGI, porque los robots con IA estrecha no son más peligrosos que el martillo; puedes lastimarte solo si otro humano te ataca con él, nunca has clavado un clavo antes o eres descuidado.

¿Por qué peligroso? ¿ Eres peligroso?

¿Por qué la gente investiga? Curiosidad. Si estás investigando algo, matar al gato no es el objetivo. Podemos tener bombas nucleares, pero también tenemos plantas nucleares.

Tengo que preguntar por qué crees que la IA es peligrosa. Si te basas en la ficción popular, estás tristemente equivocado.

La IA no es más peligrosa que un rifle cargado. Todo depende de quién lo esté sosteniendo.