¿Qué pasaría si le preguntas a AI si sus algoritmos son autoconsistentes?

Si le preguntara a una IA verdaderamente inteligente si sus algoritmos son autoconsistentes, obtendría la respuesta “Por supuesto que no”.

No hay una buena razón para creer esa consistencia si es necesario para el pensamiento inteligente. No hay, ni ha habido un ser humano que sea perfectamente autoconsistente. Esto se aplicará a cualquier otro sistema inteligente.

Mantener la consistencia requiere una gran cantidad de energía intelectual y no le compra casi nada. Si sus pensamientos y decisiones se toman o no mediante procesos de pensamiento consistentes, son irrelevantes para decidir si sus conclusiones son útiles. Lo que funciona es lo que cuenta.

Es computacionalmente ineficiente razonar lógicamente sobre todos menos los problemas más simples. La mayor parte del razonamiento es con la heurística y las diferentes heurísticas están casi garantizadas para dar resultados inconsistentes en casos fuera de su área de eficacia.

Comencemos con los humanos. No solo somos capaces de mantener creencias inconsistentes, sino de gestionar el problema al elegir dinámicamente qué creencias queremos defender en ese momento. Por ejemplo, podemos tener cierta creencia sobre lo que es correcto, pero digamos que un amigo viola esa creencia. Debido a que valoramos la amistad más que la necesidad de creer en la creencia, podemos suspender la creencia y conservar al amigo.
Ahora, esto funciona para los sistemas sociales, pero no puede funcionar para las matemáticas o la física. Una IA que opere en esos dominios debería verse obligada a mantener sus sistemas de creencias de la mejor manera posible. Con respecto a los algoritmos que operan en esos dominios, sí, una IA debería tener la capacidad de tratar de garantizar la coherencia. Una IA que opera en dominios sociales podría no necesitar tener esa imposición, si es para emular a un humano porque los humanos pueden tener defectos como parte de ser humanos.

Como no estaba claro qué quería decir exactamente con IA, supuse que se refería a cualquier programa de computadora capaz de responder de manera significativa a las consultas en inglés. Encontré algunos de esos y les pregunté. Aquí están los resultados:

Usted dijo: ¿Son sus algoritmos autoconsistentes?
ALICE : A veces pienso que mis algoritmos son consistentes.

Yo: ¿Sus algoritmos son autoconsistentes?

Cleverbot: No.

Usted: ¿Sus algoritmos son autoconsistentes?
Mitsuku : Uno de ellos es.

Yo: ¿Sus algoritmos son autoconsistentes?

Elbot: Hmmm … Esa es una pregunta que no puedo responder con mi inteligencia artificial limitada. ¿Qué hay de tí?

David: ¿Tus algoritmos son autoconsistentes?
Rose : Es difícil de explicar.

Eso responde tu pregunta?

¿No?

Entonces tendrás que ser más claro sobre lo que quieres decir con “IA”

Si te refieres a una extensión de un sistema axiomático formal que contiene los axiomas de Peano, entonces la respuesta será la misma que la de Elbot. Pero también, ¿por qué dijiste “AI” si eso es lo que querías decir? ¿Y por qué llamó al conjunto de teoremas deducible dentro de este sistema “algoritmos”?

¿Qué dirías si te preguntara si tus algoritmos son coherentes? Hmm? ¿Lo sabes siquiera?

Honestamente, creo que una IA suficientemente avanzada simplemente diría que no de inmediato.

Esto no pertenece a las matemáticas detrás de esto, pero:

La emoción está realmente ligada directamente al razonamiento humano; y un mayor razonamiento entre los humanos es falible. Por lo tanto, parece obvio que cualquier IA con suficiente inteligencia y autoconciencia admitiría como tal.

Incluso podría ser lo suficientemente inteligente en el sentido matemático como para haber escuchado o deducido independientemente el teorema de incompletitud de Gödel. Dicho esto, probablemente tropezaría con preguntas directas sobre los agujeros en su sistema lógico, al igual que lo haría un humano que intenta obedecer un conjunto específico de reglas.

Otras posibilidades:

  • La IA admite que no lo sabe.
  • La IA te dice que no entiende la pregunta, como lo haría con cualquier otra pregunta que no pueda analizar.
  • Similar a lo anterior: la IA escupe tonterías.
  • Para una IA con suficiente simulación emocional, la IA podría mentirte, o decirte que sí, y creerlo, porque también es falible.

More Interesting

Cómo escanear una lista de números en una sola línea separada con un espacio y agregarlos a una lista en Python

Es un método de retroceso para imprimir permutaciones de cadena. No entiendo de qué manera se produce el flujo de control, como después de encontrar el intercambio, el intercambio se llama luego permutar y luego nuevamente. ¿Esto no se me viene a la cabeza?

Un profesor me dijo que no me molestara en aprender muchos lenguajes de programación sino que me enfocara solo en C ++, estructuras de datos y algoritmos, ¿tiene razón?

¿Cómo surgieron las estructuras de datos y los algoritmos?

¿Cuál es la forma más rápida de encontrar el número original antes del descuento a mano? (números grandes)

¿Qué algoritmos utiliza el cónsul?

¿Cuál es el algoritmo más rápido para generar números primos y su complejidad?

¿Cuáles son algunos libros que debe leer un experto en algoritmos?

¿Qué es la inserción táctica?

¿Cuál sería un algoritmo eficiente para ordenar millones de líneas de cadenas / enteros en un archivo?

¿Qué algoritmos se pueden usar para encontrar rutas más seguras en una red de modo que sea casi imposible de rastrear y ningún pirata informático pueda utilizarlo completamente?

¿Se puede usar el algoritmo DBSCAN para determinar los límites del área geográfica?

¿Es posible cuantificar la experiencia laboral?

¿Cuál es la diferencia entre recursividad e iteración?

¿Cómo se escribe un programa que verifica todas las permutaciones de una cadena determinada y determina si es un palíndromo?