¿Cuáles son algunas de las cosas que la inteligencia artificial puede nunca entender o comprender?

No es ninguna abstracción. Google saca esta definición:

“existiendo en el pensamiento o como una idea pero no teniendo una existencia física o concreta.
“conceptos abstractos como el amor o la belleza”
sinónimos: teórico, conceptual, nocional, intelectual, metafísico, ideal, filosófico, académico;
ideación rara
“conceptos abstractos””

Se pueden describir objetos de concierto como una rueda, y una descripción finita obtendrá resultados utilizables. Pero una abstracción no se puede fijar a una descripción finita. Tampoco puede un sistema formal descubrir todos sus atributos (ya que es Incompleto).

ACIM (2) elabora esto:
“7 La inventiva es un esfuerzo perdido incluso en su forma más ingeniosa. 8 La naturaleza altamente específica de la invención no es digna de la creatividad abstracta …

“4 El pensamiento abstracto se aplica al conocimiento [abstracto] (1) porque el conocimiento es completamente impersonal, y los ejemplos son irrelevantes para su comprensión.

“… las ilusiones son bastante específicas, aunque la mente es naturalmente abstracta.

“La especificidad del pensamiento del ego [mente ordinaria], entonces, resulta en una generalización espuria que en realidad no es abstracta en absoluto.

“8 Dado que solo los seres de un orden similar pueden realmente comunicarse, las creaciones [verdaderas] se comunican naturalmente con [otras creaciones verdaderas]. 9 Esta comunicación es perfectamente abstracta, ya que su calidad es de aplicación universal y no está sujeta a ningún juicio, excepción o cualquier alteración “.

Mis comentarios:
El punto 8 realmente cierra la puerta a la inteligencia artificial como algo humano. Pero también lo hace el teorema de incompletitud de Godel. Cuando los investigadores de IA se divorcian de este tipo de cosas, están silbando a Dixie, “fantasías poco realistas y rosadas” que se enfrentan a 3000 años de pensamiento profundo, en cada tradición, que concluye con el avance de las matemáticas y la ciencia de 1920 que dice nosotros que el mundo no es una máquina.

(1) el conocimiento es visto como abstracto
(2) El concepto de divinidad presentado aquí es el de Infinito de Aristóteles, o la Mente de Buda, no la deidad abrahámica. Qué significa ACIM por “Resumen” – Hojas de trabajo de ACIM

Hay muchas cosas que no podemos entender, entonces, ¿qué nos haría pensar que AI podría entenderlas? Y para evaluar la dificultad de los problemas se requiere al menos algo de comprensión. Como no entendemos muchas de estas cosas, la única respuesta es que aún no lo sabemos.

Pero hay un rasgo popular que siempre se abre paso en la ciencia ficción de IA y es el rasgo de lo que se siente ser humano.

La IA no puede ser humana. Por definición, solo los humanos pueden ser humanos. Entonces una IA nunca lo entenderá.

Pero esto es como tú o nunca entiendo cómo sería ser alguien más. Este no es un problema específico de IA. Todos tenemos este rasgo que es nuestro, y que otros no pueden entender: lo que se siente ser nosotros mismos.

Sin embargo, la naturaleza nos dio una forma de superar esta barrera, y se llama empatía. Es nuestra capacidad de relacionarnos con otras personas lo que nos ayuda a invocar emociones comunes que nos unen y nos hacen uno. Entonces, un día, la IA que puede empatizar puede comprender lo que se siente ser humano. Esa IA sería nuestra amiga. Tal IA sería humana.

La respuesta simple es “no”.
No hay cosas que “la IA nunca pueda entender o comprender”.

Pero…

Hay un gran “pero” aquí. Hay otro gran problema: cosas que no están definidas adecuadamente. La mayoría de los conceptos que tenemos sobre nosotros: conciencia, sentimientos, qualia, conceptos, comprensión, son muy vagos.
Diferentes personas los entienden de manera diferente. Para decir si AI “los tiene”, necesitamos crear definiciones objetivas de ellos. Y sin importar cómo lo hagamos, muchas personas estarán en desacuerdo.

Todo lo que un experto humano pueda resolver puede implementarse en un sistema de IA más o menos complicado (uno de los principios generales del aprendizaje automático es la analogía con la inteligencia humana).
Entonces, el único criterio es si existe la medida cuantitativa del éxito.
No siempre es posible decir cómo se verá el modelo, pero puede estar seguro de que si algo puede cuantificarse, puede ser entendido por una máquina suficientemente complicada.

La definición de IA es un objetivo en movimiento, por lo que sería un comienzo.

Turing advirtió sobre decir nunca porque tomaría una eternidad demostrar que es verdad. Sin embargo, ha habido una larga línea de críticos de IA. Mire las publicaciones de Dreyfus, Searle, Weizenbaum, Chomsky, Penrose y Bostrom. Este nivel de filósofos puede llegar a casos que no se pueden resolver, que pueden ser cómo llegaron allí.

Existe la noción de que un sistema puede hacer algo que es más grande o más complejo que él mismo, junto con la propiedad de ser misterioso, y que podría convertirse en el objetivo de una IA.

Además, lo que sea que esté haciendo la evaluación de si comprende o no puede mostrar consistentemente un resultado negativo que generaría dos cosas.

No habría evolucionado biológica y naturalmente.

Este es un ejercicio interesante y refutarlo es probablemente un obstáculo que cualquier persona que quiera estar en el campo tiene que saltar.

20 años atrás : solo un resultado y le decimos a la máquina que esto es lo que hacemos, así que hazlo.

Estado actual : las máquinas son más inteligentes. De alguna manera piensan como humanos y pueden distinguir de gato a perro, de joven a viejo, de inglés a japonés

Futuro : nos estamos acercando a replicar las células cerebrales día a día. Si la pregunta es,

“¿Hay algo que la IA no pueda hacer que hagamos con nuestro cerebro?”
Nada que hayamos encontrado imposible todavía. La razón principal de ‘Nada’ es que ni siquiera estamos cerca de replicar el comportamiento humano, pero estamos llegando allí. En pocos años, obtendremos una mejor comprensión de lo que se puede hacer y cómo.

No estoy seguro de si esto es lo que querías decir, pero el poder de oler y distinguir entre diferentes olores es algo que no veo resuelto por la inteligencia artificial en el corto plazo.

PD: Google Nose lo hizo una vez 😛

Como alguien que ha trabajado en Inteligencia Artificial durante algún tiempo, tengo fe en que eventualmente tendrá éxito, a pesar de la lentitud con la que hemos progresado. Una vez que resolvamos el problema general, no habrá nada que una IA no pueda hacer, porque no hay nada especial sobre los seres humanos que una IA tampoco pueda hacer.

Quizás nada.

Posiblemente conciencia real. Pero nunca sabremos, más de lo que podemos saber si alguien más está realmente consciente.