¿Es realmente necesario comprender Qualia para desarrollar una IA a nivel humano?

Creo que sí, pero no es realmente algo realmente complejo o abstruso.
Cuando llegamos a comprender el significado de algo, esta comprensión puede estar compuesta de al menos dos tipos de cosas. La primera es una definición común, es decir, acordado por todos. Las palabras en un diccionario son así.
El segundo aspecto es donde aplicamos nuestras percepciones personales y las usamos para aumentar la definición estándar, aumentando la cantidad de significado. Un ejemplo lo aclarará.
Si les digo ‘desfile’ a ustedes y a otras personas, probablemente cada uno de ustedes conozca una definición de diccionario de la palabra, o al menos algo parecido. Pero cada persona tendrá una imagen mental diferente de un desfile, correspondiente a nuestra experiencia personal de desfile. La experiencia personal es qualia que aumenta la definición estándar.
Por lo tanto, los qualia no son algo místico e indefinible, sino simplemente las percepciones de una entidad agregadas al consenso grupal.
Está claro que una IA similar a la humana también debería poder experimentar personalmente el mundo y ampliar sus definiciones, de lo contrario, sería simplemente una entidad robótica y estéril. Para ser humano, tiene que experimentar las cosas como lo hacen los humanos, con una gran variedad de interpretaciones posibles, y tiene que entender que eso es lo que hacen los humanos, o no será capaz de comprender completamente a los humanos.