Sé que es solo una teoría en la actualidad, pero ¿qué tan poderosa sería una inteligencia artificial adecuada? ¿Sería capaz de tener emociones o se limita a los cócteles químicos en un cerebro físico?

No hay razón para que pensemos que la inteligencia artificial no puede tener emociones. Las emociones son nuestra forma de tratar de dar sentido a las diversas entradas sensoriales que recibimos cada segundo y la compleja interacción entre las entradas y nuestras expectativas.

Existen muchos modelos académicos que intentan explicar que la mayoría de las emociones pueden derivarse de unos pocos impulsos humanos fundamentales. Principalmente como todos los colores pueden derivarse de los colores primarios RGB. Ver

Contraste y categorización de las emociones.
Cubo de emoción de Lövheim

Entonces, si la pregunta es si se puede modelar una emoción, entonces la respuesta es Sí. ¿Pero es igual a tener la emoción? Las personas responderán esto de manera diferente según sus sistemas de creencias. La respuesta depende de qué conciencia y conciencia es.

Creo que es posible crear un modelo que sea “consciente” en el sentido de que hará un seguimiento de sus propias emociones y tratará de “reflejar” las emociones de los demás, lo cual es un factor crucial para la conciencia. De hecho, también he desarrollado un modelo para hacer precisamente eso. Sin embargo, crear el modelo real es un trabajo de matemático, así que no lo llevé más allá.

Para resumir la respuesta a su pregunta: es posible que podamos construir algoritmos que estén muy cerca de cómo pensamos y sentimos (emociones), pero si el algoritmo realmente siente emociones es motivo de mucho debate.