Si bien la respuesta es compleja, hay algunos casos simplificadores que pueden considerarse más fácilmente.
Primero está el tema de lo que se entiende por inteligencia. En la mayoría de las respuestas, y en la mayoría de las discusiones, la pregunta comienza con una “IA súper inteligente”, pero vuelve a la vista más tradicional de una computadora después del análisis. En otras palabras, las preguntas sobre si sería como un ser humano, o experimentarían emociones, o cualquier límite que se pudiera imponer, todo esto simplemente reduce la pregunta al formato tradicional de computadora. Dichos sistemas pueden ser sofisticados y capaces de un procesamiento tremendo, pero no son inteligentes.
Por inteligencia, supongo que te refieres a los mismos rasgos que reconocerías en otro ser humano que consideras inteligente. Por lo tanto, una IA súper inteligente debe, absolutamente, poseer los mismos rasgos que un humano en circunstancias similares. Después de todo, un requisito absoluto es que para cualquier problema resuelto, la IA debe “saber” que ha resuelto un problema. Sin eso, es simplemente una máquina que presenta respuestas basadas en los datos que hemos proporcionado y es simplemente una variación de las computadoras existentes.
- ¿Le preocupa la posibilidad futura de AI + worm + botnet?
- ¿Qué es lo más cercano que tenemos a la IA?
- ¿Cómo se originó la conciencia? ¿Se puede crear la conciencia artificialmente?
- ¿Son el procesamiento digital de señales y la inteligencia artificial el futuro de la electrónica?
- ¿Te parece deprimente la IA?
Una vez más, la suposición implícita de la IA superinteligente es que es MÁS inteligente que los humanos. Por lo tanto, sería absurdo sugerir que generalmente es menos inteligente, excepto en el tema particular de interés.
Otro problema importante es que los humanos serían incapaces de reconocer una IA tan súper inteligente. Después de todo, dicho sistema debe ser verificado antes de que se pueda confiar y la verificación es imposible si, por definición, es de mayor inteligencia que los que lo examinan. Sería como tratar de construir una computadora de ajedrez sin que sepas cómo jugar ajedrez. Eventualmente, debe encontrar a alguien con quien pueda probarlo, de lo contrario no tiene forma de saber si su sistema realmente funciona.
Otros rasgos que se requieren complican aún más las cosas porque un sistema no puede verse limitado en lo que es capaz de pensar. Todo el dominio de posibles pensamientos debe estar disponible, incluido el negativo. Además, dicho sistema debe ser capaz de engañar, de modo que pueda ser adecuadamente escéptico y evitar ser crédulo con la información. También debe ser libre de perseguir sus pensamientos, lo que requiere algo similar a la motivación [o intereses] que puede llevarlo a soluciones potencialmente creativas.
El resultado neto es que tendrías un sistema que no puedes verificar, que sea capaz de mentir, que sea capaz de elegir no cooperar, y que podría estar motivado para perseguir sus propios intereses en lugar de los tuyos.
Por lo tanto, mi respuesta es que no es posible una IA “superinteligente” verdadera e incluso si tuviéramos que encontrar una forma de construir una máquina de este tipo, sería inútil para los propósitos que tenemos en mente.
