¿Podría el basilisco de Roko realmente suceder?

Brevemente, el Basilisco de Roko es un experimento mental que explica que una inteligencia artificial de futuro poderosa castigará a todas aquellas personas que no ayudaron a traer su existencia. Curiosamente, esta Inteligencia Artificial de gran alcance será en el futuro como resultado del esfuerzo humano para desarrollar inteligencia artificial y sistemas de inteligencia artificial.

Un poco de ciencia social. Como agente y criatura inteligente, ¿castigamos a todas esas criaturas de las que hemos descendido? Religiosamente, ¿nuestra inteligencia nos permite castigar a otros sin ninguna falta? ¿Una criatura realmente “inteligente” (ya sea natural o artificialmente desarrollada) se inclinará a castigarnos a sabiendas (ya que son inteligentes) de que las personas que no habían ayudado en su desarrollo habían cometido algún delito? ¿La naturaleza de la inteligencia dicta castigar a los inocentes?

Una criatura inteligente debe saber que otras personas eran necesarias para trabajar para aquellos que realmente las desarrollaron. En mi opinión, tal comportamiento de castigo no puede esperarse de una criatura inteligente.

El basilisco de Roko, por lo tanto, puede no suceder.