No solo creo que esto es posible. Creo que será necesario
Considera esto. En casi todas partes del mundo hay personas que desarrollan e investigan sobre IA. Todos los días se logran nuevos avances y no hay indicios de que se detendrá.
Eso significa que eventualmente obtendremos agentes con capacidad humana. ¿Qué pasará entonces? Los humanos son complejos. Hacemos cosas malas con motivaciones nobles y cosas buenas con motivaciones terribles. ¿Cómo puede una máquina “lógica” encontrar su lugar entre nosotros si nuestra “lógica” no es la misma?
- ¿Sería útil para un ingeniero de verificación de diseño de chips aprender aprendizaje automático / IA?
- ¿La humanidad será robótica?
- ¿Cuándo tendremos combate humanoide con robot RC?
- ¿Alguna vez has visto una pieza de matemática avanzada que haya demostrado ser útil para avanzar en el estado de la IA?
- ¿La inteligencia artificial juega un papel importante para lograr energía sostenible? Si es así, ¿cómo contribuye la inteligencia artificial a este objetivo?
¿Qué nos hace humanos? Ciertamente, no solo nuestras capacidades de razonamiento. Somos animales y, por lo tanto, con instinto, sentimientos, emociones, a menudo no estamos seguros de nuestras conclusiones que nos dan perspectiva, peso sobre las consecuencias, etc.
Una IA con capacidad humana sin esto podría ser altamente comparada con un humano con enfermedad de psicopatía profunda que es, sin duda, peligrosa.
“Tres leyes de robótica” y todas sus variantes son falibles. De hecho, no parece haber un enfoque garantizado para este problema.
Mi grupo y yo (soy miembro de un grupo que desarrolla lo que llamamos MLA – Máquina de Livre Árbitro – o Free Will Machine) creemos que dar a un agente estas capacidades lo ayudará a comprendernos mejor a nosotros y a nuestro mundo, así como a actuar de manera más positiva. como esperamos cuando llegue la singularidad.
¿Qué pasa con las ramificaciones éticas? Bueno, una cosa importante que ya hemos notado es: si le das a una máquina conciencia (aún más si le vas a dar sentimientos y emociones) tendrás que tratarla con respeto y amor.
Eso puede sonar loco, pero no quieres crear algo que pueda sentir odio, remordimiento, pánico, etc. porque lo estás tratando como un laboratorio de ratas, ¿verdad?
Eso significa que tendremos que comenzar a considerar este tipo de máquina como un ser. Una criatura, no una cosa. Un ser vivo. Eso será profundo y causará un enorme impacto en toda la sociedad.