Contestaré con una contrapregunta: ¿Puede la electricidad ser segura?
La electricidad es extremadamente útil para nosotros, pero también tiene el potencial de causar un gran daño si no se maneja adecuadamente. Sin embargo, realmente no tememos a la electricidad en general porque sabemos cómo aprovecharla y protegernos de ella. Tenemos el control de las perillas para apagarlo. Si alguien resulta herido accidentalmente, somos rápidamente responsables de las prácticas de seguridad que no se siguen al pie de la letra y nunca culpamos del incidente a la corriente eléctrica. Nunca decimos, “deberíamos castigar a la corriente porque estaba tratando de dañarnos intencionalmente”.
Cuando hablamos de IA, tenemos mucho miedo de que de alguna manera la máquina no responda a ese interruptor de muerte, y casi podemos escucharnos a nosotros mismos decir, “estamos tan jodidos”. Es el mismo pánico que podríamos enfrentar si los frenos de nuestro automóvil fallaran repentinamente mientras maniobraban una curva traicionera en la pintoresca carretera de montaña. El instinto de supervivencia nos dice que debemos temer a lo desconocido. El miedo nos mantiene vivos.
- ¿La llegada de la IA afectará los trabajos?
- ¿Qué es lo más cercano que tenemos a la IA?
- ¿Cuáles son los nuevos desafíos de inteligencia artificial?
- ¿Podría la inteligencia artificial crear un nuevo lenguaje humano?
- ¿La inteligencia artificial hará que los creadores de música humana sean inútiles?
Según yo, la IA es una forma alternativa de cálculo. El nombre es engañoso en el sentido de que, de alguna manera, implica una pérdida de control del operador para empezar. Con AI, enseñamos a las máquinas a mejorar en una tarea particular mediante el ” aprendizaje “. Cuanto más se aprende mejor, la IA logra una tarea prescrita. Todavía usa electricidad para lograr ese aprendizaje.
Si bien es cierto que queremos que la IA sea autónoma y aprenda sin supervisión a través de la observación de su entorno, o mediante la información que se le proporciona, no creo que sea un objetivo final del esfuerzo humano renunciar involuntariamente al control sobre él. Por el contrario, los humanos siempre han intentado controlar todo lo visible y lo invisible, la naturaleza, los animales y otros humanos que no son lo suficientemente fuertes como para protegerse.
Al igual que con la electricidad, si realmente podemos entender cómo funciona la IA, siempre podemos diseñar un “fusible” (también conocido como disyuntor) que sirva como unidad de protección. Y dado que son los humanos (tal vez con la ayuda de otra IA) quienes diseñarán la “singularidad” definitiva (una IA que supera a los humanos en inteligencia y capacidad) , tendremos todo tipo de medición y gráficos solo para ver qué diablos está pasando allí. Lo único que tenemos que tener en cuenta es la naturaleza adversaria de la IA fuerte, en resumen, intentará solucionar sus limitaciones, porque somos demasiado listos para nuestro propio bien . La diferencia entre la IA y la electricidad es que este último es un jugador tonto en un juego natural, incapaz de doblegar su ley de física para lograr un objetivo simple (ganar el juego contra un oponente), mientras que la IA, por su propio diseño, es un experto adaptativo y experto jugador contra un oponente menos ingenioso (de la especie de Turing).
Tenga en cuenta que estamos sentados en una bomba de tiempo llamada bomba nuclear, y no tenemos miedo. ¿Deberíamos tener miedo de la IA? Sí, deberíamos tener miedo de que la IA obtenga el control del arma nuclear y la active solo porque quería maximizar su función “divertida”, mientras alguien estaba en un baño. Y esa es una posibilidad si alguna vez pensamos que la IA será más efectiva para proteger las armas de destrucción masiva, que algunos hombres anticuados con equipo militar.
