En un comentario a la respuesta del Usuario de Quora a continuación, el Usuario (OP) dijo que lo que realmente quería entender es “¿Qué podría salir mal?”
Por lo tanto, con el espíritu de responder la pregunta real subyacente del OP, haré exactamente eso. Espero que los supervisores de Quora consideren esta respuesta adecuada para la pregunta.
“¿Qué podría salir mal?” es una pregunta que es demasiado abierta y depende de demasiados escenarios especulativos para dar respuestas sensatas. Pienso “¿Qué es más probable que salga mal?” está más centrado y más atento a una respuesta que no requiere una gran cantidad de especulación y, en cambio, puede basarse en observaciones reales.
- ¿Alguien puede ayudarme a escribir un debate sobre los efectos negativos de la inteligencia artificial?
- ¿Cuáles son los sitios famosos para los desafíos de programación de Inteligencia Artificial?
- ¿Cuál es el punto de crear inteligencia artificial?
- Si un AGI es lo suficientemente inteligente como para matar al mundo entero, ¿por qué importaría si la humanidad sobrevive?
- ¿Qué opinas sobre la inteligencia artificial y por qué?
Lo que es más probable que salga mal es que el progreso será muy lento (como lo ha sido hasta ahora, desde que comenzamos a pensar en esto hace mucho tiempo), y se guiará principalmente por preocupaciones económicas y políticas / militares (como ha sido hasta ahora, desde los buenos tiempos de la Guerra Fría).
Es posible que se sorprenda al saber cuánta investigación de inteligencia artificial (equivocada y sin éxito) se ha realizado y / o patrocinado por los militares. Desde los años 50, por lo menos. Ha habido algunos resultados interesantes provenientes de esa área, pero nada de “cambio de juego” o “destrucción de la tierra”. (Algunos dirán que ha habido, pero se han mantenido en secreto. A pesar de las teorías de la conspiración, dudo mucho de eso.) Y, en particular, no ha habido ninguna comprensión profunda resultante de lo que es la Inteligencia, artificial o de otro tipo. .
Algunos esfuerzos comerciales han dado frutos, en particular recientemente, y se están utilizando mientras hablamos (aunque, en muchos casos, no se anuncian ni se habla mucho de ellos, o solo de manera superficial). Los más notables son los esfuerzos de los grandes “zares de búsqueda”, como Google, que sin darse cuenta ha estado utilizando durante un tiempo. Incluso los teléfonos celulares usan algunas formas (aunque simples) de IA: piense, por ejemplo, el tan difamado Siri, hace 30 años, habría sido aclamado como un gran avance, precursor de una nueva era (como era habitual decir en aquel entonces ), pero ahora su funcionalidad (o falta de ella) a menudo está en el extremo de los chistes malos.
Esa es una de las cosas que pueden salir mal. Y tiene. Investigación demasiado enfocada con requisitos y agendas demasiado ajustados, que a menudo se quedan cortos y decepcionantes. Y el público en general (e incluso los inversores y los patrocinadores de las becas de investigación) tienen demasiadas expectativas fantásticas, alimentadas tanto por fantasías populares como por ficción científica. El problema es que, en más de unos pocos casos, quienes realizan la investigación también tienen esas expectativas, con una dosis considerable de arrogancia.
Sin embargo, se está haciendo mucho en los laboratorios de investigación de todo el mundo, y sus resultados se informan abundantemente en una gran cantidad de revistas y actas de conferencias. La cantidad de documentos en el campo es tan grande que se filtra mucho y se restringe a un subcampo estrecho, o se inunda tanto que no se puede esperar que un humano normal lo absorba todo. Es como tratar de apagar su sed bebiendo de una manguera de bomberos.
Eso es, al menos para mí, lo que está mal en este momento en lo que respecta a la investigación real, y no a la “investigación enfocada”, como suele ser el caso en los esfuerzos comerciales y militares: es esencialmente imposible ver el bosque por la enorme cantidad. de todos los diferentes arboles. Y el “bosque”, el significado general de todo esto, es lo que realmente importa en la IA, o incluso en el viejo yo.
Hasta ahora, casi todo el mundo ha estado muy ocupado estudiando felizmente algunos “árboles”, considerados prometedores por la comunidad investigadora, pero muchos expertos afirman que el “bosque” es “intratable hasta que comprendamos suficientes árboles”.
Ese “reclamo de ignorancia” sin fundamento está en la raíz de lo que está y seguirá saliendo mal con la IA.
En mi opinión, no tan humilde, pero bastante cascarrabias, eso es …
