¿Cuál es la teoría de la singularidad en el contexto de la IA?

La idea es que los humanos inteligentes construirán un sistema de IA que sea más inteligente que cualquier humano. Pero una vez que eso suceda, dicho sistema podrá diseñar rápidamente un sistema aún más inteligente. Ese sistema aún más inteligente diseñará un sistema más inteligente y así sucesivamente. Si bien la evolución lleva mucho tiempo, generaciones de computadoras con capacidades de inteligencia artificial solo tomarán años, luego meses, luego, posiblemente semanas. Entonces, la “inteligencia” que se basa en la biología humana cambia muy lentamente, pero las nuevas generaciones de silicio inteligente sucederán muy rápidamente. Hay numerosos problemas que tengo con este escenario. Primero, supone que la “inteligencia” es algo lineal. Si A es “más inteligente que” B y B es más inteligente que C, entonces A será necesariamente más inteligente que C. Pero creo que la inteligencia no es como una escalera, sino más bien como un árbol. A medida que los sistemas se vuelven más inteligentes, también se vuelven más diferenciados y se ramifican en diferentes direcciones. Un segundo problema es que diseñamos un sistema para poder establecer sus propios objetivos o no lo hacemos. Si no dejamos que establezca sus propios objetivos, estaremos limitando severamente su capacidad de ser más inteligentes de lo que somos. Sin embargo, si lo hacemos, es potencialmente peligroso, pero también es el colmo de la arrogancia que los científicos de la computación hagan IA para asumir que “por supuesto” lo más importante para un sistema es diseñar un sistema más inteligente. Eso es lo que les gusta hacer a los investigadores de IA. No implica que un sistema inteligente de inteligencia artificial decida que es lo más importante que hacer … o incluso UNA cosa importante que hacer. Podría pasar todo su tiempo mejorando las líneas genéticas de las flores. Sugeriría un vistazo a las Pesadillas de Turing que profundiza en estos temas con más de 20 escenarios diferentes de cómo podría desarrollarse la “singularidad”.

http://tinyurl.com/hz6dg2d

Es más o menos una explosión de inteligencia. En términos de IA, es la idea de que una vez que los humanos creen una IA que sea de nivel humano o más inteligente, aparecerán nuevas tecnologías casi instantáneamente y nosotros, los humanos, nunca más tendremos que inventar nada, ya que la IA podrá para determinar qué se necesita y los mejores materiales / tecnologías para todo. Podrán evolucionar por sí mismos, más rápido que los seres vivos, ya que estarán basados ​​en la computadora y, por lo tanto, evolucionar solo significa reescribir el código y agregar nuevo hardware. Lo cual, si tienes una IA que puede hacer cualquier cosa, esa evolución podría ocurrir instantáneamente.

Sería algo maravilloso de presenciar, aunque podría ser bastante devastador, al menos al principio, para la sociedad y la economía en todo el mundo. Piénsalo. Una IA que hace todo lo que un humano puede hacer, pero magnitudes mejores y más rápidas. No habría necesidad de aportes humanos en este punto. Todo esto resultaría en desempleo masivo y cambios rápidos en todos los aspectos de nuestras vidas.

Gracias por el A2A!

La singularidad en general significa una pérdida de continuidad. Todos los cambios culturales y tecnológicos hasta ahora estaban sucediendo continuamente durante generaciones. Ahora imagine que está tratando de recordarse a sí mismo solo unos años más joven, o incluso hace solo unos meses, y realmente no puede apreciar nada de lo que estaba haciendo cuando.

Creo que “la singularidad” es un evento propuesto por Ray Kurzweil cuando la inteligencia artificial alcanza y supera la inteligencia humana. Se supone que esto se complica continuamente por ciclos de superación personal que eventualmente dejan atrás a los seres humanos. La IA sería la inteligencia artificial a la que se refiere.