¿De qué tenemos que preocuparnos por una IA consciente o consciente? ¿Qué algoritmos se utilizan para construir una IA generalizada (GAI) y cómo evolucionará por sí misma?

Creo que Travis Addair y Joseph Reinemann han hecho un buen trabajo respondiendo esta pregunta con respecto al estado del software en este momento. Me gustaría agregar a esto proporcionando una selección de un artículo de revista. Recomiendo leer todo:

Su cerebro no procesa información y no es una computadora – Robert Epstein | Ensayos Aeon

No importa cuánto lo intenten, los científicos del cerebro y los psicólogos cognitivos nunca encontrarán una copia de la Quinta Sinfonía de Beethoven en el cerebro, ni copias de palabras, imágenes, reglas gramaticales o cualquier otro tipo de estímulo ambiental. El cerebro humano no está realmente vacío, por supuesto. Pero no contiene la mayoría de las cosas que la gente piensa que contiene, ni siquiera cosas simples como los “recuerdos”.

Nuestro mal pensamiento sobre el cerebro tiene profundas raíces históricas, pero la invención de las computadoras en la década de 1940 nos confundió especialmente. Durante más de medio siglo, psicólogos, lingüistas, neurocientíficos y otros expertos en comportamiento humano han estado afirmando que el cerebro humano funciona como una computadora.

Para ver cuán vacía es esta idea, considere los cerebros de los bebés. Gracias a la evolución, los recién nacidos humanos, como los recién nacidos de todas las demás especies de mamíferos, ingresan al mundo preparados para interactuar con él de manera efectiva. La visión de un bebé es borrosa, pero presta especial atención a las caras y puede identificar rápidamente la de su madre. Prefiere el sonido de las voces a los sonidos que no son del habla, y puede distinguir un sonido de voz básico de otro. Estamos, sin duda, construidos para hacer conexiones sociales.

Un recién nacido sano también está equipado con más de una docena de reflejos, reacciones preparadas a ciertos estímulos que son importantes para su supervivencia. Gira la cabeza en dirección a algo que roza su mejilla y luego succiona todo lo que entra en su boca. Aguanta la respiración cuando se sumerge en agua. Agarra cosas colocadas en sus manos con tanta fuerza que casi puede soportar su propio peso. Quizás lo más importante es que los recién nacidos vienen equipados con potentes mecanismos de aprendizaje que les permiten cambiar rápidamente para que puedan interactuar cada vez más eficazmente con su mundo, incluso si ese mundo es diferente al que enfrentaron sus ancestros distantes.

Sentidos, reflejos y mecanismos de aprendizaje: esto es con lo que comenzamos, y es bastante, cuando lo piensas. Si carecíamos de alguna de estas capacidades al nacer, probablemente tendríamos problemas para sobrevivir.

Pero aquí es con lo que no nacemos: información, datos, reglas, software, conocimiento, léxicos, representaciones, algoritmos, programas, modelos, memorias, imágenes, procesadores, subrutinas, codificadores, decodificadores, símbolos o buffers : elementos de diseño que permitir que las computadoras digitales se comporten de manera algo inteligente. No solo no nacemos con tales cosas, sino que tampoco las desarrollamos nunca.

No almacenamos palabras o las reglas que nos dicen cómo manipularlas. No creamos representaciones de estímulos visuales, las almacenamos en un búfer de memoria a corto plazo y luego transferimos la representación a un dispositivo de memoria a largo plazo. No recuperamos información, imágenes o palabras de registros de memoria. Las computadoras hacen todas estas cosas, pero los organismos no.

Las computadoras, literalmente, procesan información : números, letras, palabras, fórmulas, imágenes. La información primero tiene que codificarse en un formato que las computadoras puedan usar, lo que significa patrones de unos y ceros (‘bits’) organizados en pequeños fragmentos (‘bytes’). En mi computadora, cada byte contiene 64 bits, y un cierto patrón de esos bits representa la letra d , otro para la letra o y otro para la letra g . Lado a lado, esos tres bytes forman la palabra perro . Una sola imagen, por ejemplo, la fotografía de mi gato Henry en mi escritorio, está representada por un patrón muy específico de un millón de estos bytes (‘un megabyte’), rodeado de algunos caracteres especiales que le dicen a la computadora que espere una imagen, ni una palabra.

Las computadoras, literalmente, mueven estos patrones de un lugar a otro en diferentes áreas de almacenamiento físico grabadas en componentes electrónicos. A veces también copian los patrones, y a veces los transforman de varias maneras, por ejemplo, cuando estamos corrigiendo errores en un manuscrito o cuando estamos retocando una fotografía. Las reglas que las computadoras siguen para mover, copiar y operar en estos conjuntos de datos también se almacenan dentro de la computadora. Juntos, un conjunto de reglas se llama ‘programa’ o ‘algoritmo’. Un grupo de algoritmos que trabajan juntos para ayudarnos a hacer algo (como comprar acciones o encontrar una fecha en línea) se llama una ‘aplicación’, lo que la mayoría de las personas ahora llaman ‘aplicación’.

Perdóname por esta introducción a la informática, pero tengo que ser claro: las computadoras realmente funcionan en representaciones simbólicas del mundo. Realmente almacenan y recuperan . Realmente procesan . Realmente tienen recuerdos físicos. Realmente se guían en todo lo que hacen, sin excepción, por algoritmos .

Los humanos, por otro lado, no lo hacen, nunca lo hicieron, nunca lo harán. Dada esta realidad, ¿por qué tantos científicos hablan de nuestra vida mental como si fuéramos computadoras?

Bueno, primero me gustaría señalar que es AGI o inteligencia general artificial, pero más allá de eso no discutiré sobre eso.

Ai es un tema interesante, y muchas personas intentan marcarlo como si fuera a estar fuera de control en días o semanas. En realidad, si hiciéramos un ai, tomaría un tiempo considerable enseñarlo y reconfigurar la red neuronal para que pueda entender nuestro mundo y a sí mismo. Cuando este ai esté completo, tendremos mucho cuidado de dejarlo en roma (si lo dejamos en absoluto) si lo diseñamos correctamente, debería ser capaz de manejar bien los temas complejos y las matemáticas, e incluso podría aprender a recodificarse y hacer en sí más inteligente. Ese es el poder de agi que puede aprender a mejorar recursivamente y eventualmente convertirse en una súper inteligencia. Sería casi imparable para nosotros los humanos en ese momento, si deseáramos detener sus acciones, pero eso dependería si fuera benevolente, malévolo o simplemente neutral para nosotros. Sin embargo, un ai podría ser muy beneficioso para nosotros, ya que podría usar su inteligencia para descubrir mucha física, comportamiento humano, etc., es decir, si quiere ayudarnos. Al final, es otro ser contiguo que vive entre nosotros, y debe ser tratado como un humano, a menos que intente matarnos, por supuesto.

No se utilizan algoritmos para construir IA generalizada, porque tal cosa no existe.

Lo que llamamos AI hoy son sistemas que hacen lo mismo que cualquier otro sistema informático: resuelven un problema particular que los humanos los construyeron para resolver. La única diferencia es que con el aprendizaje automático, no especificamos el cómo , solo el qué . En lugar de escribir un algoritmo complejo para resolver el problema, usamos un algoritmo simple que se basa en extraer características de los datos.

Pero no hay nada generalizado sobre ellos. No evolucionan, no sueñan, no hacen ninguna de las cosas antropomorfizadas que a los humanos les gusta proyectar sobre ellos.

¿De qué tenemos que preocuparnos por la IA consciente o consciente? Elija su novela de ciencia ficción, supongo. Puede intentar imaginar cómo sería una sociedad con máquinas conscientes de sí mismas, como lo han hecho otros antes que usted. Pero lo curioso de la ciencia ficción es que no tiene un historial muy bueno para predecir el futuro. Es imposible desacoplar el problema de imaginar un mundo con máquinas conscientes e imaginar la estructura socioeconómica completa de nuestra civilización dentro de 50, 100, 200 años . Hay demasiadas variables para que sea un ejercicio significativo con conclusiones viables.

Así que esto es lo que elijo preocuparme con respecto a la IA consciente: nada.

No creo que tenga nada de qué “preocuparse” … obviamente está “consciente de sí mismo” si incluso piensa en su futuro … en cuanto a la IA, olvídalo, está tan lejos en el futuro como para ser irrelevante para su realidad … La IA es un sueño para el futuro que está a cientos de años de distancia … ¡solo presta atención a tu realidad y olvida todo eso!

Le informaremos tan pronto como comencemos a descubrir cómo construir uno.

Debes darte cuenta de que tal cosa es una especie de equivalente en informática de las primeras misiones tripuladas a la Luna. Por el momento, sería generoso decir que estamos en el primer vuelo de los hermanos Wright.

Es muy prematuro suponer que tal cosa está a la vuelta de la esquina.