¿Cómo podemos vigilar los sistemas de Inteligencia artificial del futuro y garantizar la calidad de las respuestas o sugerencias que nos hacen?

No podemos porque nunca sabremos todas las ramificaciones y consecuencias de cada acción y decisión tomada. No tenemos forma de saber que esa sugerencia aparentemente inocente no tendrá consecuencias masivas en el futuro, como poner plomo en nuestra gasolina para mejorar el rendimiento del motor o usar CFC como propulsores en nuestra laca para el cabello.

Por supuesto, para mí, ese es el punto central de la inteligencia. Es fácil tomar una decisión cuando se conocen todas las variables. Se necesita una habilidad real para tomar una decisión cuando algunas de las variables están ocultas o simplemente se desconocen.

Entonces, verificamos los resultados con nuestra propia inteligencia o tenemos (por ejemplo) 3 sistemas de IA que funcionan de manera independiente y solo actúan cuando 2 o más están de acuerdo.

Por supuesto, ninguna opción compensaría un error honesto.

Gracias por el A2A, Floyd

Los sistemas de IA se construirán a partir de software. Entonces, lo que realmente está preguntando es: ¿qué sucederá si usamos nuestro desarrollo de software estándar y prácticas de prueba en IA? Nuestro fabuloso historial de garantía de calidad del software garantizará que no haya errores. Que nuestras IA se comportarán perfectamente. Que no habrá interacciones imprevistas entre módulos. Todo saldrá a la perfección.

Estoy apostando por Skynet.

La vigilancia de los sistemas AGI móviles o robóticos podría implicar inicialmente la detección de la ubicación (piense en Lo-Jack), aunque los sistemas AGI pueden aprender cómo falsificar sus ubicaciones. Si sobrevivimos lo suficiente en el futuro hasta un momento en que los robots coexistan con los humanos, entonces puede surgir un mercado negro para los sistemas AGI. Estos sistemas del mercado negro no tendrían características de detección de ubicación, o sus ubicaciones pueden estar fuera de la red.

A medida que el AGI se vuelve sofisticado, la confianza en los sistemas AGI puede ser como la confianza en los humanos individuales. Los AGI espías o agentes pueden ganar confianza al parecer inicialmente confiables, pero debido a que son operativos, sus objetivos reales pueden verse oscurecidos.

En este punto no puede haber garantía en cuanto a la calidad o confiabilidad de tales sistemas futuristas, así como tampoco hay garantía para la confiabilidad humana.

Encontré este artículo sobre el enfoque de Google para la inteligencia artificial de la policía. Google está trabajando en un interruptor de apagado para evitar un levantamiento de IA

Personalmente, creo que no hay forma posible de garantizar la calidad durante un período prolongado de tiempo debido a lo que es la IA. Es una computadora que puede aprender y comprender mucho más rápido que cualquier cosa que conozcamos. Encontrará una manera de evitar cualquier medida que haya configurado para evitar que desobedezca o mienta.

Pero, suponiendo que cada IA ​​es un individuo y no se convierte en la misma entidad después de obtener el mismo conocimiento, si tiene más de una IA, cuando dan respuestas diferentes, sabe que algo está sucediendo.

Voy a arriesgarme y decir:

De hecho, creo que esto es imposible. Si no podemos vivir con esa imposibilidad, no deberíamos desarrollar IA a un nivel tal que se requiera este tipo de vigilancia.