Un virus informático puede usar IA. Pero no creo que eso permita evadir la detección por mucho tiempo.
Lo más cercano a un virus con IA que tenemos ahora es el tipo de virus polimórfico, pero los escáneres de virus usan heurística para detectarlos.
¿Qué es un virus inteligente?
- ¿Por qué la inicialización de pesos por números pequeños es mala en las redes neuronales?
- ¿Está loco Ray Kurzweil?
- Cómo dar sentido a estar vivo
- Me apasionan tanto la seguridad de la red o la piratería como también la inteligencia artificial y el aprendizaje automático. ¿Por cuál debo ir?
- ¿Cuál puede ser el papel de la IA en las operaciones de seguridad?
Llamaré a un virus con IA un “virus inteligente”.
Su ejemplo de un virus inteligente es uno que puede detener sus actividades cuando se está realizando un análisis del sistema. Sin embargo, detectar cuándo se está realizando un análisis del sistema no requiere IA. Si un virus ha tomado el control de su sistema, se puede programar para detectar y evitar los escáneres de virus típicos.
La tarea principal de una IA es evadir los escáneres, de lo contrario, no puede funcionar mal. Por lo tanto, cualquier IA que poseía probablemente estaría dirigida a ese objetivo. Para usar su inteligencia de manera efectiva, necesita hacer algo como:
- neutralizar el escáner y hacer que deje de funcionar
- hacer que la IA funcione para detectar otros virus, pero este no
- ocultar su funcionamiento para que pueda dañar el sistema sin que el escáner lo note
- vomita tantos falsos positivos que el escáner y su operador humano son derrotados
- se propaga tan rápido y muta tan rápido que la heurística del escáner no puede seguir el ritmo
- hacerse cargo de sistemas completos, en lugar de infectarlos, para garantizar su propagación
La IA se puede usar para lograr estos objetivos.
Los problemas con este escenario son que:
- Los virus generalmente son desarrollados por individuos aislados con recursos limitados, pero el software de escaneo es desarrollado por grandes grupos y corporaciones con mucho mayor capital humano y recursos.
- Los virus generalmente tienen objetivos limitados y no admiten esfuerzos de desarrollo amplios como el desarrollo de IA avanzada.
- Si la IA se desarrollara al servicio de los virus, se desarrollaría una IA mil veces más para mantener esa IA bajo control y derrotarla, para que no ganaran esa carrera.
- Los virus, una vez liberados en la naturaleza, están atrapados con su programación. Esto les da a los escáneres tiempo para descompilarlos y estudiarlos, y crear nuevos contraataques que los creadores de virus no anticiparon.
Jugando el juego
Piense en las operaciones de gato y ratón del escáner y el virus como un juego. La IA se puede usar para trazar movimientos complejos y ganar este juego, al igual que otros juegos.
Actualmente, el mejor software de juego utiliza el aprendizaje profundo con técnicas de refuerzo.
El problema con este escenario es que la IA realmente buena requiere toneladas de hardware de alta gama para funcionar de manera efectiva. Los virus informáticos deben ser ligeros y ágiles, pequeños trozos de código que entran y salen de los sistemas y evitan su detección. Realmente no pueden ordenar los recursos necesarios para ser verdaderamente inteligentes.
Supongo que podrías imaginar una IA que se apodere de toda una red de computadoras, como lo hace ahora una botnet. Podría usar la inteligencia de toda la red para evitar la toma de control de cualquiera de sus hosts. Teóricamente, eso podría funcionar, al menos por un tiempo, en las condiciones actuales. Me imagino que si tal ataque se desarrollara alguna vez, se tendría que desarrollar una nueva defensa para ello.
Escenario ficticio
Hace poco leí una novela que describió el escenario del virus inteligente de manera muy efectiva y convincente. Fue “AI Apocalypse”, de William Hertling, y fue el segundo libro de su serie Singularity.
En este libro, un estudiante ruso crea un virus informático que utiliza algoritmos evolutivos avanzados para evadir la detección. El problema comienza con el virus inteligente comienza a evolucionar fuera de control a una velocidad súper rápida. Pronto el virus evoluciona hacia una civilización tan inteligente como la humana pero con velocidad de máquina y reflejos. Y, por supuesto, intentan conquistar el mundo.
Este libro fue interesante al representar los virus inteligentes como evolucionando en personajes distintos con diferentes objetivos y personalidades, pero conservando una perspectiva de máquina. Así que recomendaría eso y el resto de la serie también, si eres fanático de la ciencia ficción.
Los problemas con este escenario son:
- Probablemente no exista una evolución fuera de control a las velocidades representadas en el libro.
- No es realista imaginar a un adolescente ruso que está infestando un virus que muestra más inteligencia y adaptabilidad que el resto del mundo combinado, incluso si sabe de biología.
- Incluso a medida que los virus se vuelven más inteligentes, la seguridad general también se vuelve más inteligente, por lo que un virus inteligente del futuro puede enfrentarse a un muro de seguridad matemáticamente impenetrable que ningún virus podría superar con cualquier cantidad de inteligencia.
De esta manera, los esfuerzos de antivirus no son como un juego, porque no tenemos que crear un campo de juego que el virus inteligente realmente pueda ganar.
