¿Qué pasará con el comercio de algoritmos y el comercio en general si surge una verdadera inteligencia artificial?

Probablemente no mucho. Y no todo a la vez. Solo hay tantos patrones en el mercado. Si hace alguna manipulación seria, la SEC lo buscará. Lo único que cambiará es el descubrimiento automatizado de patrones. En este momento, diría que la mayoría de las estrategias comerciales cuantitativas se basan en una corazonada o en una observación de una persona, luego la persona tiene una idea para un algoritmo, lo ajusta, lo prueba de nuevo, hace la debida diligencia, etc.

La única diferencia principal será que, en lugar de que un humano haga esa conexión, será una IA. Ya podemos hacer eso. No necesitamos una IA completa capaz de mantener una conversación para hacer eso. De hecho, me sorprendería si alguien ya no lo está haciendo. Es solo que hay una gran cantidad de datos que revisar, pero hipotéticamente podría simplemente tener un peine de la máquina a través de todo el historial de existencias (presumiblemente controlado por el sesgo de supervivencia, entre otros problemas), y simplemente elegir patrones y correlaciones. Luego, dependiendo del número de resultados, haga pasar una pantalla humana o de IA para eliminar los que no serían repetibles y luego tendrá correlaciones y patrones exitosos y podrá hacer lo que quiera con ellos.

Sin embargo, debido a la gran cantidad de comerciantes, dudo un poco que una IA recoja muchos grandes que la gente aún no ha descubierto.

La única forma en que una IA podría tener un impacto realmente significativo en este punto sería si se le permitiera manipular realmente el mercado, pero como he dicho, el gobierno intervendría muy rápidamente en ese punto.

Como con muchas otras cosas, implica complejidades.
Un “verdadero” AGI no necesariamente se optimizará para el rendimiento en tiempo real. De hecho, es probable que tenga algunas limitaciones basadas en las complejidades de la toma de decisiones y las masas de conocimiento.
No conozco profundamente los algoritmos comerciales de alta velocidad, pero espero que involucren procesos que empleen alguna combinación de aprendizaje automático y reglas fijas. ML puede responder muy rápidamente a situaciones ya aprendidas, si está alojado en máquinas dedicadas (en este caso no puede permitir latencias de Internet, si los reconocedores de redes neuronales se utilizaron y se alojaron en la nube).
Volviendo a la pregunta, es difícil construir una IA de velocidad súper alta para hacer frente a situaciones. Es más probable que se use una capacidad inferior pero una IA especializada en tareas para HST. Espero que eso sea lo que exista ahora.