¿Es necesario conectar varias tarjetas NVIDIA GTX en una máquina para la informática CUDA mediante un cable especial?

Como otros mencionaron, no necesita ningún cable especial para la configuración de múltiples GPU.

  • Es posible que deba actualizar el SMPS porque la fuente de alimentación actual podría no ser suficiente. Además, dependiendo de las tarjetas, es posible que necesite cables de alimentación adicionales (SMPS debería tenerlo) para conectar las fuentes de alimentación para estas tarjetas.
  • Puede que tenga que escribir el código para cambiar la ejecución en diferentes dispositivos. CUDA no iniciará su función de código / núcleo en múltiples dispositivos distribuyendo automáticamente las tareas. Debe hacerlo manualmente con la función cudaSetDevice.
  • Si las tarjetas tienen una capacidad de cálculo diferente (son de las diferentes generaciones), deberá dividir el trabajo de manera inteligente. De lo contrario, dará lugar a desequilibrios de carga, es decir, algunas tarjetas recibirán más trabajo (en comparación con su potencia de cálculo) y algunas tarjetas recibirán menos trabajo. La idea es que, aunque las tarjetas son de diferentes generaciones (o de diferentes modelos de la misma generación), la cantidad de tiempo requerida para terminar la tarea debe ser la misma. Para que ninguna carta tenga que esperar a que las otras cartas terminen. (¡Aunque puedes manejar esto también, pero no te preocupes por eso ahora!)

Además, SLI puede ser venenoso: “El acceso entre pares está deshabilitado entre dos dispositivos si alguno de ellos está en modo SLI”.

¡No! No necesita un puente SLI para CUDA. SLI es solo para juegos con el fin de asegurarse de que los datos se sincronicen lo suficientemente rápido como para que las tarjetas tengan una salida constante. Evitar cualquier tartamudeo o retraso real / percibido con los juegos.

Si su uso para CUDA necesita que los datos se sincronicen lo más rápido posible, creo que NVidia permite que los programas CUDA utilicen el ancho de banda del puente SLI. Pero puedo ser incorrecto.