Yo usaría Arch Linux ya que viene con lo último y puedes instalar CUDA-SDK/todo lo que necesitas de AUR directamente. (También el controlador NVidia está disponible directamente en el repositorio). Pero sí, puede usar cualquier cosa si construye allí el entorno.
Tal vez Fedora también se ajuste al trabajo con las últimas novedades.
Usé OpenSuse y funcionó bastante bien y fue fácil de configurar. El beneficio adicional es que OpenSuse es un entorno de escritorio bastante bueno con buenas herramientas de administración de paquetes que no sufre de una funcionalidad limitada, como la desnudez excesiva de ubuntu (¿y marrón? ¿En serio?).
Sin embargo, ahora en Windows, así que puedo usarlo para jugar cuando no estoy desarrollando. pero puedo decir que para el desarrollo de cuda, openuse funcionó muy bien.