Esta característica aún no es compatible con Virtualbox.
Su único software de virtualización alternativo que admite esto que yo sepa es Qemu y Xen y posiblemente VMWare . La mayoría de las historias de éxito sobre el paso de GPU a máquinas virtuales provienen de Qemu o Xen, por lo que le sugiero que recurra a eso hasta que Virtualbox lo admita.
Hay un blog dedicado al tema (ese es su tutorial de 2015 sobre cómo hacer esto con qemu como enfoque) que quizás desee consultar.
Tenga en cuenta que VGA Passthrough aún es una tecnología muy experimental y requiere combinaciones de placa base/CPU que admitan funciones muy específicas y, por lo general, también requiere una configuración de kernel personalizada para poder acceder a estas funciones desde Linux (para poder usar en la máquina virtual).
A la luz de esto, trate de no comprometerse demasiado. Es muy probable que se encuentre con errores o problemas que pueden hacer que su sistema físico o virtual se vuelva inestable o inoperable de alguna manera mientras usa VGA Passthrough. No esperes que funcione completamente, ni fácilmente. Necesitas suerte para que eso realmente suceda.