Bluetooth en Windows es un animal completamente diferente. BlueZ no es compatible con Windows en absoluto. Ese simple_scan.c al que te refieres tampoco se ejecutará en Windows. Estoy trabajando en un proyecto para leer monitores de frecuencia cardíaca y nos dimos cuenta de que va a ser un fastidio hacerlo en Windows (ver ejemplo aquí), así que usamos Linux con nuestro proyecto y estamos usando BlueZ con Qt 5.5.
Cómo instalar WSL2 (Subsistema de Windows para Linux 2) en Windows 10