Para reproducir vlc en la línea de comandos sin iniciar una interfaz de usuario, parece que esta página tiene lo que necesita.
Específicamente, creo que quieres este comando:
vlc --intf dummy vcd://
Esto especifica una interfaz ficticia que realmente nunca inicia nada. No puedo probar esto porque estoy lejos de mi caja de Linux en este momento, pero aquí está el comando completo que creo que estás buscando:
vlc --intf dummy <stream>
Para usar vlc sin interfaz, solo uso este comando:
corriente cvlc