Parece que el tomate con iptables se puede usar como monitor de ancho de banda. instrucciones detalladas
No entiendo por qué no puedes bloquear selectivamente a los clientes de la red, hasta que encuentres empíricamente al culpable.
Si está buscando un método de más alta tecnología, puede intentar usar un rastreador de paquetes, también llamado analizador de paquetes, para analizar todo el tráfico en la red desde su computadora en lugar de desde su enrutador.
Un rastreador de paquetes puede capturar información de paquetes dentro de su subred, incluso si estos paquetes no están dirigidos a su computadora. La viabilidad de este método depende del comportamiento del enrutador y si transmite todos los paquetes de red o no. Por supuesto, las redes inalámbricas son mucho más fáciles de rastrear que las cableadas.
Consulte este artículo, Software gratuito Packet Sniffer, para obtener una lista de dichos productos (no todos están disponibles para Linux). El sniffer más conocido es Wireshark.
Consulte también este artículo:Rastreo de tráfico en su enrutador o concentrador doméstico.