Lo que estás buscando se llama "deduplicación". Aunque normalmente lo implementan los proveedores de productos de almacenamiento especializados, el sistema de archivos ZFS también lo implementa. La mayoría de los sistemas operativos derivados de Unix pueden usar ZFS y, por lo tanto, lo recomiendo como el primer lugar para buscar.
Network Appliance, Inc. ha tenido una capacidad de almacenamiento como esta durante muchos años, de hecho, presentaron quejas ante Sun Microsystems por su sistema de archivos ZFS, y hace lo que Aaron Miller menciona en su respuesta aceptada. Por lo que vale, las quejas se resolvieron con Oracle después de unos 3 años.
Lo he usado como una solución corporativa desde el año 2000 y funciona bien. El costo de almacenamiento después de la primera 'copia' surge una vez que hay un cambio en el archivo. De lo contrario, con muchas 'copias' viene solo un ligero aumento para el espacio de nombres.
No creo que esto responda a la pregunta sobre el "nivel del sistema operativo", sino más bien sobre el "nivel del sistema de archivos".