Lo que está buscando es el estándar de jerarquía del sistema de archivos. Las respuestas a todas las preguntas que haga están cubiertas en el FHS.
Con respecto a la escritura de aplicaciones que se ajustan a cualquier distribución de Linux, también puede consultar la Especificación del directorio base de XDG. Está más orientado al escritorio/usuario.
El estándar de jerarquía del sistema de archivos es probablemente la mejor referencia aquí (consulte la entrada de Wikipedia y el texto completo en varios formatos), según lo recomendado por LSB. Aunque no conozco ninguna distribución que se ajuste completamente al estándar, la mayoría se aproxima, por lo que es una buena referencia para decidir su propia "mejor práctica".
Hay una estructura estándar llamada Estándar de jerarquía de sistemas de archivos (FHS). Algunas distribuciones de Linux se adhieren a él, otras no.
En términos simples, cuando se trata de /usr y /var, puede decir que /usr son archivos instalados por el usuario que no cambian y /var son para archivos que sí cambian (spool, documentación formateada). Esto es para que pueda, por ejemplo, montar /usr en una red y tener varias computadoras que comparten el /usr/ "estático" y tener un /var local para archivos que son "dinámicos".
Citas de la Guía de administradores de sistemas Linux:http://tldp.org/LDP/sag/html/dir-tree-overview.html
Archivos de datos inalterables para programas y subsistemas, incluidos algunos archivos de configuración de todo el sitio. El nombre lib proviene de biblioteca; originalmente, las bibliotecas de subrutinas de programación se almacenaban en /usr/lib.
/usr/local
El lugar para el software instalado localmente y otros archivos. Las distribuciones no pueden instalar nada aquí. Está reservado únicamente para el uso del administrador local. De esta manera, puede estar absolutamente seguro de que ninguna actualización o actualización de su distribución sobrescribirá ningún software adicional que haya instalado localmente.
Archivos que cambian mientras el sistema funciona normalmente.
Puede leer más en http://tldp.org/LDP/sag/html/dir-tree-overview.html si hay otros directorios que desee conocer.