Descubrí la respuesta a mi propia pregunta, gracias a la ayuda de womble (envíe una respuesta si lo desea).
lsof -s muestra los identificadores de archivo en uso y resulta que había varios gigabytes de archivos de registro de mmap ocupando el caché.
Implementar un logrotate debería resolver el problema por completo y permitirme aprovechar más memoria.
También volveré a habilitar el intercambio para que no tengamos problemas con el asesino OOM en el futuro. Gracias.