Por lo general, es posible hacer rodar un sistema con Busybox; El sitio web de busybox detalla cómo hacerlo.
Un binario de busybox vinculado estáticamente requerirá solo un par de megas de memoria (por encima de lo que requiere el kernel, por supuesto). Pude iniciar e iniciar sesión en una máquina con 8M de RAM.
Sin embargo, es relativamente complicado hacer que funcionen todos los servicios del sistema que pueda necesitar, por lo que sería mejor usar una pequeña distribución existente.
¿Cuánto es "pequeña memoria"? ¿Estás en un sistema embebido realmente pequeño? A menos que tenga menos de 64 M o que su proceso necesite utilizar una gran cantidad de memoria RAM disponible (y no cambiar), recomendaría una distribución estándar mínima.
Editar:la herramienta "buildroot" es un complemento de Busybox que lo ayuda a construir sistemas de archivos utilizables muy pequeños.
Prueba TinyCore (o incluso MicroCore).
TinyCore tiene 10 MB (ISO) y MicroCore tiene 6 MB. TinyCore tiene X y una GUI mínima, mientras que MicroCore solo tiene modo de texto. Lo uso en una computadora portátil de 12 años con 199MHz y 32MB de RAM. Funciona perfecto, incluso con WLAN, etc.
TinyCore está hecho con capacidades de personalización en mente. Puedes bifurcar fácilmente tu propio dristro mínimo desde TinyCore. Para facilitar esto, incluso hay un tutorial de remasterización en el Wiki.
Podrías ir con Arch Linux, pero eso no cumple estrictamente con tu distribución "personalizada", creo.
Yo iría con Linux From Scratch. Eso no es realmente una distribución, sino más bien un sistema para construir su propia distribución. Creo que encontrará que tiene algo de "grasa" en su sistema cuando haya terminado, ya que tiene que compilar e instalar Tcl/Tk (o al menos solía hacerlo) y algunas otras cosas que no son estrictamente necesarias. , pero le permite ejecutar casos de prueba de forma semiautomática.