El equivalente adecuado de tinycore es tce-load http://wiki.tinycorelinux.net/wiki:package_management_cheat_sheet
Probablemente podría compilar dpkg/apt en TinyCore, pero luego tendría que empaquetar cosas por su cuenta.
Pero realmente, estás optimizando lo incorrecto aquí. Los principales factores que definen el uso de la memoria son las aplicaciones que utiliza; probablemente podría hacerlo con Debian + un administrador de ventanas mínimo (por ejemplo, Openbox). Debe ser lo suficientemente ligero.
Prueba tce-load -wi gcc.tcz para instalar gcc. tce-load es el administrador de paquetes y wi significa descargar e instalar. Eche un vistazo a la lista de paquetes disponibles en el repositorio de TCZ.