Aquí está la prueba correcta y portátil que no asume x86 ni nada más:
#include <stdint.h>
#if UINTPTR_MAX == 0xffffffff
/* 32-bit */
#elif UINTPTR_MAX == 0xffffffffffffffff
/* 64-bit */
#else
/* wtf */
#endif
Dado que etiquetó este "gcc", intente
#if __x86_64__
/* 64-bit */
#endif