Terminé descubriendo que necesito usar export para establecer mis variables de entorno. Así que en mi .zshrc Agregué:
PKG_CONFIG_PATH=/usr/local/lib64/pkgconfig:/usr/lib64/pkgconfig:/usr/local/lib/pkgconfig; export PKG_CONFIG_PATH
Ahora ./configure encuentra la biblioteca correcta.