En Ubuntu, lo que funcionó para mí fue instalar el paquete directamente desde la línea de comando:
sudo apt-get install r-cran-rgl
(Tenemos una configuración extraña aquí, así que YMMV)
En Ubuntu 16.04 y 18.04, es posible que tenga este problema al intentar instalar rgl de CRAN:
buscando X... no configurar:error:X11 no encontrado pero requerido, configuración abortada.
ERROR:la configuración falló para el paquete 'rgl'
El crédito se debe a este blog que resolvió mis problemas al instalar rgl :
http://solaimurugan.blogspot.ca/2015/09/3d-data-visualization-using-r-configure.html
En caso de que desaparezca el enlace anterior, la solución, como se describe en el blog, es:
sudo apt-get install xorg
sudo apt-get install libx11-dev
sudo apt-get install libglu1-mesa-dev
Más recientemente, la instalación de rgl en una instalación nueva de ubuntu 16.04 también requiere un paso más (como se indica en los comentarios a continuación), si recibe este error:
error fatal:ft2build.h:No existe tal archivo o directorio
Esto se resuelve con:
sudo apt-get install libfreetype6-dev
Luego instalando rgl de CRAN debería funcionar.
En CentOS, lo que finalmente funcionó fue instalar libpng-dev:
sudo yum install libpng-devel.x86_64
Antes de esto, instalé xorg, libx11, la biblioteca mesa GL y freeglut.
sudo yum install xorg-x11-server-Xvfb.x86_64 xorg-x11-server-devel.x86_64
sudo yum install libX11.x86_64 libX11-devel.x86_64
sudo yum install mesa-libGL mesa-libGL-devel mesa-libGLU mesa-libGLU-devel
sudo yum install freeglut.x86_64 freeglut-devel.x86_64
La forma en que finalmente descubrí lo que faltaba fue intentar compilar desde la fuente (descargar tar.gz en cran) y examinar el archivo config.log después de que ./configure falló.