RStudio no tiene un corrector ortográfico mientras escribe; tendrá que invocar el corrector ortográfico manualmente. Para hacer esto, vaya al menú Editar y elija Revisar ortografía, o presione F7.
Tenga en cuenta que la revisión ortográfica no se realiza en los archivos de código, solo en los archivos de documentos (es decir, no obtendrá la revisión ortográfica en un archivo .R, pero sí en un archivo .Rmd).
Recientemente vi la revisión ortográfica en vivo y sobre la marcha en OSX v.1.3.118 y versiones posteriores, que se pueden descargar desde https://dailies.rstudio.com/