En Linux puedes ejecutar $(dirname $(dirname $(readlink -f $(which javac))))
En Mac puedes ejecutar $(dirname $(readlink $(which javac)))/java_home
No estoy seguro acerca de Windows pero me imagino where javac te acercaría bastante
echo $JAVA_HOME imprimirá el valor si está establecido. Sin embargo, si no lo configuró manualmente en sus scripts de inicio, probablemente no esté configurado.
Si intenta which java y no encuentra nada, es posible que Java no esté instalado en su máquina, o al menos no esté en su camino. Según la distribución de Linux que tenga y si tiene o no acceso de raíz, puede ir a http://www.java.com para descargar la versión que necesita. Luego, puede configurar JAVA_HOME para que apunte a este directorio. Recuerde que esto es solo una convención y no debe usarse para determinar si Java está instalado o no.