agrega shebang al guión
#!/bin/bash
sudo java -jar "/home/ubuntu/FirstWebAppWithoutDB.jar"
y permiso de ejecución
chmod +x spring-start.sh
Tu spring-start.sh es ejecutado por bash necesita explicitar su ExecStart en springboot.service archivo como este:ExecStart=/bin/bash /home/ubuntu/spring-start.sh