Necesitariamos el log de la instalacion para ver que tipo de errores surgen.
Lo 1ero es revisar la configuración del Postgres. Decis que ya lo tenías instalado, pero lo tenías instalado con soporte de PLJava ? Si no es así, deberás hacerlo manualmente antes de comenzar la instalación de Libertya.
Saludos
Antonio