Rulo,
Primeramente deberías darnos un poco mas de informacion: Que version estas instalando, con que mecanismo (instalador automatizado o instalacion manual) en que sistema operativo.
También deberías indicar si estás tratando de ingresar desde otra PC o desde la misma donde se encuentra instalado el servidor.
Finalmente: estas usando el inicio mediante JavaWebStart o mediante el .exe o .sh ? (es decir, ingresas desde la pagina Web del servidor de aplicaciones o ejecutando el archivo libertya.exe o Libertya.sh en Linux)
Lo primero es verificar si el servidor efectivamente está funcionando: Abriendo la dirección del servidor en un Navegador, debería mostrar una pagina (por ejemplo: http://servidor_libertya)
Si eso funciona, entonces el servidor debe estar funcionando.
Saludos
Antonio.
