Inanziutto sarebbe bene specificare che versione di glassfish stai utilizzando.
Seconda cosa senza vedere un stralcio di configurazione è un pò impossibile darti consigli.
Comunque elenco le principali cause per il quale l'autenticazione non funziona:

Hai configurato il jdbcRealm?
Hai verificato che il pool di connessioni definito nel realm funzioni correttamente ?
Hai provato ad abilitare i log verbosi della sicurezza per verificare cos'è che va storto ?