No, il database non ti serve, puoi mettere in comunicazione i browsers delle persone coinvolte nella discussione (passando comunque per il server).
Io feci un progetto in J2EE e realizzai la chat in AJAX senza l'uso del database.