lato frontend (dove l'utente visualizza la chat e digita i messaggi) usi javascript/websocket con la piattaforma js che piu preferisci (se ne hai bisogno, oppure jquery solo). Tendenzialmente, tutta la chat la puoi mettere tranquillamente fuori dal contesto jsp perchè sarebbe una "semplice" applicazione html5. Lato java devi prepare il socket server e tutta la logica di gestione dei client e della chat, inviando e ricevendo messaggi sulle connessioni socket dei client. Oppure installare un server xmpp per la chat e configurare quello. Dipende.