Ci deve essere una funzione in javascript che ogni tot secondi controlla sul database che non ci siano nuovi messaggi.
Se ci sono allora avverte l'utente che c'è un nuovo messaggio e, quando l'utente clicca su OK, si aggiorna un campo del messaggio, magari boleano, che disattiva la notifica.
Per aprire la pagina vera e propria.... sempre javascript.