Beh, devi inserire il close dialog in base alle tue esigenze.

Se vuoi obbligare l'utente ad effettuare una scelta prima di chiudere la scheda lo inserirai nella funzione che gestirà le scelte.

Altrimenti un altro buon metodo è questo:
Codice PHP:
<div id="dialogBG" style="position:fixed; display: none; left: 0; top: 0; width: 1280px; height: 800px;" onclick="closeDialog();">

</div> 
Le dimensioni ovviamente dipendono dalle dimensioni del tuo sito, questo div lo piazzi sopra il div dialog.

Nella funzione per chiamare il dialog inserisci in alto l'istruzione:
Codice PHP:
document.getElementById("dialogBG").style.display = "block"; 
Così da avere un intero div senza sfondo (quindi trasparente) che copre tutta la pagina e sopra il tuo div del menu. Se l'utente clicca fuori dal div del menù il div di sfondo catturerà quel click che chiamerà la close dialog così modificata:
Codice PHP:
function closeDialog()
{
  document.getElementById("dialog").style.display = document.getElementById("dialogBG").style.display = "none";
}