codice:
.....
if (password != rpassword) {
$( "#dialog" ).html('Le password non coincidono').dialog( "open" );
return false;
}
if (ValidateEmail() == false){
$( "#dialog" ).html('Email inserita non valida').dialog( "open" );
return false;
}
....
nel body avrai la dialog oltre ad avere css jquery e jquery-ui nella head
<div id="dialog" title="Dialog Title">Testo iniziale</div>
Se non funziona lascia perdere bisognerebbe fare altri tentativi e non mi sembra che tu ne abbia le capacità