Prova a mettere la chiamata alla funzione popupWindow sull'onClick del Bottone che non sarà + Submit ma Button e, solo se tutti i controlli vanno a buon fine, fai il submit da script del Form.
<!--
function popupwindow() {
if (document.form.email.value == "")
{
alert("Inserisci un indirizzo email")
return false;
}
if ((document.form.email.value.indexOf("@") == -1 ) && (document.form.email.value !== "")) {
alert("Indirizzo e-mail non valido !")
return false;
}
var r;
r=window.open("nuova_email.asp","nuova"," height=420,width=400,left=100,top=200,scrollbars=0 ");
r.focus();
document.form.submit();
}
//-->