per il manuale per iniziare puoi scaricarti questo http://spazioinwind.libero.it/arcaonline/index.htm

per quanto riguarda la domanda puoi assegnare al form una funzione entro la quale apri la finestra:

es:
<head>
<script language="JavaScript">
<!--
function valida() {
window.open(.....);
if (x==condizione) return true;
else return false;

}
//-->
</script>
</head>

<form name="form1" action = "writebook.asp" method="post" onsubmit="return valida()">

quanto il modulo viene inviato viene richiamata la funzione valida() entro la quale fai quello che devi fare, poi imposti una condizione se questa è vera il modulo viene inviato altrimenti no, oppure imposti sempre a true.