Altrimenti, più semplicemente, potresti iniziare avendo il form con il bottone di submit e l'actio alla pagina

all'evento onsubmit verifichi la condizione per cui si dovrebbe bloccare. Se è vera apri la popup e metti un return false per non inviare il form