hai messo come nome del campo per il numero "num" e nello script poi usi "nnum"

comunque ti consiglio di chiamare la funzione di check sull'onsubmit del form e non sull'onclick del pulsante, perchè per come hai fatto la funzione adesso fa l'alert dell'errore ma poi submitta lo stesso, se invece la metti nell'onsubmit se fai un return false blocca il submit