Sicuramente c'e` un errore nella chiamata, che dovrebbe essere:
<form ... onSubmit="return checkForm(this,N)">
dove N e` un valore numerico.

Il resto del codice nonlo ho analizzato