codice:
function controllo(f) {
 if (!f.nomecheckbox.checked) {
  alert("Selezionare il checkbox.");
  return false;
 }
 return true;
}
da avviare così:

codice:
<form name="mioform" onsubmit="return controllo(this);">
ciao