prova così:

codice:
function controllo(f) {
 var elems=f.elements["figura[]"];
  for (var i=0; i<elems.length; i++)
   if (elems[i].selected) return true;
  alert("Selezionare almeno un checkbox!");
  return false;
}
da avviare così:

codice:
<form name="nomeform" onsubmit="return controllo(this);">
ciao