codice:
function contacheckbox(ff) {       // ff contiene il valore dell'attributo id del form
  var inpt = document.getElementById(ff).getElementsByTagName('input');
  var conto=0;
  for(var i=0; i<inpt.length; i++) {
    if(inpt[i].type == 'checkbox') conto++;
  }
  alert("ci sono "+conto+" checkbox");
}
Nota che in questo caso si contano tutti i checkbox, non solo quelli selezionati