ho provato ad adattare ciò che hai scritto con il mio script javascript, ecco:

var controllo = false;
var bottone = document.modulo.elements['nome[]'];
for(var i=0; i<bottone.length; i++) {
if(bottone[i].checked) {
controllo = true;
break;
}
}
if(!controllo) {
etc etc....
}

non va eppure la variabile bottone prende la forma giusta:

document.modulo.elements['nome[]'][0].checked
cosa sbaglio?