prova così:

codice:
function controllo () {

   var checkbox = document.getElementsByName('listChannell');
   var checks = 0;
   for (i=0;i<checkbox.length;i++) {
      if (checkbox[i].checked == true ) {
          checks++;
      }
   }
   if (checks = 0) {
           alert("errore!");
   }
}