se posso consigliarti:

codice:
<select id="enabledisable" multiple="multiple" disabled="disabled">
...
</select>
<input id="group" type="checkbox" onClick="enabledisableCheck(this)" />
codice:
function enabledisableCheck(elem) { 
   if(elem.checked) {
      document.getElementById('enabledisable').removeAttribute("disabled"); 
   } 	
   else { 
      document.getElementById('enabledisable').setAttribute("disabled", "true");
   }
};
Non chiamare mai una funzione con lo stesso valore che hai dato ad un altro campo (id, name o qualunque cosa).
Per il resto, è più pratico passare l'elemento con this nell'onclick, ed il disabled se messo a false, sua alcuni browser viene interpretato come disabilitato.