Quello e` l'errore di sintassi (che non avevo notato).

Per fare quello che vuoi, devi passare al JS il campo su cui stai operando:
codice:
<input name="mod_flgimmagine" type="checkbox" id="mod_flgimmagine" onChange="ControllaCheck(this)" />
<input name="del_flgimmagine" type="checkbox" id="del_flgimmagine" onChange="ControllaCheck(this)" /></td>
Poi il JS deve modificare solo l'altro campo, se (solo se) il primo e` settato:
codice:
function ControllaCheck(ogg) {
  if(!ogg.checked) return; // se campo non settato, fa nulla
  switch(ogg.name) {
    case 'mod_flgimmagine':
      document.getElementById('del_flgimmagine').checked = false;
      break;
    case 'del_flgimmagine':
      document.getElementById('mod_flgimmagine').checked = false;
      break;
  }
}

In alternativa, puoi fare tutto nel codice HTML:
codice:
<input name="mod_flgimmagine" type="checkbox" id="mod_flgimmagine" onChange="if(this.checked)this.form.del_flgimmagine.checked=false;" />
<input name="del_flgimmagine" type="checkbox" id="del_flgimmagine" onChange="if(this.checked)this.form.mod_flgimmagine.checked=false;" /></td>