il nome del form deve essere diverso da "form" e anche il nome della checkbox dovrebbe essere diverso da "checkbox"
codice:
if(document.NomeForm.ODMMX.value!='Nessuno' && !document.NomeForm.NomeCheckbox.checked){
  alert('Checkbox è obbligatorio se selezioni ODMMX')
  return false;
}else return true