E` una cosa strana un radio da solo.
Comunque se c'e` un solo oggetto con lo stesso nome, non forma una collezione, quindi non viene piu` indirizzato con un vettore. Occorre quindi controllare prima se e` una collezione e/o se il campo e` checked:
codice:
function Canc_Cat(){
  var sel = false;
  if(document.cataloghi.r_catalogo.checked) sel = true;
  else for (var i=0; i<document.cataloghi.r_catalogo.length; i++){
    if (document.cataloghi.r_catalogo[i].checked){
      sel = true;
      break;
    }
  }
  if (sel){ ...