I radio sono delle collezioni (piu` oggetti con lo stesso nome).

Quindi devi testarli con le matrici. Esempio:

if(!document.invio.sesso[0].checked && !document.invio.sesso[1].checked){
sesso="Selezionare il sesso"; // ???
}