codice:
function chech_upper(tt) {
  var str = tt.substr(tt.length-10);
  if(str.length > 5 && str.toUpperCase() == str) {
    alert("attenzione stai scrivendo tutto maiuscolo");
    return false;
  }
  retrurn true;
}
Questa funzione puoi applicarla a campi tipo text, textarea, e sim. (non a radio, checkbox, select), ad esempio in questo modo:
<input ... onkeyup="chech_upper(this.value);">