cicli per le option della select verificando che il text di quell' option non sia uguale a quello da aggiungere
codice:
var sel=document.nomeForm.nomeSelect;
var newText=document.nomeForm.nomeCampoTestoNuovaOption.value;
var found=false;
for(var k=0,l=sel.options.length;k<l;++k){
  if(sel.options[k].text==newText) found=true;
}
if(!found){...fai quello che devi fare...}
else {
  alert("option gia' presente");
  // se vuoi esci dalla funzione con ¬
  return
}
ciao