leggi il value del campo di upload, poi confronta questo valore con una espressione regolare ed allerta eventualmente l'utente.

Ecco un esempio ( mi fermo alle espressioni regolare....non vado forte! )

---------------------------------------------------------------------
<form name='form'>

<input type='file' name='miocampoupload'>
<input type='button' onClick='salva()'

</form>
---------------------------------------------------------------------

Ed ecco la funzione salva() da definire nel tag <script> della stessa pagina

---------------------------------------------------------------------
function salva()
{
if( document.form.miocampoupload.value CONTIENE CARATTERI SOSPETTI )
{
alert( 'Attenzione al nome del file' );
return false;
}

document.form.submit();
}
---------------------------------------------------------------------