Allora, seguimi attentamente:

1. Crea un file e chiamalo "new.html" e scrivi all'interno questo codice:

codice:
<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"
"http://www.w3.org/TR/html4/loose.dtd">
<html>
<head>
<title>New</title>
<meta http-equiv="Content-Type" content="text/html; charset=iso-8859-1">
</head>

<body>
<script src="pop.js"></script>
<div align="center">
  <form name="upload" enctype="multipart/form-data" method="post" action="">
     <input type="file" name="file">
     <a href="#" onClick="pop('popup.html','popup','300','300');">
<input type="submit" name="Submit" value="carica"></a>
</form>
</div>
</body>
</html>
2. Crea un file e chiamalo "popup.html" e scrivi all'interno questo codice:

codice:
<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"
"http://www.w3.org/TR/html4/loose.dtd">
<html>
<head>
<title>POPUP</title>
<meta http-equiv="Content-Type" content="text/html; charset=iso-8859-1">
</head>

<body>
FINESTRA POPUP 

</body>
</html>
3. Crea un file e chiamalo "pop.js" e scrivi all'interno questo codice:

codice:
function pop(url,name,height,width){
		     newpop=window.open(url,name,'toolbar=no,location=no,directories=no,status=no,menubar=no,scrollbars=no,resizable=no,width='+width+',height='+height);
           }
SPIEGAZIONI:

Il file "new.html" è quello dove c'è il form: premendo il pulsante "carica" si apre un popup con la pagina indicata nella funzione pop() [qui indicata con "popup.html"]; il file "pop.js" contiene la funzione Javascript per fare il tutto.

Il problema è risolto, basta modificare un pò di cose per adattarlo alle tue esigenze, ma non so se la pagina sarà ritenuta valida per l'HTML 4.01. Comunque funziona tutto, questo è l'imporatante.

Se non hai capito qualcosa, chiedi pure, intanto ti saluto:

ciao.