Questa è una pagina di netbeans e il codice completo js è come quello già postato
con il termine dtd non capisco bene cosa tu intenda :master:
La pagina a cui questa linka è una semplice pagina con una scritta, ma non credo che questo, possa essere utile.

La stessa pagina qui postata ho provato a eseguirla anche senza l'ausilio di netbeans, ma il risultato non cambia. é come se non funzionasse il return false ma richiedesse qualcosa di più specifico...

<%@page contentType="text/html" pageEncoding="UTF-8"%>
<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"
"http://www.w3.org/TR/html4/loose.dtd">

<HTML>
<head>

<script language="JavaScript">
function check()
{
if (document.doc.nome.value.length==0)
{alert("Inserire il Nome");
document.doc.nome.focus();
return false;
}}
</script>

</head>
<BODY>
<FORM name=doc method=POST action="esempio.html" enctype="text/plain">
<INPUT type="text" name="nome">
<INPUT type="submit" name="" value="Button" onClick="check() ">
</FORM>

</BODY>
</HTML>