Nel tuo manca la scritta html nella prima riga.
Ecco una pagina dove puoi trovare la sintassi del doctype.
http://www.w3schools.com/tags/tag_doctype.asp

Tieni presente che il DOCTYPE e` un'istruzione XML, ed e` quindi molto sensibile agli errori di sintassi.


Il validatore utilizza il doctype per orientarsi fra le varie grammatiche possibili della pagina.
Se non lo trova o se e` errato non riesce a proseguire.

Puo` essere che i browser lo capiscano lo stesso, oppure che interpretino la pagina in quirk mode, con l'errore del doctype.