No... lui intende <?php ?>

Ma non ha ben chiaro molti concetti...
1. L'Hosting Windows che hai scelto di sicuro interpreta ASP e non PHP...
2. Non è il Browser ad interpretare tale Tag, bensì il WebServer (dato che è un lavoro Lato Server) che traduce il codice e lo interpreta, il Browser prende in esame solo il codice HTML
3. Per far leggere al WebServer, Apache, il Tag PHP in un file HTML c'è da creare appunto un .htaccess