se, come dici, in un caso non usi il doctype, innanzitutto il codice non può essere valido. Se vedi il layout con delle differenze tra con e senza doctype è perchè nel primo caso lasci che sia il browser ad "indovinare" le specifiche da applicare (cosa sbagliata). Il doctype ci va sempre, che poi alcuni browser (leggasi Explorer), facciano un po' a modo loro è un altro paio di maniche.