Il fatto è che l'altezza delle tabella non avrebbe ragione di esistere. Una tabella non dovrebbe poter avere un'altezza impostabile dall'elemento <table>, ma dovrebbe essere alta quanto la somma delle altezze delle sue righe. Se tu elimini la dichiarazione della DTD, il browser utilizza una DTD detta "compatibile" (se non erro simile alla HTML 3.0 Final). Usando la DTD XHTML 1.0 Transitional invece, non stai più scrivendo in HTML, ma in XHTML. Le DTD servono proprio a dire al browser "come" interpretare i vari tag. Ad es., se usi una DTD XHTML 1.1 noterai che gli "spazi" che il browser aggiunge prima e dopo gli elmenti come

e <form> sono diversi da quelli che aggiunge usando una DTD XHTML 1.0 Transitional. In definitiva, se scrivi in XHTML, ti consiglierei di evitare di impazzire su tutti i problemi che derivano dall'uso di tabelle (per giunta non corrette) nella struttura del documento. In rete ci sono tantissimi tutorial su XHTML e CSS...se studi quelli riesci a realizzare un sito più leggero, standard e corretto dal punto di vista semantico, oltre a non dover più dipendere dalle tabelle per la presentazione dei contenuti. Inizia a usare l'XHTML (ti consiglio con DTD 1.0 Strict) e i CSS e vedrai quanto è più semplice e soprattutto coerente con gli standard web di oggi (e di domani).