c'è una normativa che impone l'utilizzo del doctype strict a determinate tipologie di sito, vedi ad esempio quelli delle pubbliche amministrazioni. Questo per garantire la massima accessibilità del sito stesso.
Ma, per i siti che potrebbero non utilizzare lo strict, l'utilizzo del transitional può permettere l'utilizzo di determinati tag non ammessi invece nello strict.

Per quanto riguarda invece il discorso xhtml piuttosto che html, di cui si è già parlato abbondantemente in altri 3d, se il sito è solo text/html si potrebbe benissimo usare html. anche con html puoi separare completamente la presentazione dai contenuti, e anche se è meno restrittivo di xhtml sulla sintassi, nulla ti vieta ad esempio, di annidare i tag correttamente anche con html.

Cyà