Non vorrei dire sciocchezze, sono anni che non uso Java.

Non potresti usare il metodo getDoctype() della classe Document? Ti restituisce un oggetto che ha tutte le informazioni che ti interessano, da lì ricavi il nome della dtd e lo setti nel serializzatore.

Il riferimento nelle API (devi sforzarti di usarla anche se è in inglese)

http://java.sun.com/j2se/1.4.2/docs/.../Document.html