Tre suggerimenti:

Imposta il campo DCBlength della struttura myDCB prima di chiamare la GetCommState.

Imposta anche altri campi del DCB, alcuni sono molto importanti (http://msdn.microsoft.com/en-us/libr...(v=vs.85).aspx).

Controlla il valore di ritorno di tutte le funzioni che chiami, non solo della CreateFile, e verifica eventuali errori.