Il controllo commondialog (che altro non è che un'interfaccia alle API di windows) non ti apre il file che selezioni come vuoi tu.
Semplicemente ti ritorna il nome del file che l'utente ha selezionato nella property .FileName .
Se vuoi aprire un file .txt che l'utente ha scelto nel commondialog devi farlo via codice, ad esempio con l'istruzione shell o l'api shellexecute (se cerchi nel forum l'argomnto è stato adeguatamente trattato).