se ha un titolo fisso ti basta usare FindWindow per trovarne l'handle.
se torna zero=> non c'è

se il titolo NON è fisso (ad esempio perchè c'è dentro il nome del file aperto), devi ciclare su tutte le finestre,
partendo con una getwindow dell'handle della tua applicazione
corrente, con hwnd_first, poi ne prendi il titolo
(getwindowtext), e lo confronti come sottostringa con quello che ti interessa
(esempio: se con notepad apri il file pippo.txt la title diventa "pippo - Blocco note". Se cercassi - come nel primo esempio- "Blocco note" falliresti)