Personalizzare le finestre di dialogo standard di Windows, dette anche "Common Dialogs", è un'operazione che richiede una buona conoscenza delle funzioni API di Windows. Non so per quale motivo tu debba intercettare la pressione del tasto Ok nella finestra di dialogo, forse per eseguire un controllo sul file selezionato (???).
Potresti rimandare il controllo che devi fare alla chiusura della finestra di dialogo e riproporla nuovamente con il metodo Execute nel caso in cui la selezione non corrisponda alle tue esigenze.

Ciao!