il documento in un iframe "parla" dell' oggetto window che contiene l' iframe (chiamiamola principale) come del suo parent.
Se nella principale questo
codice:
$('#contacts_confirmSendMessage_dialog').dialog('open');
funzionasse, dal documento in iframe (che dalla descrizione viene sicuramente caricato in un momento successivo)
codice:
parent.$('#contacts_confirmSendMessage_dialog').dialog('open');
dovrebbe funzionare

un motivo per cui non funzioni e' che i due documenti risiedano su domini diversi, javascript non potrebbe in questo caso permettere l' interazione tra essi

se non e' questo il caso e vuoi che vi si dia un' occhiata lascia un link alla pagina online
ciao