Il metodo ShowModal di un form è già in grado di fare questo.

Ti restituisce un valore di ritorno di tipo ModalResult che può valere mrOk, mrCancel, ecc.

Per restituire questi valori, all'interno del codice del form devi chiuderlo impostandone la proprietà ModalResult ad uno dei valori sopra riportati.

Se ti interessa ricevere altri tipi di valore, devi aggiungere al form modale personalizzato un metodo creato da te che richiami la ShowModal per visualizzare la form e restituisca il valore che desideri.

Ciao!