Allora, dentro If rs.HasRows Then metti l'istruzione per generare l'errore throw new exception("blabla")

Il codice va subito dentro il blocco Catch impedendo l'inserimento del record.
Viene garantita la chiusura della connessione perchè sei dentro il blocco using.

Dentro il blocco Catch metti il codice per mostrare all'utente il messaggio.

e.cancel=true non serve (credo )

comunque, PROVA e fai sapere