Ho controllato lo standard RS-232 e da quanto vedo sul connettore DB9 al pin 4 corrisponde il segnale DTR (Data Terminal Ready), che non saprei proprio come attivare da VB.NET (dovrebbe occuparsene il sistema, visto che si tratta di un segnale inerente il livello più "basso" della comunicazione). Secondo me ti converrebbe usare un UART per convertire i segnali della seriale in una serie di segnali paralleli e usare quindi uno di questi segnali per controllare il relè. A questo punto sarebbe molto semplice inviare i segnali da VB.NET, semplicemente inviando degli specifici byte alla porta seriale.
---EDIT---
Però se si tratta di aprire solo un cancelletto (per cui basta che prima o poi si apra, e non importa se il relè si aziona più volte) forse basterebbe collegare il pin TD (attraverso ovviamente un transistor) al relè e inviare sequenze di byte come 00 00 00 00 FF FF FF FF per accendere e spegnere rapidamente il relè.