di che tipo di applicazione si tratta? che protocollo usa per comunicare sulla rete? HTTP? un protocollo proprietario?
Perchè pensi che un reverse proxy possa esserti d'aiuto? In genere i proxy parlano protocolli specifici...
Se vuoi chiudere delle porte devi usare un firewall, che in genere opera a livello più basso.
La possibilità di intrusione attraverso una porta aperta dietro la quale giri un servizio sta tutta nella sicurezza dell'applicazione che fornisce il servizio. Se l'applicazione è vulnerabile, nella maggior parte dei casi non c'è nulla di esterno che possa evitare una intrusione. Esistono moduli proxy che cercano bloccare tentativi di attacco comuni ma si applicano ovviamente a specifici protocolli (es Sql injection, XSS etc... per HTTP)