Su che sistema?
Io sul mio Win XP con Netbeans ho semplicemente scompattato il tutto in una cartella, fatto una nuova Libreria, scelto quella cartella, e quando mi servono le rxtx la includo nel progetto. Ricordati che devi dare le dll a chi passi l'applicazione. E se non fai la libreria, anche il file jar.
Ma ripeto. Dipende dal sistema.