puoi usare il provider crittografico di Sun(poco vasto) o meglio ancora il bouncy castle.
Per rendere sicuro un canale o usi SSL(java ha una libreria per questo, trovi tutto sul sito di sun) o usi un key agreement.

Cerca info su queste tecniche magari domani butto giù qualche riga di codice e altri sistemi per rendere sicuro un canale chat :checaldo: