Che dimensione ha la immagine? Nella traybar le icone sono tipicamente 16x16. Per default il framework non scala la immagine (se vuoi che lo faccia devi usare setImageAutoSize(true) di TrayIcon).
Quindi per default se usi una immagine es. 32x32 e le trayicon sono solo 16x16, tu vedi solo il rettangolo 16x16 in alto a sinistra della immagine.