JLabel label = new JLabel(new ImageIcon(getClass().getResource("logo.jpg")));
Sì, in questo modo conta solo il package della classe sul cui java.lang.Class associato invochi il getResource.
Quindi logo.jpg deve stare nella stessa cartella dove ci sarà il TuaClasse.class