Per la trasparenza devi usare un overload del costruttore Color

new Color(valore,true)

In questo modo i bit da 24 a 31 sono per la trasparenza (in sostanza un valore da 0 [massima trasparenza] a 255 [massima opacita]) mentre gli altri bit sono la consueta tripletta RGB

Prova questo codice e guarda l'effetto ottenuto:

codice:
import java.awt.Color;
import java.awt.FlowLayout;
import javax.swing.BorderFactory;
import javax.swing.JEditorPane;
import javax.swing.JFrame;
import javax.swing.JPanel;
import javax.swing.JTextField;
import javax.swing.JTextPane;

public class TestHEXColor {
	public static void main(String[] args) {
		JFrame form=new JFrame();
		form.setSize(500,500);
		form.getContentPane().setLayout(null);
		
		//pannello NERO con trasparenza FF -> massima, cioè completamente opaco 
		JPanel panel1=new JPanel();
		panel1.setBounds(0,0,300,300);
		panel1.setBackground(new Color(0xFF000000,true));
        
		//pannello BLU con trasparenza 7F -> 127  cioè metà trasparente
		JPanel panel2=new JPanel();
		panel2.setBounds(130,130,300,300);
		panel2.setBackground(new Color(0xAA123456,true));
		
		//Sovrappongo i pannelli per vedere il risultato
		form.getContentPane().add(panel2);
		form.getContentPane().add(panel1);
		
		form.show();
	}
}