Non puoi utilizzare una JTextArea, ma devi utilizzare dei componenti più complessi: vedi JTextPane e JEditorPane.
Entrambi utilizzando il Document Model View per il trattamento dei testi e degli altri elementi.

Link:
JTextPane
JEditorPane
StyledDocument

Ciao.