Devi definirti un tuo Document personale e poi impostarlo sulla JTextField. Ad esempio:

codice:
import javax.swing.text.*;

public class JTextFieldStyle extends PlainDocument {
    private int limit;

    public JTextFieldStyle(int limit) {
        super();
        this.limit = limit;
    }


    public void insertString (int offset, String  str, AttributeSet attr) throws BadLocationException {
        if (str == null) return;

        if ((getLength() + str.length()) <= limit) {
            super.insertString(offset, str, attr);
        }
    }
}
e poi setti il Document del JTextField:

codice:
tuoJTextField.setDocument(new JTextFieldStyle(20));