ho scritto il seguente codice.
La barra verticale mi compare.
Ti ho messo anche la descrizione della tabella.
Dimmi se è anche solo lontanamente quello che volevi.

codice:
import javax.swing.BoxLayout;
import javax.swing.JFrame;
import javax.swing.JLabel;
import javax.swing.JPanel;
import javax.swing.JScrollPane;
import javax.swing.JSplitPane;
import javax.swing.JTable;
import javax.swing.JTextArea;

public class Tabelle extends JPanel {

    private JScrollPane jsp1, jsp2;
    private JLabel j1;
    private JTable t1, t2;

    public Tabelle() {
        //setLayout(null);
        setLayout(new BoxLayout(this, BoxLayout.Y_AXIS));

        String[] columnNames = { "First Name", "Last Name", "Sport", "# of Years", "Vegetarian" };

        Object[][] data = { { "Mary", "Campione", "Snowboarding", new Integer(5), new Boolean(false) },
                { "Alison", "Huml", "Rowing", new Integer(3), new Boolean(true) },
                { "Kathy", "Walrath", "Knitting", new Integer(2), new Boolean(false) },
                { "Sharon", "Zakhour", "Speed reading", new Integer(20), new Boolean(true) },
                { "Philip", "Milne", "Pool", new Integer(10), new Boolean(false) } };

        t1 = new JTable(data, columnNames);
        t2 = new JTable(data, columnNames);

        jsp1 = new JScrollPane(t1);
        jsp2 = new JScrollPane(t2);

        j1 = new JLabel("Descrizione prima tabella");
        
        add(j1);
        add(jsp1);
        add(jsp2);

    }

    public static void main(String[] args) {
        //      Nella classe principale
        JScrollPane jsp = new JScrollPane(new Tabelle());
        JTextArea jta = new JTextArea("\n\n\n\n");
        JSplitPane split = new JSplitPane(JSplitPane.VERTICAL_SPLIT, jta, jsp);
        JFrame frame = new JFrame();
        frame.getContentPane().add(split);
        frame.setSize(600, 400);
        frame.setVisible(true);
    }
}