Mi pare che sia Matlab che Mathematica forniscano delle API di comunicazione per i maggiori linguaggi di programmazione, java incluso. Guarda nella documentazione di Matlab per maggiori informazioni.