C'è Rlabplus, un clone di MathLab.

Ci sono anche vofce e XPlot, che forse fanno al caso tuo.