Allora:

codice:
function calc = rettangolo (l1, l2)
    k=1;
    inp1= menu('vuoi calcolare l area??','si','no'); 
    if (inp1==1) 
        calc(k) = l1*l2; 
        k=k+1;
    end 
    inp2 = menu('vuoi calcolare perimetro?','si','no');
    if (inp2 == 1) 
        calk(k) =(l1+l2)*2;
        k=k+1;
    end 
    inp3=menu ('vuoi calcolare diagonale?', 'si','no'); 
    if (inp3==1)
         calc(k) = (l1^2+l2^2)^0.5;
    end
end
E poi capisci quanti valori sono stati calcolati dalla lunghezza dell' array ritornato.

PS:Ricordati sempre di indentare il codice, per chiarezza.