Premetto che non sono espertissimo di MatLab (l'ho usato un pochino all'università).

Comunque in generale dovresti verificare se MatLab mette a disposizione qualche libreria (qualcosa tipo MatLab SDK) a cui interfacciarsi.

Se esiste occorre linkarla al tuo programma C++ e utilizzarla come eventualmente specificato dal produttore.

Non puoi eseguire un file di matlab da C++ senza alcuna libreria che spieghi al compilatore come interpretarlo (il compilatore C++ conosce solo la sintassi del C++)