Ciao

riguardo il tuo codice:
1. non capisco perchè inizializzi arrays (mat e vet) che poi non usi.
2. alla linea cout<<"\n"<<vet[j][i]; usi la variabile j che esiste solo nel precedente ciclo for. Dovresti dichiararla all'inizio della funzione e poi inizializzala nel ciclo for in modo da poterla usare come fai ora.

Io farei così:
codice:
#include <iostream>
using namespace std;

void prodotto();

int main()
{
    prodotto();
    return 0;
}

void prodotto()
{
    for(int i=1;i<11;i++) {
        for(int j=1;j<11;j++) {
            cout << (j*i) << "\t";
        }
        cout << endl;
    }
}