La funzione conteggio è sbagliata perché

1) non deve utilizzare mat come argomento (a cosa le serve?)

2) deve restituire i valori di righe e colonne e non lo fa. Deve passare righe e colonne per puntatore

(int *righe, int *colonne)

chiamarla con i puntatori

conteggio(&righe, &colonne)

che dovrà utilizzare al suo interno per modificare le variabili puntate.