codice:
if((vett=cerca(vettore,elem,n)==NULL))
Qui è l'errore. == viene eseguito per primo. A quel punto assegni a vett un booleano.

Comunque dovresti ottenere un warning in compilazione e in ogni caso bastava usassi il Debugger.