Tra compilatori diversi non c'è compatibilità binaria. E volte può non esserci compatibilità nemmeno tra due diverse release dello stesso compilatore.
In altre parole un .lib compilato con VC++ non è usabile da Borland o da g++.
Controlla se tra le utilities del compilatore c'è un programmino che effettua la conversione da .lib in .a (Borland lo ha.)
Ovviamente i due files dovranno risiedere nella stessa dir.