Credo si un problema di compilazione per esempio hai creato la dll a 64bit e la stai usando in un'applicazione c# a 32 bit.
Prova a compilare l'app c# con "anycpu"