Il problema è propio il framework. Devi crerare il tuo progetto con lo stesso framework del server. Molto probabilmente il tuo server gira sul framework 3.5.
Se è così allora riapri il progetto che non funziona ( che immagino sia stato fatto con visual studio 2010 su framework 4.0) e imposta il progetto per essere compilato con il framework 3.5.
Poi ovviamente devi fare di nuovo il deploy sul server cancellano prima quello che hai già installato ( ovviamente ).
Se non ti funziona così allora dovresti installare la versione 3.5 dell'ajaxtoolkit.
Comunque prova a fare come ti ho detto prima. Poi se hai problemi fammi sapere.