la classe dpoint non è conosciuta all'esterno e quindi non puoi ritornarla da una dll esterna.. metti al suo posto un Object e poi fai il cast

codice:
public Object SCoordinates(double x, double y)
{
         DPoint dptScreen = new DPoint(-2, -2);
         try
            ..... // ecc ecc

         return dptScreen;
}

e la chiami così:

DPoint tmp = (DPoint)SCoordinates(primoDouble, secondoDouble);