La formula della distanza che hai riportato usa la formula della retta ax+by+c=0, mentre la formula della retta che passa per due punti è:
(y - y1) / (y2 - y1) = (x - x1) / (x2 - x1)

Se trasformi quest'ultima formula nella forma ax+by+c=0 dovresti riuscire a calcolare a,b,c e quindi a calcolare la distanza.