Anche io uso AspJpeg per modificare le foto e sono riuscito a farlo funzionare.

Utilizzo un codice simile al primo metodo che hai proposto, ossia ho una pagina separata che elabora i dati che gli mando e restituisce il codice binario della foto.

Prova a cambiare il codice della pagina sendbinary.asp in questo modo:

<%
Response.Expires = 0
Set Jpeg = Server.CreateObject("Persits.Jpeg")
file = server.MapPath(request.QueryString("path"))
Jpeg.Open file
Jpeg.Width = Request.QueryString("Width")
Jpeg.Height = Jpeg.OriginalHeight * Jpeg.Width / Jpeg.OriginalWidth
Jpeg.SendBinary
%>

Prova così, dovrebbe funzionare

ciao