fatto, stesso problema.
se io chiamo newfunction al posto di editfunction la modal si apre, quindi credo sia un problema javascript, o del dato che passo alla function

sto provando così:
codice:
function editfunction(obj) {
            var url = "editPhotoGalleryImage.aspx?id=" + obj;
            alert(url);
            /*
            var dialog = $('<iframe src="' + url + '" frameborder="0"></iframe>').appendTo('body');
            dialog.dialog({ modal: true, minHeight: 570, minWidth: 400, show: "blind",
                hide: "explode", open: function (type, data) { $(this).parent().appendTo("form"); },
                close: function (event, ui) { window.location.reload(); }
            });
            */
            return false;            
        };
...
<asp:ImageButton ID="ImageButton1" ImageUrl="images/edit.gif" CausesValidation="false" onClientClick='editfunction(<%#Eval("idphotoimage")%> );return false;' runat="server" />
non mi appare l'alert e la pagina va in postback. la cosa assurda è che se provo a chiamare la function così:
codice:
);' >edit
la modal si apre.
credo sia un problema legato a come passo la variabile ma non vedo problemi in quello che ho scritto.