esatto. Che errore ti da? Puoi controllare tramite la console del browser. Carica la pagina e prima di cliccare sul link premi f12, ti dovrebbe aprire la console, poi clicca sul link e vedi che ti dice la console.
non è che magari ho sbagliato io copiando il php che hai mostrato?
Edit:
in realtà non sono sicuro se ci siamo capiti in un punto: cliccando nel link si apre una nuova finestra che punta al sito da visitare, sotto rimane la finestra che contiene il link che hai cliccato. Quando chiuderai la finestra (o se cambiassi indirizzo ad esempio) del sito visitato, la vecchia pagina ti mostrerà il confirm con il messaggio di conferma, cliccando su si andrai alla pagina per cancellare (volendo si può aprire una nuova finestra o fare una chiamata ajax per rimanere nella stessa ma chiamare la pagina per cancellare in background). Se rispondi no tutto è come prima che cliccassi.