Premetto che di PHP non ne capisco molto, anzi sono ignorantissimo. Non credo però che il problema sia nel codice PHP, quello viene restituito dal server e mi sembra strano che sul PC, dal momento che si tratta di un file jpg (presumo sia un'immagine) ti chieda di salvarlo, dovrebbe aprirlo direttamente.

Se ho capito bene nella popup non si apre l'immagine, ma c'è il link per il downolad, giusto?
Per ovviare aggiungerei al link del download un target="_blank" in modo che il download si apra in un'altra pagina, oppure, se vuoi che si apra la finestra "Apri o salva" ti conviene zippare tutti i file, così vai sul sicuro, te lo deve chiedere per forza se aprire o salvare.


Spero di essere stato d'aiuto