Problema è capire quale sia "l'altro programma" che sta usando la foto...
Potrebbe essere la funzione di indicizzazione? Magari è attiva perché spesso fai ricerche di foto per catalogarle... Prova a disattivarla dal pannello di controllo, Opzioni di indicizzazione.

Se non funziona, in alternativa, prova la modifica in batch di più foto con IrfanView, salvandone una copia ruotata come ti serve in una cartella differente che avrai preventivamente creato apposta, e poi cancelli le foto storte... Non potrai andare più veloce di una cartella per volta, ma sempre meglio che girarle una per una...