Non capisco perché la gente si ostini a scrivere programmi che salvano i dati nei posti sbagliati (e a richiedere privilegi di amministratore come workaround ); le impostazioni dell'utente non vanno salvate nella cartella Programmi, ma in %appdata%.
Nello specifico, puoi ottenere la cartella in questione tramite Environment.GetFolderPath(Environment.SpecialFolder.ApplicationData); in essa andrai a creare una sottocartella con il nome del tuo programma in cui andrai a mettere i file in questione.