Innanzitutto le pagine del sito dove l'utente immette dati sensibili devono essere in modalità SSL perché altrimenti non hai risolto un gran ché se i dati sensibili li fai viaggiare in chiaro e, quindi, potenzialmente qualche male intenzionato potrebbe facilmente prelevarli.

Innanzitutto, quindi, è importante proteggere l'accesso via web. Mi spiego, puoi anche salvare i dati nel DB usando RSA ma se qualcuno riesce ad accedere via web alle pagine riservate del sito allora il sistema lo riconosce come utente loggato e, quindi, può tranquillamente accedere ai dati personali.

Per la chiave RSA la puoi memorizzare in un file da non mettere nella document root ma in un percorso non raggiungibile neanche tramite ftp. Mi spiego. Supponiamo che con lo ftp puoi accedere alla cartella C:\Program....\Apache...............\htdocs

Se ad esempio da ftp non è possibile accedere a C:\ allora qui puoi creare una tua cartella con il file delle password.

Per il DB, poi, ti consiglio di creare un utente che abbia accesso solo al DB che tu usi, perché se la connessione al DB la fai con utente Amministratore e ti fregano l'accesso allora possono accedere all'intero archivio e fare quello che vogliono. Se, invece, crei ad es. l'utente user_prova e gli dai i permessi di accedere solo ad 1 DB, male che vada ti prendono solo i dati del tuo DB.
Inoltre così ti assicuri che solo l'utente che tu hai creato può accedere a quel DB, limitando così l'accesso. Se, poi, accedi al DB sempre e solo ad una macchina puoi legare l'accesso al DB anche all'IP della macchina.