dipende da quanto strutturati e complessi sono i dati che hai bisogno di salvare. La vera comodita' di un database e' quella di poter eseguire query in sql, che sono uno strumento molto potente.
Sicuramente non ci sara' mai paragone tra la velocita' di esecuzione di una query, e quella di apertura/lettura/chiusura di un file. Pero', nel caso tu ti trovi a gestire poche informazioni e non particolarmente complesse, questa differenza potrebbe non essere cosi' rilevante in termini di usabilita' dell'applicazione.
Per il problema dell'installazione: sono sicuro che puoi "includere" (embed) alcuni databases (quelli sviluppati in java) direttamente all'interno della tua applicazione, senza bisogno di installare niente per l'utente finale, in quanto e' sufficiente il solo deploy della tua applicazione. Se sei interessato ad un approccio del genere, prova a visitare il sito di HSQLDB (http://hsqldb.org), o a cercare qualche tutorial in rete. Oppure se vuoi divertirti prova a visitare http://www.db4o.org, e' la homepage di un database non relazionale bensi' "ad oggetti".. quello si embedda di sicuro perche' l'ho provato diverso tempo fa

In conclusione: potendo, per qualsiasi applicazione richieda di gestire persistenza dei dati in maniera sufficientemente "seria", userei un database tutta la vita.