La "home" dell'utente si rintraccia dalla System property "user.home". Poi sotto la home è tipico (per convenzione un po' presa in prestito dagli Unix-like) avere directory nella forma es. .nomeapp (nota il punto iniziale) e sotto questa è tutto a discrezione della applicazione.
Guarda nella home del tuo utente, vedrai sicuramente qualcosa di simile già presente.
Presumendo struttura "Maven", sotto src/main/resources direttamente qui o sotto-cartella. Tutto ciò che c'è sotto la resources è "in classpath" e finirebbe poi impacchettato in un jar.
Poi tramite il principio delle risorse con getResourceAsStream di Class, ottieni un InputStream e copi l'intero stream sul file nella locazione scelta.