Beh, se vuoi usare, ad esempio, SQLite come database, una parte di lavoro è fatta già perchè ti basta portare con te un semplice file.

Per quanto riguarda Java, puoi dare un'occhiata qui.
Essendo tu su NetBeans, per aggiungere la libreria di cui parlo nell'articolo, fai tasto destro su "Libraries", nella vista del progetto. Aggiungi il file jar che hai scaricato.
Poi clicca su Run -> Build Main Project. Nella cartella del progetto (dipende da dove l'hai sistemata tu) troverai una directory dist, contenente anche la libreria che hai aggiunto (necessaria).
Copia e incolla quella directory nel sistema che preferisci.
Se qui c'è installata la jvm, da console dai "java -jar il file jar dell'applicazione" e l'applicazione dovrebbe avviarsi tranquillamente.

Per quanto riguarda il C++, avrai bisogno delle API di SQLite scaricabili dal sito e delle librerie da collegare dinamicamente quando esegui.
Ovviamente se passi da Windows a Linux, avrai bisogno di ricompilare (step assente in Java, essendoci la jvm).