penso che derby ragioni come sqlite più o meno.
ma quest'ultimo dovrebbe essere più leggero ancora.
ogni db è un fille.
quindi portatile nel senso che basta che ti porti appresso il file con l'applicazione (stando ovviamente attento ai percorsi, ma se lo metti nella stessa directory del jar eseguibile stai a posto).
io mi ci sono trovato bene con sqlite.
ci ho sviluppato tutta un'applicazione per desktop!