solitamente utilizzo le connessioni al db in pagine jsp o servlet e uso delle classi che permettono di gestire un connection pooling...questo solamente nel caso in cui ho bisogno di prestazioni estreme. In casi d'uso semplici conviene aprire una connessione e chiuderla non appena si è finito.
Consiglio sempre di crearsi una classe ad hoc per gestire le connessioni al db e non scrivere il codice per le connessioni direttamente nel codice dell'applicazione principale