Dipende molto da cosa vuoi fare e dalla tecnologia che vuoi adottare.
Secondo me potresti iniziare studiandoti qualche architettura MVC (io consiglio jakarta-struts), tld jsp... e per qualche tempo dovresti essere impegnato

Per quanto riguarda i progetti...
prima di affrontare a testa bassa quello che è il tuo progetto web cerca di disegnare quelli che sono gli strati applicativi...
Probabilmente ti sarebbe utile partire con un semplice progetto per connettori e connessioni verso db. Strutturare le classi in modo da rendere indipendenti le connessioni verso db diversi, modalità di connessione interfacce standard per il recupero dei dati ecc...
Una volta completato ed esportato come jar dovresti solo utilizzarlo nei progetti futuri.
Stessa cosa per i servizi. Avere interfacce che forniscono i servizi necessari ti permette di usare tecnologie diverse riutilizzando il codice. EJB, WS ... semplicemente utilizzeranno questi servizi.

abbastanza chiaro?
Ciao.