Andrebbero nella lib eventualmente, ma è un pessimo posto per metterci delle librerie esterne: se il programma lo devi dare ad altri cosa fai?
Comunque, i jar li puoi mettere dove vuoi basta che quando compili/esegui ti ricordi di indicare il classpath col l'opzione -cp
Esempio:
javac -cp . pippo.pluto.Classe.java
(il . è la cartella corrente)