Se il file sta dentro al jar devi usare getResourceAsStream:

http://bit.ly/getResourceAsStream