Non vorrei dire una stronzata , ma guardando il codice dei sorgenti della jdk , credo che il keyListener non faccia effetto sul JFileChooser che tu vedi, in quanto quando richiami il metodo showOpenDialog ti viene ritornato un nuovo JDialog .