UPDATE PROGETTO.libro SET DISPONIBILITA = (DISPONIBILITA - 1 ) where isbn='" + txt.getText() + "'
controlla txt.getText() sia un valore presente in tabella , c'è differenza anche tra maiuscolo / minuscolo

SELECT disponibilita FROM LIBRO where bla /bla

forse ti manca una condizione di where