In Catalina.bat (se usi Windows) c'è un riferimento alla variabile d'ambiente JAVA_OPTS.
Credo che inserendo nel file una riga con
SET JAVA_OPTS=opzioni della vm
dovrebbe funzionare.