sei la prima persona al mondo che ha un problema del genere... di solito si cerca di raggiungere una risoluzione maggiore

Comunque il metodo del dpkg-reconfigure è giusto, e l'errore che ti viene dato è dovuto al fatto che non hai scelto i driver giusti per la tua scheda video...
Se vuoi far partire X senza mettere driver particolari usa Vesa chè è il driver generico (funzionante per il 99% delle schede).