Prova a vedere se per qualche motivo nel file boot.ini hai uno switch del tipo /MAXMEN=256