innanzi tutto ma x cosa le devi ordinare?
Cmq ordinando x esempio le chiavi:

codice:
Enumeration e = propertiesFile.propertyNames();
List list = new Vector();
   while (e.hasMoreElements()) {
      e.nextElement();
      list.add(e);
   }
   java.util.Collections.sort(list);
poi che ne so potresti fare creare un nuovo properties metterci le corrispondenze chiave valore nel nuovo ordinamento, cancellare il vecchi file di properties e riscrivere questo.

codice:
String arr[] = (String[])list.toArray() 
Properties prop = new Properties();
int len = arr.length;
for(int i=0; i<len; i++)      prop.setProperty(arr[i],propertiesFile.getProperty(arr[i]));
Quindi ora cancelli il vecchio properties e metti il nuovo prop al suo posto.

NB ho scritto il codice di getto quindi sicuramente è sballato...