Credo che il formato corretto sia #,##0.000, ad ogni modo per provare se è quello giusto basta creare velocemente un'applicazione vuota e mostrare all'interno di una Label o di una casella di messaggio il valore stringa ottenuto dalla formattazione con FormatFloat: se il numero appare come desiderato, allora bene, altrimenti occorre apportare modifiche.

Per le indicazioni complete sulla specificazione di una maschera di formato, posizionati su FormatFloat e premi F1 per richiamare la Guida in linea di Delphi.

Ciao!