Che Windows ottimizzi la gestione della memoria disponibile per un processo (gestione del working set) è normalissimo.

Per capire se c'e' veramente un problema di "memory leak" bisognerebbe fare alcune prove che, a distanza, non sono agevoli.

Comunque, puoi controllare da Task Manager cosa succede alla memoria del processo quando ne minimizzi la finestra (se ne ha una).

Per quanto riguarda il codice, non si nota (a prima vista) qualche problema.
In realta', i cicli sono controllati dalla variabile i che parte da next e arriva ad n. Nulla sappiamo di queste due variabili ne' se la funzione F crea problemi al suo interno.