Difficile diagnosticare il problema. Se ti viene restituito un errore Out of memory, significa che la tua applicazione ha dei "memory leak", cioè delle allocazioni di memoria (creazione di oggetti, disposizione di risorse) che non vengono deallocate al termine del loro utilizzo, magari riallocandole nuovamente nelle chiamate successive.

Il fatto di incrementare la RAM, sposta solo in avanti il punto critico in cui il programma andrà in blocco.

E' come avere un soffitto che perde acqua: aumentare le dimensioni del secchio che metti sotto a raccogliere le gocce significa solo posticipare il momento nel quale il secchio traboccherà, ma il vero problema è uno solo: chiudere la falla.

Senza uno stralcio di codice, è impossibile determinare quale possa essere l'origine del memory leak.

Magari hai semplicemente creato dei componenti dinamicamente di cui non esegui la Free e questa operazione viene iterata più volte saturando la memoria.

Prova a controllare il codice sorgente alla ricerca di eventualità di questo tipo...

Ciao!