Il problema è determinato da uno "stack overflow".

Stai tentando di allocare 6,4 M nello stack e con le impostazioni di default non è possibile (almeno con quel compilatore e con Windows)

Non conosco le caratteristiche del compilatore/linker ma con Visual C++ avresti dovuto impostare per il linker l'opzione

/STACK:100000000

per non avere problemi.

Oppure, soluzione più sensata, allochi dinamicamente il vettore aux