In effetti c'è qualcosa che non torna...
Ok, vediamo se ho capito quello che vuoi fare: ad ogni iterazione del ciclo for (e quindi, ad ogni nuova riga della matrice) calcoli il "modulo" e sposti la riga in posizione corretta nell'ordinamento. Ti trovi quindi nello scenario in cui, se stai considerando l'indice k, sei sicura che tutte le righe fino all'indice k-1 sono ordinate correttamente TRA LORO. Quello che devi fare, quindi, ad ogni nuova riga è "spostarla" verso l'alto finchè il suo modulo non risulta nella posizione corretta (utilizzando un ciclo - e non un "if" - che ha come terminazione il raggiungimento della "prima posizione" OR dell'ordinamento corretto)