Progetto java scacchiera

[andbin]

ma vorrei alternare 1 e 0 su ogni riga e colonna

Chiaramente invece che

mat[i][j] = 1;

fisso, dovresti assegnare 0 o 1. Si può fare in diversi modi ma un modo semplice è tenere (già prima dei for) una variabile che inizialmente è es. 0. Dopo ogni assegnamento cambi il valore da 0 a 1 o viceversa.
Si può fare anche con un semplice boolean. Se true=1, se false=0, poi inverti il boolean. Anzi ... è anche più semplice!

e vorrei fargli la cornice attorno

Si tratta solo di banali print/println. Le cornici sopra/sotto con dei println. E per le cornici sinistra/destra basta un print di una barra prima/dopo il ciclo delle colonne.