Dovresti aumentare una variabile ogni qual volta che una checkbox venga spuntata:

<input type="checkbox" onchange="if(this.checked){chx += 1}else{chx -=1}" onclick="if(this.checked && chx >= 3){if(confirm('Confermi?')){submit()}else{return false;}}" />

In questo modo:
1. quando viene cambiato il valore della casella(onchange)il valore di chx viene aumentato di 1 se la casella è spuntata, e diminuito se non lo è(assumendo che chx sia inizializzata a 0 e che tutte le checkboxes inizino non spuntate);
2. quando viene cliccata la checkbox, se essa è spuntata e chx è uguale o maggiore a 3(quindi ci sono almeno 3 caselle spuntate)l'utente visualizza un messaggio di conferma, che se riceve "OK" invia il form.