Mi pare di capire che ci sia un checkbox per ogni file, questa può essere una soluzione:
codice:
<!--includo la libreria jQuery per il motore di selezione-->
<script src="//ajax.googleapis.com/ajax/libs/jquery/1.11.1/jquery.min.js"></script>
<script type="text/javascript>
function validateForm(module){
    if($('input[type="checkbox"]', $(module)).length<10){
        alert('Seleziona almeno 10 files');
        return false;
    }
}
</script>
<!-- form con i file e le checkbox-->
<form .... onsubmit="return validateForm(this)">
Questa soluzione presuppone che non ci siano altre checkbox nel form oltre a quelle associate ai files.
Fammi sapere se va.