codice:
function conta(obj) {
  var f = obj.form;
  var ct = 0;
  for (var i=0; i<f.elements.length; i++) {
    el = f.elements[i];
    if (el.type=="checkbox" && el.checked) {
      ct++;
    } 
  }
  if (ct>2) {
    alert("Solo due scelte!");
    obj.checked = false;
  }
}

...

<input type="checkbox" name="foto" value="xxx" onclick="conta(this)">
ciao