Fermo restando che sarebbe meglio usare dei radio, pensati specificatamente per quello scopo, puoi adattare questo:
codice:
<script>
function testa(chk) {
	f = chk.form;
	for (var i=0;i<f.elements.length;i++) {
		el = f.elements[i];
		if (el.type=="checkbox" && el!=chk) el.checked = false;
	}
}
</script>

<form>
<input type="checkbox" onclick="testa(this)">
<input type="checkbox" onclick="testa(this)">
<input type="checkbox" onclick="testa(this)">
<input type="checkbox" onclick="testa(this)">
</form>
Ti correggo il titolo...