Trattare checkbox come radio dovrebbe voler dire che solo un elemento per volta può essere selezionato e non può essere deselezionato.

Per fare diversi gruppi di checkbox occorre che abbiano qualcosa in comune tipo name (così da essere ancora più simile ai radio), ma va bene anche class o attributi personalizzati

codice:
$("input[name=f1]").click(function(){
    $("input[name=f1]").prop("checked", false); //deseleziono tutto
    $(this).prop("checked", true); //seleziono solo l'elemento cliccato
})
Se invece vuoi prendere indistintamente tutti le checkbox puoi fare

codice:
$("input:checkbox").click(function(){
    $("input:checkbox").prop("checked", false); //deseleziono tutto
    $(this).prop("checked", true); //seleziono solo l'elemento cliccato
})