La tua domanda non ha molto senso: se vuoi che di certi checkbox se ne possa marcare solo uno alla volta...
Non devi usare le checkbox!
Devi invece usare le option box e raggrupparle, questo farà automaticamente sì che il browser stesso, senza nessun bisogno di javascript, impedisca la selezione multipla.