Ciao
se ti accontenti di evidenziare l'inserimento di un valore doppio puoi usare la formattazione condizionale che è un modo per colorare le celle che hanno certe caratteristiche come, appunto, quella di contenere un valore duplicato.
Se invece vuoi proprio impedirne l'inserimento devi usare VBA, non credo che sia possibile farlo utilizzando delle semplici formule.