conta il numero delle volte che la keyword è ripetuta nella pagina?
In parte. Per molti motori conta più la percentuale, non la frequenza.


come fanno i motori ad evitare che la parola venga semplicemente ripetuta decine di volte
Ovviamente non lo possono evitare, ma possono capire se si tratta di ripetizioni della stessa parola ed eventualmente decidere di ignorare quella parte di testo.