Di quelle sintassi l'unica che puo` avere senso e` la seconda:
objD.onMouseOver = "className='classe2';";

Ma forse conviene fare una funzione nella pagina dove sta il link, che si comporti in maniera diversa a seconda di un parametro o di una variabile globale chepuo` venir modificata da un altro frame.

Mi spiego meglio.

Nella pagina dove c'e` il link:
var classe_link = "classe2";

function click_link() {
if(qualcosa) {
...fai successione di passi...
return true;
} else {
...fai altra sequenza...
ad esempio
document.getElementById(...) = classe_link;
return false;
}
}

.... ....

<a href="..." onclick="click_link();">