ok, mi sa che non avevo capito di preciso cosa volessi tu
ti serve che se quando esci da un pulsante, se non tocchi nessuno degli altri, allora esegui l'azione?
in questo caso direi ad ogni bottone
bottone1.onRollOut = function(){
if(bottone2.hitTest(_xmouse, _ymouse, true)==false and bottone3.hitTest(_xmouse, _ymouse, true)){
//esegui azioni
}
}

eccetera per gli altri pulsanti

dimmi che è questo che volevi, altrimenti spiegati in altro modo
ciao