Se non ho capito male quello che ti serve è:

codice:
var outm = 1;
google.maps.event.addListener(homeMarker, 'mouseout', function() {//unica funzione
   if (outm == 1){
      homeWindow.close(mappa,homeMarker);
   }else{
      homeWindow.open(mappa,homeMarker);
   }
});
poi nell'evento "onClick" vari la globale "outm"