Basta 1 onEnterFrame, quando hai finito l'istruzione è meglio che lo stoppi...

rettangolo_mc.onEnterFrame = function() {
if (this._x >= 0) {
this._x -= 24;
}else{
if (this._xscale <= 200 && this._yscale <= 200) {
this._xscale += 5;
this._yscale += 5;
onEnterFrame = null;
}
}
}