>ma questo compilatore è open o a pagamento?

Open: http://www.mtasc.org/

>inoltre ha dei limiti o produce qualsiasi cosa

Compila classi create in actionscript 2, e ha alcune differenze con il compilatore interno al flash. Nella homepage dell'mtasc è scritto tutto, cosa scaricare, come usarlo, la sintassi, eccetera. Di vantaggioso ha che la compilazione è eccezzionalmente veloce (anche 10 volte più di quella del compilatore del flash), e che essendo un tool a riga di comando può essere integrato con altre applicazioni (ne è un esempio quel "compilatore" remoto).
Di sconveniente ha che se vuoi inserire degli elementi grafici nel filmato, ti devi costruire perlomeno il filmato iniziale con flash, per poi compilarlo con mtasc, e che effettivamente è (anche se leggermente) diverso dal compilatore della Macromedia, quindi possibilmente prono a portare in futuro a differenze con il compilatore ufficiale (improbabile, ma più di qualcuno non lo usa proprio per questo, me compreso).