Ciao e benvenuto,
esiste un plugin di mozilla per "embeddare" VLC in pagine html, qui c'è una guida per linux: http://www.videolan.org/doc/vlc-user-guide/en/ch07.html

per windows invece bisogna includere un controllo ActiveX, come descritto qui: http://wiki.videolan.org/ActiveX/HTML

però, come scritto in quest'ultimo link, le API sono un po' datate e verranno tolte... ti conviene quindi usare la nuova interfaccia VLC ActiveX v2. Qui trovi tutta la documentazione che ti serve: http://wiki.videolan.org/Documentation:WebPlugin


P.S. considera anche il nuovo tag html5 <video>, che probabilmente sarà il nuovo standard!

Buon lavoro