Se lo dice joomla si

Comunque il vero problema non è il server, ma sono latenza + client.
Per il server puoi usare php. Usi un paio di fsocket + socket. Il primo per comunicare dal tuo pc con il server e quindi avviare lo script in remoto dentro il quale metti tutto quello che ti serve per la videocomferenza, ovvero una serie di funzioni che consento più collegamenti di utenti tramite sockets e girano le immagini video di un client a tutti gli altri, uno script di Brodcast.
Per il client puoi fare un semplice flash che trasforma le immagini della webcam in immagini compresse (ecco il diffficile) e le manda in tempo reale al server.

Altrimenti ti cerchi un hosting red5 e lo configuri come dice la guida.