Penso che il sistema più utilizzato sia Winamp + Shoutcast Server...

cerca su google e troverai molte guide in merito, anche in italiano...

poi penso che si possa fare anche con VideoLan, ma di questo non ti so dire di più!