Quello che chiedi non è per nulla banale, e dubito si trovino guide complete... in generale si possono usare le librerie pcap (e winpcap su Windows), e puoi ispirarti dai sorgenti di prodotti come wireshark, ma se non sei pratico del C ti consiglio di iniziare con progetti meno ambiziosi.