Indagherei sulle applicazioni open-source che vedi qui, ad esempio su questa libreria su cui si basa il supporto di VLC e di mplayer per RTSP.
Ma se viene fornito uno stream MJPEG tramite HTTP forse è più facile usare quello.
Amaro C++, il gusto pieno dell'undefined behavior.