Su Windows puoi usare la API ShellExecute.
codice:
#include <windows.h>

...

if(ShellExecute(NULL, "open", "http://www.google.it/", NULL, NULL, SW_SHOW)<=32)
{
    // si è verificato un errore nell'aprire il browser
}
Su Linux l'unica cosa sensata probabilmente è usare xdg-open.