OpenGL e Qt vanno incontro a necessità molto diverse.
Le OpenGL servono se ti serve "fare" grafica ad alte prestazioni - ad esempio videogiochi, CAD e simili; non forniscono nulla per quanto riguarda la gestione dell'input, controlli standard & co. - servono solo a disegnare a schermo (e il focus di base è sul 3D).
Le Qt (come altri toolkit grafici), invece, servono (almeno in prima approssimazione) a creare interfacce grafiche con controlli standard (o creando eventualmente controlli custom), per cui hai una libreria di controlli con aspetto nativo già pronti, gestione degli eventi tramite signal/slot e un sacco di altra roba. In altri termini, OpenGL e Qt non sono alternative, ma librerie per scopi diversi (tanto più che le Qt stesse mettono a disposizione un controllo canvas OpenGL in cui si può disegnare tramite OpenGL).